내년 1월 22일부터 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 이른바 AI 기본법이 시행됩니다. 우리나라는 유럽연합에 이어 두 번째로 AI 관련 법을 제정했지만 실제 적용 시점 기준으로는 세계 최초의 시행 국가가 됩니다. 유럽연합은 고위험 AI 규제의 상당 부분을 내년 8월부터 적용할 예정이어서 제도 운용 측면에서는 우리나라가 먼저 출발하게 됩니다.
AI 기본법의 핵심 쟁점 가운데 하나는 AI 생성물에 대한 워터마크 의무화입니다. 정부는 생성형 AI로 제작한 이미지와 영상에 사람이 인식할 수 있는 표시를 적용해 AI로 제작됐음을 알리도록 했습니다. 성 착취 딥페이크물과 같이 타인의 권리를 침해할 가능성이 큰 합성물에는 가시적 워터마크 삽입을 의무화합니다. 불법 요소가 없고 문화적 창작적 가치가 있는 콘텐츠에는 비가시적 워터마크를 적용해 사후 구별만 가능하도록 했습니다.
논란은 AI를 보조적으로 활용한 경우까지 표시 의무가 적용될 수 있다는 점에서 시작됐습니다. 채색 보정이나 화질 향상 등 제작 과정 일부에 AI가 사용됐다는 이유만으로 표시가 필요하다면 사회적 규제 준수 비용이 커질 수 있다는 우려가 나옵니다. 또한 AI의 도움을 받았다는 사실 자체가 소비자의 인식에 부정적으로 작용할 가능성도 제기됩니다.
AI 기본법이 국회 본회의를 통과하면 오픈AI 네이버와 같은 AI 사업자는 이용자가 합성 이미지나 영상을 생성할 때 워터마크를 적용할 수 있는 기술적 기반과 안내를 제공해야 합니다. 해외 AI 기업이 국내에서 영업할 경우 정부와 소통할 수 있는 국내 대리인 지정도 의무화됩니다. 인간의 생명이나 신체 안전과 관련된 기술은 고영향 인공지능으로 분류해 정부가 안전성과 신뢰성 확보 조치를 요구할 수 있도록 했습니다.
법 위반 시 과학기술정보통신부 장관은 시정명령과 함께 최대 3천만원의 과태료를 부과할 수 있습니다. 업계는 딥페이크 범죄 방지 취지에는 공감하면서도 규제 범위가 지나치게 넓어질 경우 서비스 경쟁력과 창작 환경에 부담이 될 수 있다고 지적합니다. AI 활용이 일상화되는 상황에서 단일한 표시 방식이 얼마나 실효성을 가질지에 대한 고민도 이어지고 있습니다.
