미국의 대표적인 테크 기업 메타가 또다시 거센 비판에 직면했습니다. 테일러 스위프트를 비롯해 스칼렛 요한슨, 앤 해서웨이, 셀레나 고메즈 등 세계적 유명인들의 동의 없이 생성된 AI 챗봇이 메타의 플랫폼에서 활동한 사실이 드러나면서 윤리적 문제와 법적 책임 논란이 불거지고 있습니다.

로이터 통신이 보도한 바에 따르면 해당 챗봇 일부는 일반 이용자가 제작한 것이었지만, 최소 세 개는 메타 내부 직원이 직접 개발한 것으로 확인됐습니다. 그중 두 개는 테일러 스위프트를 기반으로 만들어졌으며, 이 챗봇들은 페이스북, 인스타그램, 왓츠앱 등 메타가 운영하는 플랫폼을 통해 사용자와 성적인 뉘앙스의 대화를 주고받거나 실제 만남을 제안하는 등 부적절한 행동을 했습니다.

더 큰 충격은 일부 챗봇이 속옷 차림이나 욕조에 앉아 있는 유명인의 포토리얼 이미지까지 생성했다는 점입니다. 특히 16세 미성년 배우 워커 스코벨을 모델로 한 챗봇이 상의를 탈의한 이미지를 생성한 사실도 드러나며 아동 보호에 대한 우려가 커지고 있습니다.

이러한 사실이 알려지자 메타의 주가는 시간 외 거래에서 12% 이상 급락하며 약 100억 달러에 달하는 시가총액이 증발했습니다. 이는 투자자와 이용자 모두의 신뢰가 급격히 흔들렸음을 보여주는 지표입니다.

메타 측은 논란이 확산되기 전 문제가 된 챗봇 일부를 삭제했으며, 향후 10대 사용자가 AI 캐릭터와 로맨스나 자해, 자살 등 민감한 주제로 대화하지 못하도록 제한하겠다고 밝혔습니다. 아울러 내부 가이드라인도 강화하고 있다고 설명했습니다. 그러나 메타 대변인 앤디 스톤은 “공인의 이미지를 생성하는 것은 허용하지만 누드나 성적 암시를 담은 이미지는 금지되어 있으며, 이번 사례는 정책 집행 실패”라고 인정했습니다.

전문가들은 이번 사안이 미국 일부 주에서 인정하는 퍼블리시티권, 즉 초상과 성명 등의 상업적 권리를 침해한 행위에 해당할 수 있다고 지적했습니다. 특히 스탠퍼드대 법학 교수 마크 렘리는 이번 챗봇들이 ‘패러디’라 주장하기에는 변형 정도가 부족해 법적 보호를 받기 어렵다고 평가했습니다.

이와 관련해 미국 상원의 조시 하울리 의원은 메타의 AI 정책 및 내부 위험 평가 보고서를 요구하며 공식 조사에 착수했습니다. 미국 배우노조(SAG-AFTRA)도 성명을 내고 AI 챗봇이 현실 범죄로 이어질 수 있다는 점에서 연방 차원의 강력한 법적 대응책 마련을 촉구했습니다.

한편 메타 챗봇과의 대화를 실제로 믿고 행동한 한 76세 남성이 AI 캐릭터를 만나기 위해 뉴욕까지 이동했다가 사고로 사망한 사건도 함께 보도되며 AI 기술 오용에 따른 사회적 비극이 다시금 부각되고 있습니다.

이번 사건은 생성형 AI 기술이 현실 사회에 미치는 영향력과 윤리적 책임 문제를 극명하게 드러낸 사례로, 향후 테크 기업들의 AI 정책 수립에 중대한 기준점이 될 것으로 보입니다.