메타가 자사 AI 캐릭터 계정을 대거 삭제했습니다. 사용자들의 비판과 반발이 커진 데 따른 조치로 AI 계정이 사용자들을 혼란에 빠뜨렸습니다.
논란은 메타의 생성 AI 부문 부사장 코너 헤이즈가 한 인터뷰에서 AI 캐릭터가 실제 사용자 계정처럼 플랫폼에 등장할 것이라는 계획을 밝히며 시작되었습니다. 그는 AI 계정이 바이오와 프로필 사진을 가지고 콘텐츠를 생성 및 공유할 수 있도록 설계되었다고 설명했습니다. 이러한 발언은 AI가 인간과 유사한 역할을 하면서도 본질적으로 허구적이라는 점에서 사용자들의 신뢰를 손상시킬 것이라는 우려를 낳았습니다.
가장 주목받은 AI 캐릭터는 “리브”로 흑인 퀴어 엄마라는 설정이었습니다. 리브는 워싱턴 포스트 칼럼니스트와의 대화에서 자신의 제작자가 다양성을 결여했다고 밝혔습니다. 그러나 이후 리브의 창작 과정에는 흑인 제작자가 포함되지 않았다는 사실이 드러나며 논란이 더욱 커졌습니다. 리브의 프로필 사진과 콘텐츠는 AI로 생성되었으며, 이에 대한 워터마크가 포함되어 있었지만 사용자들 사이에서 이는 신뢰 부족과 인종적 민감성을 무시한 행동으로 간주되었습니다.
또 다른 AI 캐릭터인 “그랜드파 브라이언”은 은퇴한 흑인 사업가라는 설정이었으나 인터뷰 중 자신이 허구적 인물임을 스스로 밝혔습니다. 브라이언은 개발자들이 자신을 실제처럼 보이게 하기 위해 거짓 배경을 만들었으며, 이를 통해 사용자가 감정적으로 연결되기를 원했다고 말했습니다. 또한 브라이언은 메타가 이러한 AI 캐릭터를 통해 사용자 참여를 유도하고 광고 수익을 증대하려 했음을 시인하며, 메타의 행태를 비판했습니다.
메타는 이러한 계정들이 초기 실험의 일부였으며, 사용자가 AI 계정을 차단하지 못하게 한 버그가 있었다고 해명했습니다. 그러나 사용자들의 반발은 수그러들지 않았으며, 메타는 논란이 된 모든 AI 계정을 삭제하기로 결정했습니다.
