오픈AI가 챗GPT에 ‘믿을만한 연락처(Trusted Contact)’ 기능을 도입합니다. 사용자가 스스로 지정한 가족, 친구, 보호자에게 위기 상황을 알릴 수 있는 선택형 안전 기능입니다.
이 기능은 만 18세 이상 성인 사용자를 대상으로 순차 배포됩니다. 한국에서는 만 19세 이상 사용자가 대상입니다. 사용자는 챗GPT 설정에서 믿을만한 연락처를 1명 등록할 수 있습니다. 등록된 사람은 초대를 받고, 1주일 안에 수락해야 기능이 활성화됩니다.
믿을만한 연락처는 사용자가 자해나 극단적 선택과 관련된 심각한 위험 신호를 보일 때 작동합니다. 챗GPT의 자동화 시스템이 위험 가능성을 감지하면, 먼저 사용자에게 믿을만한 연락처에 알릴 수 있다고 안내합니다. 이후 특별 교육을 받은 검토자가 상황을 확인합니다. 검토자가 심각한 안전 우려가 있다고 판단하면 믿을만한 연락처에 알림이 전송됩니다.
알림은 이메일, 문자 메시지, 챗GPT 앱 알림 등으로 전달될 수 있습니다. 다만 대화 내용이나 전체 채팅 기록은 공유되지 않습니다. 알림에는 사용자가 자해와 관련된 우려스러운 대화를 했을 수 있다는 일반적인 이유와, 당사자에게 확인 연락을 해보라는 안내가 포함됩니다.
오픈AI는 이 기능이 응급 서비스나 전문 치료를 대체하지 않는다고 설명했습니다. 챗GPT는 필요할 경우 위기 상담 전화, 응급 서비스, 정신건강 전문가, 주변 사람에게 도움을 요청하도록 계속 안내합니다. 믿을만한 연락처는 사용자를 현실의 관계와 연결하기 위한 보조 안전 장치에 가깝습니다.
이번 기능은 기존 청소년 계정의 보호자 알림 기능을 성인 사용자로 확장한 흐름입니다. 오픈AI는 부모 통제 기능에서 청소년 계정에 급성 distress 징후가 있을 때 보호자에게 알릴 수 있는 안전 알림을 제공해 왔고, 이번에는 성인 사용자도 스스로 믿을만한 사람을 지정할 수 있게 했습니다.
오픈AI는 믿을만한 연락처 기능을 개발하며 임상의, 연구자, 자살 예방 관련 기관의 자문을 받았다고 밝혔습니다. 미국심리학회 CEO 아서 에번스는 사회적 연결이 정서적 고통을 겪는 시기에 중요한 보호 요인이라고 설명했습니다. 오픈AI는 60개국 260명 이상의 면허 의사로 구성된 글로벌 의사 네트워크와 AI 웰빙 전문가 위원회도 개발 과정에 참여했다고 밝혔습니다.
사용자는 언제든 믿을만한 연락처를 변경하거나 삭제할 수 있습니다. 믿을만한 연락처로 지정된 사람도 원하지 않으면 초대를 거절하거나 스스로 빠질 수 있습니다. 오픈AI 도움말에 따르면 이 기능은 개인용 챗GPT 계정에서 제공되며, 챗GPT 비즈니스, 엔터프라이즈, 에듀 같은 공유 워크스페이스에는 적용되지 않습니다.
믿을만한 연락처는 AI 서비스가 민감한 대화를 어떻게 다뤄야 하는지 보여주는 사례입니다. 챗봇이 모든 문제를 직접 해결하려 하기보다, 위험 신호가 있을 때 사용자를 실제 사람과 연결하는 방향입니다. 동시에 자동 감지, 사람의 검토, 개인정보 보호 사이의 균형이 중요해졌습니다. 오픈AI는 모든 알림이 전송되기 전에 훈련된 검토자의 확인을 거친다고 설명했습니다.
