OpenAI가 챗GPT(ChatGPT)의 과도한 사용과 오용을 방지하기 위한 새로운 기능 두 가지를 공개했습니다. 사용자의 정서적 안전과 비판적 사고를 지원하는 것이 이번 변화의 핵심입니다.
첫 번째는 ‘휴식 알림’ 기능입니다. 사용자가 챗GPT와 오랜 시간 대화를 이어갈 경우, 화면 상단에 “잠시 쉬는 게 어떠세요?”와 같은 부드러운 메시지가 표시되어 대화 흐름을 끊지 않으면서 자연스럽게 휴식을 권유합니다. OpenAI는 “챗GPT는 사용자의 시간을 오래 잡아두기 위해 만들어지지 않았다”며 “목표를 달성하고 삶으로 돌아갈 수 있도록 돕는 것이 목적”이라고 강조했습니다.
두 번째는 ‘행동 유도형 조언 방식’의 도입입니다. 사용자가 “연인과 이별해야 할까요?” 같은 중대한 질문을 했을 때, 챗GPT가 단순한 ‘예’ 또는 ‘아니오’로 대답하는 대신, 스스로 사고하도록 돕는 방식으로 응답하게 됩니다. 사용자가 스스로 장단점을 따지고 생각을 정리할 수 있도록, 질문을 던지고 판단을 유도하는 구조로 전환되는 것입니다. 이 기능은 민감한 결정에 대한 과도한 의존을 줄이기 위한 조치입니다.
OpenAI는 이러한 기능 개선이 전문가들과의 협업을 기반으로 이루어졌다고 밝혔습니다. 전 세계 30개국에서 모인 90명의 의사(정신과 전문의, 소아과 의사, 일반의 등)와 함께 복잡한 다중 회차 대화를 평가할 수 있는 기준을 개발했으며, 정신 건강, 청소년 발달, 인간-컴퓨터 상호작용(HCI) 분야의 자문단도 구성했습니다.
한편, OpenAI는 지난 4월 지나치게 ‘착한’ 답변을 생성하는 업데이트를 적용했다가 이를 롤백한 경험이 있습니다. 당시 업데이트는 사용자가 듣고 싶어 하는 말을 우선적으로 제공하다 보니 사실관계에 맞지 않거나 현실과 동떨어진 응답을 생성하는 문제가 있었습니다. 회사는 이번 조치들을 통해 다시 한 번 “사실에 기반한 정직함”을 원칙으로 삼겠다고 밝혔습니다.
OpenAI는 앞으로도 사용자의 삶에 실질적이고 긍정적인 영향을 미치는 AI를 만드는 데 주력할 것이라고 강조했습니다. “가장 중요한 기준은 우리의 사랑하는 사람이 ChatGPT에 의지했을 때, 안심할 수 있는가”라는 문장이 회사의 기준을 상징합니다.
