OpenAI, 청소년 대상 무기 정보 차단과 자동 대화 종료 적용

OpenAI가 2027년 초 첫 Community Safety Report를 발간하고 청소년을 위한 안전 보호 조치를 대폭 강화해요.

OpenAI는 18세 미만 청소년 사용자를 대상으로 폭력적 징후가 없는 경우까지 포함해 ChatGPT의 무기 관련 정보 제공을 추가로 제한하기로 결정했어요. 아울러 ChatGPT 내에서 과거 대량 공격 및 총기 관련 정보 제공을 제한하고 폭력 징후를 감지할 때 대화를 자동으로 종료하는 조치도 함께 적용해요.

이번 조치는 청소년 이용자가 챗봇을 사용할 때 노출될 수 있는 위험 요소를 사전에 차단하기 위해 마련된 안전 가이드라인에 해당해요.

OpenAI는 청소년 사용자의 위험 대화를 직접 종료하고 무기류 질문의 답변 범위를 축소하는 방식으로 보호 기능을 운영한다는 방침이에요.

앞으로 2027년 초 발간될 첫 보고서를 통해 이러한 안전 조치가 실제 환경에서 어떻게 적용될지 주목할 만해요.