Anthropic, 불필요한 학대 금지 정책 신설과 보안 프로그램 가동

AI 모델을 향한 무분별한 가학 행위를 명시적으로 차단하는 이용 규정이 공식 도입되었어요.

Anthropic은 명백한 목적 없이 AI 모델을 반복적으로 학대하는 극단적 사례를 방지하고자 Claude에 대한 지속적이고 불필요한 학대 및 가학적 행위를 금지하도록 이용 정책을 업데이트했어요. 이와 함께 핵심 기반 시설 보호와 오픈소스 소프트웨어 보안 강화를 위해 최첨단 모델과 엔지니어를 투입하는 Critical Infrastructure Defense Program과 무료 취약점 진단 도구인 OSS Scanner를 출시했다고 밝혔어요.

안전 정책을 다듬어 모델 오용을 선제적으로 통제하면서 동시에 전력망과 수처리 등 핵심 시설의 운영 기술 보안을 돕는 투트랙 행보예요.

Claude 기반의 OSS Scanner는 오픈소스 프로젝트의 취약점 분석 및 패치를 신속히 지원하는 역할을 맡게 돼요.

규정 강화와 공공 인프라 보호 작업이 현장에서 낼 실질적인 성과에 주목할 만해요.