Anthropic, Claude 사용 정책 개정 및 보안 프로그램 출시

Anthropic이 사용자 이용 정책을 새롭게 바꾸고 사이버 보안 프로그램을 가동해요.

Anthropic은 Claude에 대한 지속적이고 불필요한 학대 및 잔혹 행위를 금지하도록 이용 정책을 개정했어요. 해당 행위가 발생하면 대화가 강제로 종료되며, 극단적인 모델 남용과 선전 캠페인, 선거 개입, 무기 소프트웨어 개발, 감시 활동 규정도 새롭게 추가됐어요. 한편 핵심 인프라를 지키기 위해 CrowdStrike 등을 시작으로 강력한 AI 모델과 현장 엔지니어를 지원하는 Critical Infrastructure Defense Program도 함께 선보였어요.

이용자의 비정상적 프롬프트 남용을 막는 동시에 핵심 방어망 지원 체계를 마련한 흐름으로 읽혀요.

모델의 오용을 엄격히 차단하면서 동시에 외부 위협 대응용 모델 공급을 체계화하려는 조치로 정리돼요.

앞으로 정책 위반 기준이 실제 대화 환경에서 어떻게 엄격히 적용될지가 관건이에요.