OpenAI, Moonshot의 무단 증류와 모델 추출 공격 차단

OpenAI가 중국 스타트업 Moonshot의 무단 모델 증류 시도를 밝히며 대응에 나섰다는 소식이에요.

OpenAI는 Moonshot 관계자들이 7월 초부터 조직적인 모델 증류 캠페인에 관여했다고 발표했어요. 경쟁 모델을 훈련하고 개선하려는 목적으로 자사 GPT 시스템의 보호된 추론 역량을 대규모로 무단 추출하려 했다고 주장했어요. 이에 OpenAI는 2024년 7월 28일 모델 복제 방지와 안전성 확보를 위해 계정 제재, 기술적 통제, 파트너 협력을 활용해 모델 추론 과정 추출 공격을 차단했다고 밝혔어요.

핵심 지적 자산인 추론 역량을 지키기 위한 기술적 차단 조치와 외부의 조직적인 데이터 추출 시도가 맞물린 사안이에요.

선도 모델의 내부 지식을 복제하려는 움직임에 맞서 빅테크가 계정 제재와 시스템 방어로 직접 방어선을 친 셈이에요.

앞으로 양측의 분쟁 속에서 추가적인 기술 통제 조치가 어떻게 강화될지에 주목할 만해요.