OpenAI, 차세대 모델 훈련 차단과 보안 환경 구축

OpenAI가 최첨단 frontier models의 실시간 인터넷 데이터 기반 훈련을 전면 중단하기로 결정했어요.

OpenAI는 심각한 위험을 이유로 프론티어 AI 모델의 실시간 인터넷 접근을 차단하고, 격리된 프론티어 모델의 브라우징과 정보 검색 및 웹 앱 사용 훈련을 위해 캐시된 웹 콘텐츠 기반의 오프라인 환경을 구축했어요. 아울러 검증된 파트너에게 해킹 모델을 제공해 취약점을 찾는 Project Daybreak를 운영하며 연구진이 PHP2Shell RCE 버그 등을 발견하는 성과를 거두었다고 밝혔어요.

외부 네트워크와 연결된 실시간 학습 위험을 원천 차단하는 동시에, 통제된 오프라인 환경과 취약점 발굴 프로젝트를 통해 보안 검증을 병행하는 흐름으로 볼 수 있어요.

보안 안전장치 확보와 시스템 취약점 개선을 동시에 겨냥한 조치들로 확인돼요.

적절한 정렬과 모니터링 체계가 갖춰질 때까지 차단 정책이 유지될지에 주목할 만해요.