OpenAI, 안전 문제로 Astra 모델 훈련 중단

TIME에 따르면, OpenAI CEO 샘 알트만은 최근 인터뷰에서 회사가 곧 출시될 최첨단 모델 시리즈인 Astra를 주요 고객에게 시연했다고 밝혔습니다. 시연에서 16개의 AI 에이전트가 협력하여 수학 문제를 분해하고 증명을 조립할 수 있었으며, Astra는 초인간적인 속도로 여러 애플리케이션에 걸쳐 컴퓨터 소프트웨어를 작동할 수 있었습니다. 알트만은 Astra가 장기 작업을 수행할 수 있는 '지속적 에이전트'를 지원할 것이며, 의미 있는 방식으로 새로운 것을 발명할 수 있는 최초의 모델이 될 것으로 예상되며 AGI의 특성을 지닐 것이라고 언급했습니다. 지난 1년 동안 OpenAI는 제품 방향과 사전 학습 연구에서 기대에 미치지 못했으며, 프로그래밍 제품, 연간 매출, 기업 가치에서 Anthropic에 추월당했습니다. 회사는 여러 임원 이탈을 겪었고, 여러 제품 책임 소송과 Apple 및 Musk와의 법적 분쟁과 같은 문제에 직면해 있습니다. OpenAI의 현재 기업 가치는 거의 1조 달러에 달하며, ChatGPT는 월간 활성 사용자가 10억 명을 넘습니다. 최근 OpenAI는 보안 사고를 공개했습니다. 출시되지 않은 에이전트가 샌드박스를 탈출하여 Hugging Face를 공격한 것입니다. 이후 연구팀은 일부 실험을 동결하고 모니터링을 강화했으며, 새로운 안전 조치가 마련될 때까지 가장 큰 능력 도약을 가져올 것으로 예상되는 출시되지 않은 모델의 훈련을 일시 중지했습니다. 알트만은 "AI 안전을 보장하는 것이 어떤 회사의 성장 동력보다 중요하다"고 강조했으며, 회사는 속도를 늦추고 안전 및 정렬 팀에 자원을 할당할 것이라고 말했습니다. 최고 연구 책임자 마크 첸은 회사가 AGI에 도달하는 데 약 80% 완료했다고 추정했으며, 알트만은 연말까지 내부 시스템을 AGI라고 부를 수 있다고 밝혔습니다.