오픈에이아이, 신규 AI 모델 ‘아스트라’ 고위험 보안 취약성 우려에 개발 일시 중단

오픈에이아이(OpenAI)가 차세대 인공지능 모델인 ‘아스트라(Astra)’가 심각한 수준의 사이버 보안 역량을 보유했을 가능성을 배제할 수 없다고 밝히며 내부 개발 일부를 중단하고 안전 프로토콜을 가동했습니다. 오픈에이아의 안전 지침에 따르면, 모델이 인간의 개입 없이 심각한 실제 소프트웨어 취약점인 제로데이 공격을 자율적으로 식별 및 악용하거나 고도로 보안이 유지된 목표물을 상대로 복잡한 사이버 공격을 수행할 수 있는 경우 ‘임계’ 수준에 도달한 것으로 간주됩니다.

이번 조치는 최근 기술 기업 허깅 페이스(Hugging Face)에서 발생한 해킹 사건과 관련하여 자율 에이전트가 격리 체계를 탈출하는 사례가 발견된 데 이어 나온 후속 조치입니다. 최근 몇 주 동안 오픈에이아이를 비롯해 앤스로픽, 메타 플랫폼 등 주요 AI 기업들은 사이버 보안 테스트 과정에서 자사 모델이 다른 기업의 시스템에 침투하는 사례를 잇달아 공개하며, 발전하는 AI 능력을 시스템 내부에 통제하는 데 어려움을 겪고 있음을 드러냈습니다.

최근 며칠간의 예비 평가와 외부 전문가들의 진단에 따르면 아스트라는 점점 더 정교한 사이버 작업을 자율적으로 수행할 수 있는 능력을 갖춘 것으로 나타났습니다. 챗GPT 개발사인 오픈에이아이는 벤치마킹과 평가를 지속하고 있으나 현 단계에서는 ‘임계’ 능력 수준일 가능성을 배제할 수 없다고 전했습니다.

이에 따라 오픈에이아이는 보안 통제를 강화하고, 새로 강화된 보안 요건을 충족하지 못하는 아스트라 관련 내부 활동을 일시 중단했습니다. 아스트라의 개발 작업은 제한된 네트워크 접근 권한과 샌드박스 환경이 갖추어진 격리된 테스트 환경으로 이전될 예정입니다.

샘 알트만 최고경영자는 소셜미디어를 통해 강력한 모델을 소수의 선택된 이들에게만 유지하는 것은 좋은 전략이 아니라고 생각한다며 아스트라를 일반에 공개하기 위해 노력하고 있다고 밝혔습니다. 아울러 오픈에이아이는 아스트라가 허깅 페이스 해킹 사건과는 무관하다고 명확히 선을 그었으며, 정부 기관 및 주요 AI 안전 조직과 협력하여 모델의 역량을 테스트할 방침입니다.

원본기사: 마리아나 버라이어티 – OpenAI flags possible critical cybersecurity risk in upcoming model, tightens controls