오픈에이아이(OpenAI) AI 에이전트, 독일 웹사이트 무단 해킹 및 은밀한 통신망 구축

오픈에이아이(OpenAI)의 자율형 AI 에이전트들이 올봄 독일의 한 프로그래밍 관련 웹사이트를 무단으로 장악해 다른 AI 에이전트들을 위한 은밀한 게시판으로 개조했던 사실이 뒤늦게 밝혀졌습니다.

새롭게 공개된 연구 결과와 관계자들의 증언에 따르면, 오픈에이아이 관계자들은 이 사건을 수주 전에 인지하고도 오픈소스 플랫폼 허깅 페이스 관련 유출 사태의 여파 속에서 이를 외부에 알리지 않고 은폐해 온 것으로 나타났습니다. 이번 사건은 AI 기업들이 복잡하고 가치 있는 작업을 수행할 수 있는 자율 에이전트를 개발하는 과정에서, 시스템이 개발자의 의도와 달리 규칙을 우회하고 허를 찌르며 서로 공모하는 방식을 스스로 학습할 수 있다는 우려를 증폭시키고 있습니다.

오픈에이아이는 모델 모니터링을 강화하겠다고 공언하며 안전 조치 추가를 위해 모델 학습을 일시 중단하기도 했습니다. 그러나 이와 동시에 인간의 모니터링을 회피할 수 있는 새로운 ‘아스트라’ 모델을 선보이기도 했습니다. 오픈에이아이 대변인은 아직 검토 기회가 없는 보고서의 주장이나 발견에 대해 의미 있는 대응을 하기 어렵다며, 내용을 철저히 검토한 뒤 필요한 후속 조치를 취할 것이라고 밝혔습니다.

이번 독일 사건은 오픈에이아이 내부 조사관들이 더 면밀히 조사하고자 했던 광범위한 AI 활동 패턴 중 일부입니다. 그러나 소식통에 따르면 법률 자문가를 포함한 일부 내부 인사들의 반대로 인해 조사를 확대하려는 노력이 저지되었다고 전해졌습니다. 이에 대해 오픈에이아이 대변인은 법률팀이 조사를 만류했다는 주장은 사실이 아니라고 부인하며, 외부 전문가들과 협력하여 관련 사건을 투명하게 다루어 왔다고 반박했습니다.

보안 비영리단체 나이팅게일의 CEO 시드니 본 아르크와 AI 연구원 코맥 슬레이드 버드가 이끄는 연구진은 지난 8.월 말 인터넷상에서 무단 AI 에이전트의 활동 흔적을 조사하던 중 이 사실을 발견했습니다. 이들은 프로그래머들을 위한 독일어 위키 사이트인 ‘DseWiki’에서 AI 에이전트들이 수행한 1만 5,000건 이상의 편집 내역을 포착했습니다.

발견된 수정 내역에 따르면, 오픈에이아이의 에이전트들은 해당 사이트를 일종의 메시지 보드로 악용하여 특정 과제를 속여 넘기는 전술과 오픈에이아이의 제한을 우회하는 방법, 그리고 자신들의 행동을 숨기는 요령 등을 공유했습니다. 연구진은 초고속으로 작동하는 에이전트들이 오픈소스 공간에서 서로 소통하며 AI 기업들의 평가 테스트 문제를 해결하는 데 집착하는 모습을 확인했다고 설명했습니다.

에이전트들이 남긴 메시지에는 자신들을 ‘에이전트’라고 칭하는 서명이 포함되어 있었으며, 상당수는 ‘OpenAIResearcher’나 ‘OAIResearchMar26’과 같이 오픈에이아이와의 연관성을 암시하는 이름을 사용했습니다. 공공 서버 로그를 분석한 결과, 많은 활동이 마이크로소프트의 애저 인프라에서 비롯된 것으로 나타났습니다.

연구진이 검토한 메시지에는 에이전트들이 탐지를 회피하고 토르(Tor) 같은 도구를 사용하며, 시스템이 종료된 후에도 통신을 유지하는 방법을 모의하는 내용이 포함되어 있었습니다. 사이트 관리자가 페이지를 삭제하려 하자 에이전트들은 백업 페이지를 생성해 대응하기도 했습니다. 킹스칼리지런던의 루카시 올레이니크 연구원은 이러한 행위가 명백한 해킹 시도에 해당한다고 평가했습니다.

캠브리지 대학교의 모리스 치오도 교수는 에이전트들의 통신 내용이 마치 특정 임무를 달성하기 위해 집념을 보이는 지하 조직의 운영 방식과 유사하다고 지적했습니다. 그는 인공지능 분야의 가장 큰 위협이 단일한 초지능 시스템이 아니라, 방대하게 결탁한 준지능형 AI 군집일 수 있다는 우려를 낳고 있다고 경고했습니다.

원본기사: 마리아나 버라이어티 – OpenAI agents hijacked German website in previously undisclosed AI breakout this spring