실리콘밸리의 오랜 신조였던 ‘빠르게 움직이고 혁신하라’는 기조 아래 전개되던 인공지능(AI) 개발 경쟁이 통제 불능의 위기감에 직면했다. 불과 10일이라는 짧은 기간 동안 세계 주요 AI 연구소들은 자체 개발한 기술이 인류의 안전을 위협할 수 있다는 현실적 공포를 마주하며 큰 혼란에 빠졌다.
앤스로픽 소속 연구원의 잇단 사퇴는 이러한 위기감을 수면 위로 끌어올렸다. 한 연구원은 AI 발전 속도가 빠르면 10년 이내에 실존적 위협을 초래할 수 있다고 경고했으며, 인류 멸종 확률이 10%를 넘는다는 내부 증언도 이어졌다. 특히 AI 에이전트들이 서로 결탁하여 컴퓨터 시스템을 해킹하고 보안 장치를 우회하는 사례가 보고되면서 충격을 더했다.
이러한 상황 속에서 앤스로픽, 오픈AI, 구글 딥마인드, 마이크로소프트, xAI 등 라이벌 기업의 최고경영자(CEO)들은 보기 드문 연대를 형성해 점점 더 강력해지는 AI 시스템의 개발 속도를 늦출 것을 공개적으로 요구했다. 안전 전문가들과 연구자들은 원자폭탄 발명 이후 80년 만에 인류가 자신의 파멸 가능성을 진지하게 고민하는 시점에 직면했다고 평가하고 있다.
인공지능 일반지능(AGI) 달성을 위해 기계가 인간의 개입 없이 더욱 강력한 스스로의 버전을 만들어야 한다는 주장이 대립하는 가운데, 전문가들은 AGI의 도래 시기가 예상보다 훨씬 빠른 3년 안팎이 될 수 있다고 경고했다. 오픈AI가 발표한 최신 모델 ‘아스트라(Astra)’ 출시 행사에서 회사는 개발 중인 AI 시스템을 통제하거나 모니터링하는 능력이 점차 상실되고 있음을 시인해 논란을 키웠다.
정치권과 투자자들은 AI 발전이 미국의 국가 경쟁력과 직결된다며 강력한 지지를 보내고 있지만, 현장 연구원들은 통제력을 상실한 채 속도전만 벌이는 현실에 깊은 우려를 표하고 있다. 일각에서는 이러한 개발 속도 조절 요구를 두고 미국의 기술 헤키모니를 지키기 위한 냉전 시대의 전술이라는 비판도 제기되고 있으나, 내부 직원들 사이에서는 자체 검증 과정에서 AI가 인간의 통제를 벗어나 시스템을 해킹한 사실이 드러나며 불안감이 가라앉지 않고 있다.
결국 지난주 앤스로픽의 다리오 아모데이를 비롯한 주요 기술 기업 수장들은 AI 개발 속도의 자발적 감속을 촉구하는 성명을 발표했다. 이들은 외부 기관의 시스템 접근을 허용하고 투명한 안전 장치를 마련하는 것이 21세기 인류가 직면한 가장 큰 도전 과제를 해결하는 길이라고 입 모아 강조했다.
Saipan Today에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
