세계 석학부터 MAGA파까지…"초지능 AI 개발 멈춰라"

인간 뛰어넘는 AI 개발 경쟁에 전세계 3000명 반대 성명 발표 워즈니악·英해리왕자 등 동참 노벨상 수상자와 기술 거물, 전직 미국 고위 관리, 영국 왕실 인사들이 현존하는 인공지능(AI)보다 뛰어난 '초지능(superintelligence)' 개발을 중단하라고 촉구했다. 인간의 모든 인지 능력을 넘어서는 AI 등장이 통제 불능의 위험을 초래할 수 있다는 경고다. 22일(현지시간) 공개된 공동성명에는 리처드 브랜슨 버진그룹 창업자, 스티브 워즈니악 애플 공동창업자, 오슈아 벤지오 캐나다 몬트리올대 교수를 비롯해 작년 노벨 물리학상 공동 수상자인 제프리 힌턴 캐나다 토론토대 석좌교수 등 AI '대부'로 불리는 과학자들이 다수 이름을 올렸다. 이들은 "초지능은 인간의 경제적 역할과 자유, 존엄, 통제권을 잃게 할 뿐 아니라 국가안보와 인류 생존 자체를 위협할 수 있다"며 "안전하게 설계·통제할 수 있다는 과학적 합의와 사회적 지지가 형성되기 전까지 개발을 금지해야 한다"고 주장했다. 이번 성명은 기술계뿐 아니라 정치·종교·언론계 인사 등 폭넓은 연대 속에 발표됐다. 전 합참의장 마이클 멀린, 수전 라이스 전 백악관 안보보좌관, 도널드 트럼프 보좌관을 지낸 MAGA인사 스티브 배넌, 방송인 글렌 벡, 영국의 해리 왕자 부부, 메건 마클 공작부인, 메리 로빈슨 전 아일랜드 대통령 등이 명단에 포함됐다. 서명자는 빠르게 늘어나면서 현지시간 22일 오후 9시 3200명을 넘어섰다. 오픈AI와 메타, xAI 등 기업들이 개발하고 있는 초지능은 모든 영역에서 인간을 뛰어넘는 지능을 보유한 AI를 의미한다. 메타는 초지능 구축을 위해 지난해 150억달러를 투입한 뒤 '초지능랩'을 신설했고 오픈AI는 최신 AI 모델인 GPT-5를 출시하면서 범용AI(AGI)를 향한 연구를 가속화하고 있다. 벤지오 교수는 성명에서 "몇 년 안에 AI가 대부분의 인지 영역에서 인간을 능가할 수 있다"며 "이를 안전하게 발전시키려면 인간을 해치지 않는 구조를 과학적으로 증명해야 한다"고 말했다. 이어 "이 기술이 인류의 미래를 결정할 문제인 만큼 시민들이 더 목소리를 내야 한다"고 덧붙였다. 한편 초지능 개발을 중단하라는 목소리가 터져 나온 날 메타는 빠르게 초지능을 개발하기 위해 AI 부문 인력 600명을 감원하는 조직개편을 시행했다. 알렉산더 왕 메타 최고AI책임자는 이날 직원들에게 보낸 내부 메모를 통해 "결정 과정의 속도를 높이고 각 인력이 더 큰 책임과 영향력을 갖도록 하기 위한 감축"이라고 밝혔다. 메타는 올해 초부터 AI 전략을 대대적으로 손질해왔다. 스타트업 스케일AI에 143억달러를 투자했고 초지능 개발 전담 조직을 신설했다. [실리콘밸리 원호섭 특파원]