인공지능 개발이 자동화되면서 수년에 걸릴 기술 발전이 불과 수개월 만에 이뤄지는 이른바 ‘지능 폭발’이 일어날 수 있다는 경고가 나왔습니다. 세계적인 AI 연구자들은 AI가 스스로 AI를 개발하고 개선하는 단계에 들어설 경우, 기술 발전이 통제하기 어려운 속도로 빨라질 수 있다며 각국 정부의 선제적인 대응을 촉구했습니다.
세계 주요 AI 연구자 22명이 AI 연구개발 자동화가 ‘지능 폭발’을 촉발할 가능성에 대해 경고했습니다. 케임브리지대 AI 과학·정책 프로그램이 공개한 공동 논문에는 AI 분야의 석학인 제프리 힌턴과 요슈아 벤지오를 비롯해 오픈AI와 앤트로픽, 마이크로소프트, 메타 등의 연구자들이 참여했습니다. 연구진은 최근 AI가 단순한 보조 도구를 넘어 AI 개발 자체를 수행하는 속도가 빠르게 빨라지고 있다고 지적했습니다. 실제로 앤트로픽에서는 개발자가 승인한 코드 가운데 AI가 작성한 비율이 지난해 1월 한 자릿수에서 올해 5월에는 80% 이상으로 증가했습니다. 또 인간의 직접적인 개입 없이 AI가 자율적으로 수행한 연구개발 작업의 비율도 빠르게 늘고 있다는 설명입니다. 연구진은 이 같은 추세가 계속된다면 복잡한 AI 연구개발 프로젝트 상당 부분이 2년 안에 완전히 자동화될 가능성도 제기했습니다. 특히 AI가 스스로 더 나은 AI를 개발하고, 그렇게 만들어진 AI가 다시 더 뛰어난 AI를 개발하는 재귀적 자기개선이 현실화되면 기술 발전 속도가 폭발적으로 빨라질 수 있다는 겁니다. 이른바 ‘지능 폭발’입니다. 물론 신약 개발과 과학기술 혁신을 앞당기는 등 긍정적인 효과도 예상됩니다. 하지만 사회가 적응할 시간을 넘어서는 급격한 변화가 발생할 경우 노동시장 혼란은 물론 AI에 대한 인간의 통제력을 잃을 위험도 있다고 연구진은 경고했습니다. 이에 따라 AI 기업의 연구개발 자동화 수준을 정부에 보고하도록 하고, 기업에 상주 감시 인력을 두는 등 보다 강력한 관리 체계를 마련해야 한다고 제안했습니다. 또 안전 기준을 충족하지 못할 경우 AI 연구개발 속도를 늦추거나 일시적으로 중단할 수 있는 통제 장치도 필요하다고 강조했습니다. AI가 인간의 도구를 넘어 AI를 만드는 주체로 빠르게 진화하는 시대, 기술의 속도와 인간의 통제 사이에서 새로운 안전 기준 마련이 과제로 떠오르고 있습니다.
