오픈AI의 챗GPT 등 인공지능 AI 챗봇이 전 세계적 열풍을 일으킨 가운데 AI의 안전성을 두고 전문가들의 의견이 첨예하게 대립하고 있습니다.
실리콘밸리에서 AI가 우리 모두를 죽일 것이라는 주장과 이 기술이 올바르게 사용된다면 인류가 번영할 수 있는 힘을 줄 것이라는 서로 반대되는 주장이 나오고 있습니다. AI 안전성이란 AI 시스템이 프로그래머의 의도에 복종하고 인간을 해치지 않으면서 권력을 추구하지 않도록 막는 새로운 연구 분야를 말합니다. 이는 실리콘밸리에서는 효율적 이타주의와 밀접한 관련이 있습니다.
효율적 이타주의는 이성과 증거를 통해 다른 사람들에게 이익이 되는 방법을 찾고 그런 생각으로 행동하는 것을 옹호하는 운동을 말하는데, AI 윤리와 관련해서는 AI가 인간을 멸종시키는 것을 막는 것이 시급하다는 주장으로 귀결됩니다. 페이스북의 공동 창업자 더스틴 모스코비츠와 전 헤지펀드 매니저 홀든 카노프스키가 설립한 재단 ‘오픈 필란트로피’와 같은 효율적 이타주의 관련 단체들은 최근 몇 년간 AI 안전성에 초점을 맞춘 여러 센터와 연구소, 커뮤니티 건설을 지원해왔습니다. AI의 옹호자들은 오픈AI와 구글의 딥마인드로 대표됩니다. 반면 AI 종말론자들은 충분하게 강력한 AI가 연결되면 인류가 멸망할 것이라는 결론입니다. 미국의 작가이자 비영리단체 기계 지능 연구소 엘리저 유드코프스키가 이 진영을 대표하고 있습니다. 이 같은 논쟁이 계속되는 가운데 오픈AI에 총 130억달러를 투자한 마이크로소프트가 이를 통해 수십억달러의 연간 수익을 낼 수 있다는 전망이 나왔습니다. 오픈AI의 기업 가치가 290억달러에 달하는 것으로 추산되는데, 마이크로소프트는 오픈AI의 기술을 빙 검색엔진과 기업용 소프트웨어, 깃허브, 오피스 365와 애저 클라우드 등에 통합하고 있습니다.
