다수의 AI 과학자, 유명 인사, 정책 입안자 및 종교 지도자들이 서명한 새로운 공개 서한에서는 기술이 안정적으로 안전하고 제어 가능해질 때까지 “초지능”(모든 인류의 지능을 뛰어넘을 수 있는 가상의 AI 기술) 개발을 금지할 것을 요구하고 있습니다.
이 서한의 가장 주목할만한 서명자로는 AI 선구자이자 노벨상 수상자 Geoffrey Hinton, Yoshua Bengio 및 Stuart Russell과 같은 기타 AI 전문가, Virgin 공동 창립자 Richard Branson 및 Apple 공동 창립자 Steve Wozniak과 같은 비즈니스 리더가 있습니다. 이 서명에는 최근 메타의 인공지능 제품인 윌아이엠(will.i.am)에 대한 우려를 제기한 배우 조셉 고든 레빗(Joseph Gordon-Levitt)과 해리 왕자와 메건, 서식스 공작과 공작부인 등 유명 인사들도 서명했다. 트럼프의 동맹자이자 전략가인 스티브 배넌(Steve Bannon), 조지 W. 부시(George W. Bush)와 버락 오바마(Barack Obama)의 합참의장인 마이크 멀렌(Mike Mullen) 등 다양한 국가 안보 및 정치 인사들도 1,000명 이상의 서명자 명단에 올라 있습니다.
비영리 생명의 미래 연구소(Future of Life Institute)가 작성 및 배포한 공개 서한과 함께 실시된 새로운 여론 조사에 따르면 대중은 일반적으로 초강력 인공 지능 기술 개발에 대한 유예 요구에 동의하는 것으로 나타났습니다.
미국에서는 조사에 따르면 미국 성인 중 5%만이 규제되지 않은 고급 AI 개발의 현재 상태를 지지하는 것으로 나타났으며, 64%는 초지능이 명백히 안전하고 제어 가능해질 때까지 개발해서는 안 된다는 데 동의했습니다. 조사 결과 73%는 첨단 AI에 대한 강력한 규제를 원하는 것으로 나타났습니다.
퓨처 오브 라이프(Future of Life) 사장 맥스 테그마크(Max Tegmark)는 성명을 통해 “95%의 미국인은 초지능을 향한 경쟁을 원하지 않으며 전문가들은 이를 금지하고 싶어한다”고 말했다.
초지능(Superintelligence)은 대부분의 인지 작업에서 모든 인류를 능가할 수 있는 인공 지능의 한 유형으로 광범위하게 정의됩니다. 현재 초지능이 언제 달성될지에 대한 합의는 없으며, 전문가들이 제시하는 일정은 추측에 불과합니다. 좀 더 공격적인 추정에서는 초지능이 2020년대 후반까지 달성될 수 있다고 말했지만, 보다 보수적인 견해에서는 초지능을 훨씬 더 뒤로 미루거나 이를 달성할 수 있는 현재 기술의 능력에 의문을 제기했습니다.
Meta, Google DeepMind, OpenAI를 포함한 몇몇 주요 AI 연구소에서는 이러한 수준의 고급 AI를 적극적으로 추구하고 있습니다. 이 서한은 이러한 주요 AI 연구소에 “안전하고 통제 가능한 방식으로 수행되고 대중의 강력한 수용이 이루어질 것이라는 광범위한 과학적 합의”가 있을 때까지 이러한 기능 추구를 중단할 것을 요청합니다.
“프론티어 AI 시스템은 단 몇 년 안에 대부분의 인지 작업에서 대부분의 개인을 능가할 수 있습니다.” 힌튼과 함께 AI의 ‘대부’ 중 한 명으로 여겨지는 튜링 상을 수상한 컴퓨터 과학자 요슈아 벤지오(Yoshua Bengio)가 성명에서 말했습니다. 그는 “초지능을 향해 안전하게 나아가기 위해서는 잘못된 정렬이든 악의적인 사용이든 근본적으로 사람에게 해를 끼칠 수 없는 AI 시스템을 설계하는 방법을 과학적으로 결정해야 합니다. 또한 우리 집단의 미래를 형성할 결정에 대해 대중이 훨씬 더 강력한 목소리를 갖도록 보장해야 합니다”라고 말했습니다.
서명자들은 초지능 추구가 경제적 이동과 권력 상실의 심각한 위험을 초래하고 국가 안보와 시민 자유에 위협이 된다고 주장합니다. 이 서한은 기술 회사들이 안전 장벽, 감독, 광범위한 대중의 동의 없이 잠재적으로 위험한 기술을 배포하고 있다고 비난합니다.
배우 스티븐 프라이(Stephen Fry)는 성명에서 “AI가 인류에게 제공하는 것을 최대한 활용하기 위해 초지능이라는 알 수 없고 매우 위험한 목표를 추구할 필요는 없다. 이는 훨씬 더 먼 미개척지이다. 정의상 이는 우리가 이해하거나 통제할 수 없는 힘을 낳게 될 것”이라고 말했다.
