Elon Musk는 AI와 함께하는 삶에 대한 놀라운 비전을 가지고 있습니다. 기술은 우리의 모든 일자리를 죽일 것이며, “보편적 고소득”은 누구나 이론적으로 풍부한 상품과 서비스에 접근할 수 있음을 의미합니다. 머스크의 원대한 꿈이 현실이 될 때마다 물론 심오한 실존론적 고찰이 있을 것입니다.
머스크는 2024년 5월 비바 테크놀로지(Viva Technology) 컨퍼런스에서 “질문은 실제로 의미 중 하나가 될 것”이라고 말했습니다. “컴퓨터가 당신보다 모든 것을 더 잘 할 수 있다면(그리고 로봇도 할 수 있다면… 당신의 삶에는 의미가 있을까요?”)
그러나 노벨상 수상자이자 “AI의 대부”인 Geoffrey Hinton에 따르면 대부분의 업계 리더들은 AI의 종말에 대해 이 질문을 하지 않고 있다고 합니다. AI 개발과 관련하여 Big Tech는 기술의 장기적인 결과보다는 빠른 결과에 더 관심을 갖습니다.
토론토 대학의 컴퓨터 과학 명예 교수인 Hinton은 Fortune과의 인터뷰에서 “기업 소유자에게 연구의 원동력은 단기 이익입니다.”라고 말했습니다.
그리고 기술 뒤에 있는 개발자들에게는 연구 자체의 최종 결과가 아니라 바로 앞에 있는 작업에 똑같이 초점이 맞춰져 있다고 Hinton은 말했습니다.
“연구원들은 호기심을 불러일으키는 문제를 해결하는 데 관심이 있습니다. 인류의 미래는 어떻게 될까요? 같은 목표로 시작하는 것과는 다릅니다.” 힌튼이 말했다.
“우리는 어떻게 그것을 할 것인가? 아니면 어떻게 컴퓨터가 이미지의 사물을 인식할 수 있게 만들 것인가? 설득력 있는 비디오를 생성할 수 있는 컴퓨터를 어떻게 만들 것인가?”라는 작은 목표를 가지고 있습니다. 그는 덧붙였다. “그것이 바로 연구의 원동력입니다.”
힌튼은 가드레일과 의도적 진화가 없는 AI의 위험성에 대해 오랫동안 경고해 왔으며, 초지능이 발달한 후 이 기술이 인간을 멸망시킬 확률은 10~20%로 추정했다.
자신의 신경망 회사인 DNNresearch를 Google에 매각한 지 10년 후인 2023년에 Hinton은 기술의 위험성에 대해 자유롭게 이야기하고 싶었고 “나쁜 행위자가 이를 나쁜 일에 사용하는 것을 막을” 수 없다는 두려움 때문에 거대 기술 회사에서 자리를 떠났습니다.
규제되지 않은 AI의 위험은 무엇입니까?
Hinton의 경우 AI의 위험은 기술 자체가 인류의 미래에 미치는 위험과 나쁜 의도를 가진 사람들이 AI를 조작하는 결과라는 두 가지 범주로 나뉩니다.
그는 “두 가지 유형의 위험에는 큰 차이가 있다”고 말했다. “악의적인 행위자가 AI를 오용할 위험이 있으며 이미 그런 일이 일어나고 있습니다. 가짜 비디오나 사이버 공격 등에서는 이미 일어나고 있으며 바이러스의 경우에도 곧 일어날 수 있습니다. 그리고 이는 AI 자체가 나쁜 행위자가 되는 위험과는 매우 다릅니다.”
2025년 11월 Anthropic은 블로그 게시물을 통해 약 30개의 기술 회사, 금융 기관, 정부 기관 및 화학 제조업체에 침투하려는 시도로 Claude Code를 조작한 중국 국가 후원 그룹을 식별하여 “실질적인 인간 개입 없이 실행된 대규모 AI 사이버 공격의 기록된 최초 사례”를 방해했다고 밝혔습니다.
이번 정전으로 인해 사이버 보안 전문가들은 이란이 AI를 이용해 미국을 상대로 자동화된 사이버 공격을 수행할 수 있다고 믿게 되었습니다.
더 큰 규제를 옹호하는 것 외에도 AI의 범죄 가능성을 해결하기 위한 Hinton의 조치 요청은 기술과 관련된 모든 문제에는 별도의 솔루션이 필요하기 때문에 힘든 싸움이라고 그는 말했습니다. 그는 미래에 딥페이크의 확산을 막기 위해 비디오와 이미지의 출처와 같은 인증을 구상하고 있습니다.
수백 년 전 인쇄기가 출현한 후 인쇄업자들이 자신의 작품에 이름을 추가한 것처럼, 언론 매체도 원본 작품에 서명을 추가할 수 있는 방법을 찾아야 합니다. 그러나 Hinton은 해결책이 지금까지만 가능하다고 말했습니다.
“그 문제는 아마도 해결될 수 있지만, 그 문제를 해결한다고 해서 다른 문제가 해결되는 것은 아닙니다.”라고 그는 말했습니다.
AI 자체로 인한 위험 때문에 Hinton은 기술 기업이 AI와의 관계를 보는 방식을 근본적으로 바꿔야 한다고 믿습니다. 그는 AI가 초지능을 달성하게 되면 인간의 능력을 뛰어넘을 뿐만 아니라 생존에 대한 강한 욕구와 추가적인 통제력을 갖게 될 것이라고 말했다. 따라서 AI를 둘러싼 현재 프레임워크(인간이 기술을 제어할 수 있음)는 더 이상 적합하지 않습니다.
Hinton은 AI 모델이 약한 인간을 통제하기보다는 동정심으로 대할 수 있도록 “모성 본능”을 갖춰야 한다고 가정합니다.
그녀는 전통적인 여성성의 이상을 언급하면서 더 지능적인 존재가 덜 지능적인 존재의 지배를 받는 유일한 예는 아기가 어머니를 통제하는 경우라고 말했습니다.
Hinton은 “이것이 바로 우리가 초지능 AI로 연습할 수 있는 더 나은 모델이라고 생각하는 이유입니다.”라고 말했습니다. “그들은 엄마가 되고 우리는 아기가 될 거예요.”
이 이야기의 버전은 2025년 8월 15일 Fortune.com에 게재되었습니다.
AI의 미래에 대한 추가 정보: Jensen Huang은 AI의 미래에 대한 가장 대담한 그림을 그렸습니다. 즉, 750만 명의 에이전트, 75,000명의 인간, 1인당 100명의 AI 작업자입니다. Fortune 500대 기업은 AI 가격표를 4조 5천억 달러로 업데이트하여 일자리의 93%가 혼란에 취약하다고 추정합니다. AI는 컨설턴트를 없애기로 되어 있었습니다. Capgemini의 수석 전략가는 그런 일은 일어나지 않는다고 말합니다.
이 이야기는 원래 Fortune.com에 게재되었습니다.
