2025년 딥페이크 사기로 인해 미국 기업 계좌에서 11억 달러가 빠져나가 전년도 3억 6천만 달러의 3배가 되었습니다. 작년 중반까지 기록된 사건 수는 이미 2024년 총 사건의 4배가 되었습니다. 그리고 대부분의 브랜드 및 기업 커뮤니케이션 팀은 위험할 정도로 준비가 부족합니다.
이제 경영진은 사기 양도를 승인하거나 평판을 훼손하기 위해 복제된 이미지와 이를 조작하는 데 사용되는 정부 관료, 이사회 구성원 및 비즈니스 파트너를 사칭하는 AI 생성 음성이라는 두 가지 방향에서 합성 위협에 직면합니다.
2019년, 익명의 영국 에너지 임원이 자신의 CEO라고 생각되는 사람으로부터 전화를 받았습니다. 악센트와 미묘한 자음 변화도 정확했고, 억양도 익숙했다. 243,000달러를 이체한 후에야 그들은 전화 상대방의 목소리가 합성된 음성이라는 것을 알게 되었습니다. 작년에 사기꾼들은 이탈리아 국방장관을 복제하고 국가의 비즈니스 엘리트를 불러냈습니다. 적어도 한 곳에서는 사기 사실이 밝혀지기 전에 거의 100만 유로를 보냈습니다.
하지만 이 브랜드들은 운이 좋았습니다. 부적절한 발언을 하거나, 가짜 합병을 발표하거나, 규제 기관을 비판하는 CEO의 합성 비디오가 팀이 대응하기도 전에 소셜 미디어에 빠르게 퍼질 경우 그 영향을 고려하십시오. 딥페이크는 더 이상 사이버 보안에 대한 호기심이 아닙니다. 이는 이제 보안 위협, 재정적 위험 및 심각한 평판 위험을 나타냅니다.
통신 격차는 보안 격차보다 넓습니다.
딥페이크 위협에 대한 대부분의 내용은 탐지 알고리즘과 검증 프로토콜에 중점을 둡니다. 사이버 보안 공급업체는 솔루션과 IT 부서 업데이트 정책을 제공합니다. 그러나 CMO 및 CCO에게 다음과 같은 중요한 질문을 제기하는 사람은 거의 없습니다. CEO의 이미지가 사기, 잘못된 정보 또는 인격 공격에 사용된다면 브랜드에 어떤 일이 발생합니까?
저는 규제 조사 및 적대적인 미디어 캠페인을 포함하여 평판이 위기에 처했을 때 경영진에게 조언을 제공하는 데 20년을 보냈습니다. 이러한 상황에 대해 확립된 지침이 있습니다. 그러나 사기 인수를 승인하는 CEO의 합성 이미지나 입소문이 퍼지는 창업자의 조작된 비디오와 같은 사건에 대해 확립된 프로토콜은 없습니다.
경영진 가시성은 이제 양방향입니다.
CEO와 관련된 모든 소셜 미디어 게시물, 기조 연설, 팟캐스트 출연, 수익 결산 발표는 공격자에게 잠재적인 교육 데이터를 제공합니다. 경영진 브랜드를 구축하고 리더십을 인간화하는 가시성은 합성 미디어에 필요한 음성 샘플과 얼굴 매핑도 제공합니다.
모든 공격이 성공하는 것은 아닙니다. 지난해 사기꾼들은 글로벌 광고회사의 CEO를 표적으로 삼았습니다. 그들은 그의 사진을 사용하여 가짜 WhatsApp 계정을 만들고, YouTube 영상에서 훈련된 AI 복제 음성으로 Microsoft Teams 통화를 주최하고, 고위 임원에게 새로운 비즈니스 벤처에 자금을 지원하도록 요청했습니다. 직원은 이를 거부했고 회사는 아무것도 잃지 않았지만, 그 시도의 정교함은 기술이 얼마나 발전했는지를 드러냈습니다.
딥페이크의 수는 2023년 50만 건에서 2025년 800만 건 이상으로 증가했습니다. 음성 복제 사기는 1년 만에 680% 증가했습니다. AI를 이용한 사기로 인한 예상 손실액은 2027년까지 400억 달러에 이를 것으로 예상됩니다. 그러나 기업 임원 중 32%만이 자신의 조직이 딥페이크 사건을 처리할 준비가 되어 있다고 믿고 있습니다.
모든 커뮤니케이션 팀이 지금 대답해야 할 세 가지 질문
첫째, 합성 미디어에 대한 공격에 대한 공개 프로토콜이 있습니까? AI가 생성한 CEO의 복제본이 사기나 허위 정보에 사용되는 경우 누가, 언제, 어떤 채널을 통해 소통합니까?
둘째, 딥페이크 탁상훈련을 해보셨나요? 이제 위기 시뮬레이션에는 경영진의 이미지가 내부 사기, 외부 허위 정보 또는 둘 모두에 사용되는 시나리오가 포함되어야 합니다.
셋째, 법무, 사이버 보안, 투자자 관계 부서와 대응 순서를 조율했습니까? 딥페이크 위기는 사기 사건이자 잠재적인 공개 의무이자 브랜드 비상사태입니다. 격리된 응답은 실패합니다.
공격하기 전에 행동하십시오.
이 시대에서 살아남을 기업들은 지금 위기 프로토콜을 만들고 있습니다. 경영진의 얼굴이 녹화되지 않은 비디오에 나타나기 전에, 결코 말하지 않은 것을 말하고, 결코 승인하지 않은 거래를 승인하기 전에 말입니다. CEO의 이미지는 브랜드 자산입니다. 공격 벡터이기도 합니다.
딥페이크를 다른 사람의 문제(사이버 보안 문제, IT 문제, 금융 사기 문제)로 취급하는 커뮤니케이션 및 브랜드 팀은 전략 대신 사과문을 작성하게 될 것입니다.
Fortune.com 댓글에 표현된 의견은 전적으로 해당 작성자의 견해일 뿐이며 반드시 Fortune의 의견과 신념을 반영하는 것은 아닙니다.
