Anthropic AI의 강력한 Mythos 모델에 대한 Discord 그룹의 무단 액세스는 강력한 AI 사이버 보안 도구를 둘러싼 보안 장벽에 대한 의문을 제기하는 것 이상의 일을 하고 있습니다.
이는 사이버 보안 산업에 더 큰 문제를 노출시키고 있습니다. 이제 AI는 결함을 찾아 매우 빠르게 악용할 수 있으므로 방어자가 실제로 노출될 수 있습니다.
AI 스타트업의 제3자 공급업체와 연결된 AI 기반 Discord 정보 탐구자 그룹은 출시 당일인 2월에 고도로 보호된 사이버 보안 방어 시스템에 액세스하는 데 성공했습니다.
내부자 액세스, 웹 검색 봇 및 일부 독창성을 결합하여 이번 침해 사고는 이미 겁에 질린 업계에 새로운 경보의 물결을 촉발하고 있습니다.
아이러니하게도 Discord 사건이 전개되는 동안 Cloud Security Alliance는 Mythos가 공개된 지 며칠 후에 발표된 신속 대응 보고서에서 AI가 조직이 따라잡을 수 있는 것보다 더 빠르게 취약점 발견을 가속화하여 방어자에게 완벽한 폭풍을 일으키고 있다고 경고했습니다.
수백 개의 소프트웨어 시스템에서 수천 개의 버그와 제로데이를 찾아낸 Mythos의 도입으로 방어자들이 수년 동안 의존해 왔던 패치 기간을 며칠에서 단 몇 시간으로 효과적으로 줄였습니다.
해커가 이를 출시하고 채택할 경우 보안 팀은 필연적으로 문제의 우선순위를 정하고 문제를 해결하는 방법을 결정하는 데 도움이 되는 완전히 새로운 플레이북을 작성해야 하며 사이버 출혈을 막을 수 있다는 보장은 아직 없습니다.
250명 이상의 보안 리더가 브리핑 작성에 도움을 주었습니다. 여기서의 과제는 더 이상 단순히 결함을 찾는 것이 아니라 어떤 결함이 실제로 실제 위험을 초래하는지 결정하고 운영상의 취약점이 되기 전에 수정하는 것이라고 주장합니다.
일부 보안 전문가들은 업계가 여전히 과소평가하고 있다고 말하는 변화다. 문제는 더 이상 단순한 발견이 아닙니다. 이는 교정, 책임, 그리고 AI가 취약점을 식별하는 것에서 실제 세계에서 어떻게 악용될 수 있는지 보여주는 것으로 변화하는 과정을 방어자가 따라잡을 수 있는지 여부에 관한 것입니다.
궁극적으로 신화의 순간은 강력한 단일 사이버 보안 모델보다는 결함 발견과 무기화 사이의 짧은 기간에 일어나는 일과 더 관련이 있을 수 있습니다.
현재 Anthropic의 대답은 유사한 모델이 더 널리 사용되기 전에 중요한 소프트웨어를 보호하기 위해 Mythos를 사용하기 위해 엄격하게 통제되는 노력인 Project Glasswing입니다.
그러나 그것조차도 당면한 더 큰 문제를 강조합니다. 업계는 앞으로 어떤 일이 일어날지 알고 있으며 국가 공격이나 랜섬웨어와 같은 더 큰 위협을 방어하기 위해 제때에 절실히 필요한 플레이북을 구축하기 위해 여전히 고군분투하고 있습니다.
AI 괴짜 그룹이 악의적인 의도 없이 신화에 침입할 수 있다면 그 문을 통과하는 다음 사람이 실제 범죄자라면 어떤 결과가 나올지 상상해 보세요.
Fortune.com 댓글에 표현된 의견은 전적으로 해당 작성자의 견해일 뿐이며 반드시 Fortune의 의견과 신념을 반영하는 것은 아닙니다.
