제가 NASA의 우주왕복선 프로그램에 참여하는 항공우주 엔지니어였을 때, 임무를 수행하려면 신뢰가 매우 중요했습니다. 모든 볼트, 모든 코드 라인, 모든 시스템을 신중하게 검증하고 테스트해야 했습니다. 그렇지 않으면 셔틀이 발사대를 떠나지 않을 것입니다. 임무를 마친 우주비행사들은 사무실을 돌아다니며 가족들이 있는 집으로 안전하게 데려다준 수천 명의 엔지니어들에게 감사를 표했습니다. 이것이 바로 우리 시스템에 뿌리 깊은 신뢰와 보안이 있는 이유입니다.
“빠르게 움직이고 파괴한다”는 수사에도 불구하고 기술도 다르지 않아야 합니다. 신기술이 성장을 가속화하려면 먼저 신뢰를 구축해야 합니다.
2027년까지 약 50%의 기업이 AI 에이전트를 배치할 것으로 예상되며, McKinsey 보고서에 따르면 2030년까지 전체 작업의 최대 30%가 AI 에이전트에 의해 수행될 수 있을 것으로 예측됩니다. 제가 이야기한 많은 사이버 보안 리더들은 비즈니스를 활성화하기 위해 가능한 한 빨리 AI를 통합하려고 노력하고 있지만 이러한 통합이 적절한 가드레일을 통해 안전하게 수행되도록 해야 한다는 점도 인식하고 있습니다.
AI가 약속을 이행하려면 비즈니스 리더가 AI를 신뢰해야 합니다. 그것은 저절로 일어나지 않을 것입니다. 보안 리더는 항공우주 엔지니어링으로부터 교훈을 얻고 첫날부터 프로세스에 대한 신뢰를 구축해야 합니다. 그렇지 않으면 비즈니스 성장 가속화를 놓칠 위험이 있습니다.
자신감과 성장의 관계는 이론적인 것이 아닙니다. 나는 그것을 살았습니다.
신뢰를 바탕으로 창업한 기업
NASA의 우주 왕복선 프로그램이 종료된 후 저는 전문가와 학생들이 자신의 기술과 역량에 대한 증거를 보여주고 공유할 수 있는 플랫폼인 첫 번째 회사를 설립했습니다. 그것은 단순한 아이디어였지만 고객이 우리를 신뢰하도록 요구했습니다. 우리는 민감한 학생 데이터를 안전하게 처리할 수 있다는 것을 입증할 때까지 대학들이 우리와 협력하지 않을 것이라는 사실을 금방 깨달았습니다. 이는 깨끗한 SOC 2 인증 표시, 긴 보안 설문지 답변, 힘든 수동 프로세스를 통한 여러 규정 준수 인증 완료 등 다양한 방법을 통해 보증을 제공한다는 의미입니다.
그 경험이 Drata를 창립하는 계기가 되었고, 나와 공동 창업자들은 대기업 간의 신뢰 관계를 구축하기 시작했습니다. GRC 리더와 기업이 보안 상태를 확보하고 고객, 파트너 및 감사자에게 보여줄 수 있도록 지원함으로써 마찰을 제거하고 성장을 가속화합니다. 단 몇 년 만에 연간 반복 수익이 100만 달러에서 1억 달러로 빠르게 증가한 것은 기업이 그 가치를 인식하고 있으며 GRC 팀을 비용 센터에서 비즈니스 조력자로 보는 관점이 천천히 전환하기 시작했다는 증거입니다. 이는 실질적이고 가시적인 결과로 이어집니다. 우리는 SafeBase Trust Center를 사용하는 보안 팀과 함께 보안 관련 수익에서 180억 달러를 확인했습니다.
이제 AI를 사용하면 위험이 더욱 높아집니다.
SOC 2, ISO 27001, GDPR과 같은 현재 규정 준수 프레임워크 및 규정은 텍스트를 생성하거나 결정을 내리거나 자율적으로 행동하는 AI 시스템이 아닌 데이터 개인 정보 보호 및 보안을 위해 설계되었습니다.
캘리포니아에서 최근 제정된 AI 안전 규칙과 같은 법률 덕분에 규제 당국은 천천히 따라잡기 시작했습니다. 그러나 새로운 규칙과 규정을 기다리는 것만으로는 충분하지 않습니다. 특히 기업이 앞서 나가기 위해 새로운 AI 기술에 의존하고 있기 때문입니다.
테스트되지 않은 로켓을 발사하지 않을 것입니다
여러 면에서 이 순간은 제가 NASA에서 했던 일을 생각나게 합니다. 항공우주 엔지니어로서 저는 “생산 현장에서 테스트”한 적이 없습니다. 각 셔틀 임무는 세심하게 계획된 작전이었습니다.
위험을 이해하거나 인식하지 않고 AI를 구현하는 것은 테스트되지 않은 로켓을 발사하는 것과 같습니다. 피해는 즉각적일 수 있으며 치명적인 실패로 끝날 수 있습니다. 실패한 우주 임무가 NASA에 대한 사람들의 신뢰를 감소시킬 수 있는 것처럼, 위험을 완전히 이해하지 않거나 안전 장벽을 적용하지 않고 AI 사용에 실수를 하면 해당 조직에 대한 소비자의 신뢰가 감소할 수 있습니다.
지금 우리에게 필요한 것은 신뢰할 수 있는 새로운 운영 체제입니다. 신뢰를 운용하려면 리더는 다음과 같은 프로그램을 만들어야 합니다.
투명한. 항공우주 공학에서 포괄적인 문서화는 관료주의가 아니라 책임을 묻는 힘입니다. AI와 신뢰에도 동일하게 적용됩니다. 정책에서 통제까지, 증거에서 인증까지 추적성이 필요합니다. 마디 없는. NASA가 하루 24시간 지속적으로 임무를 모니터링하는 것처럼 기업은 주어진 순간에 체크박스가 아닌 지속적이고 지속적인 프로세스로서 신뢰에 투자해야 합니다. 예를 들어, 감사 준비 상태가 막바지 질주가 아닌 상황에 맞게 제어되도록 지속적으로 모니터링해야 합니다. 자발적인. 오늘날 로켓 엔진은 조종사나 지상 승무원이 비행 중에 밸브를 직접 조정하지 않고도 통합 컴퓨터, 센서 및 제어 회로를 통해 자체 작동을 관리할 수 있습니다. 그리고 AI가 일상 비즈니스에서 점점 더 널리 퍼지게 되면서 이는 우리의 신뢰 프로그램에도 적용되어야 합니다. 인간, 에이전트 및 자동화된 워크플로가 트랜잭션을 수행하려면 결정론적이고 명확하게 스스로 신뢰를 검증할 수 있어야 합니다.
항공우주 시절을 되돌아보면 눈에 띄는 것은 우주 임무의 복잡성뿐만 아니라 상호의존성이기도 합니다. 서로 다른 팀에서 구축한 수만 개의 구성 요소가 원활하게 함께 작동해야 합니다. 각 팀은 다른 팀이 자신의 업무를 효과적으로 수행하고 있음을 신뢰하며 조직 전체의 투명성을 보장하기 위해 결정이 문서화됩니다. 즉, 신뢰는 우주왕복선 프로그램 전체를 하나로 묶는 층위였습니다.
오늘날 AI도 마찬가지입니다. 특히 에이전트 AI의 초기 시대에 들어서면서 더욱 그렇습니다. 우리는 수백(언젠가는 수천)의 상담원, 사람, 시스템이 지속적으로 서로 상호 작용하고 수만 개의 접점을 생성하는 새로운 비즈니스 방식으로 전환하고 있습니다. 도구는 강력하고 기회는 엄청납니다. 그러나 모든 상호 작용에서 신뢰를 얻고 유지할 수 있는 경우에만 가능합니다. 투명하고 지속적이고 자율적인 신뢰문화를 만들어가는 기업이 차세대 혁신을 주도할 것입니다.
AI의 미래는 이미 건설 중이다. 질문은 간단합니다. 신뢰를 바탕으로 구축하시겠습니까?
Fortune.com 댓글에 표현된 의견은 전적으로 해당 작성자의 견해일 뿐이며 반드시 Fortune의 의견과 신념을 반영하는 것은 아닙니다.
Fortune Global Forum은 2025년 10월 26~27일 리야드에서 개최됩니다. CEO와 글로벌 리더들이 비즈니스의 미래를 만들어갈 역동적인 초대 전용 이벤트에 함께 모일 것입니다. 초대장을 요청하세요.
