인공 지능은 자체 장치에 맡겨두면 금융 시장 상황에서 광범위한 가격 담합 카르텔을 형성할 만큼 똑똑하고(그리고 어리석습니다).
올해 초 펜실베니아 대학교 와튼 스쿨과 홍콩 과학 기술 대학교의 국가 경제 연구국 웹사이트에 발표된 연구 보고서에 따르면 AI 기반 거래 에이전트가 시뮬레이션 시장에 출시되었을 때 로봇은 서로 공모하여 집단 이익을 위해 가격 담합에 참여했습니다.
이 연구에서 연구원들은 로봇이 실제 시장 상황을 시뮬레이션하고 AI를 훈련시켜 시장 가격 데이터를 해석하도록 설계된 컴퓨터 프로그램인 시장 모델을 자유롭게 사용하도록 허용했으며, 가상 시장 제작자는 다양한 모델 변수에 따라 가격을 설정했습니다. 이러한 시장에는 다양한 시장 상황에서 상충되는 정보와 가격 변동의 양을 나타내는 다양한 수준의 “소음”이 있을 수 있습니다. 일부 로봇은 소매 투자자처럼 행동하고 다른 로봇은 헤지 펀드처럼 행동하도록 훈련받았지만, 많은 경우 기계는 명시적인 지시 없이 공격적인 거래를 집합적으로 거부함으로써 “일반화된” 가격 책정 행동을 채택했습니다.
가격 유발 전략을 분석하는 알고리즘 모델에서 AI 에이전트는 충분히 큰 시장 변동으로 인해 매우 공격적으로 거래할 때까지 신호를 사용하여 보수적으로 거래했습니다. 강화 학습을 사용하여 훈련된 로봇은 광범위한 공격적 거래가 시장에서 더 큰 변동성을 생성할 수 있다는 것을 암묵적으로 이해할 만큼 정교했습니다.
또 다른 모델에서는 AI 로봇이 편견을 과도하게 잘라냈고, 위험한 거래로 인해 부정적인 결과가 발생하면 해당 전략을 다시는 따르지 말아야 한다는 점을 내면화하도록 훈련받았습니다. 로봇은 더 공격적인 거래가 더 수익성이 높다고 여겨지는 경우에도 보수적이고 “독단적으로” 거래했으며, 연구에서 “인위적인 어리석음”이라고 부르는 방식으로 집합적으로 행동했습니다.
“두 메커니즘 모두 기본적으로 공격적으로 행동하지 않는 패턴에 수렴하며 장기적으로 보면 이는 그들에게 좋습니다”라고 공동 저자이자 Wharton 재무 교수인 Itay Goldstein이 Fortune에 말했습니다.
금융 규제 당국은 시장 담합, 가격 담합 등 반경쟁적 관행을 해결하기 위해 오랫동안 노력해 왔습니다. 그러나 소매업에서는 AI가 주목을 받았습니다. 특히 알고리즘 가격 책정을 사용하는 기업이 조사 대상이 되면서 더욱 그렇습니다. 이번 달 AI 기반 가격 책정 도구를 사용하는 인스타카트는 일부 고객이 배송업체 플랫폼에서 동일한 품목에 대해 다른 가격을 보게 되는 프로그램을 종료한다고 발표했습니다. 이는 Instacart가 식료품 품목의 거의 75%를 다양한 가격으로 제공한다는 실험에서 발견된 Consumer Reports 분석에 따른 것입니다.
와튼 재무 교수이자 연구 저자 중 한 명인 윈스턴 웨이 두(Winston Wei Dou)는 “(증권 거래 위원회)와 금융 시장 규제 기관의 주요 목표는 이러한 종류의 안정성을 유지하는 것뿐만 아니라 시장 경쟁력과 시장 효율성을 보장하는 것입니다.”라고 말했습니다.
이를 염두에 두고 Dou와 두 명의 동료는 “소음”의 높거나 낮은 수준을 기반으로 다양한 시뮬레이션 시장에 거래 에이전트 로봇을 배치하여 AI가 금융 시장에서 어떻게 작동할지 식별하기 시작했습니다. 궁극적으로 로봇은 공격적인 거래 행위를 피하기로 집단적이고 자발적으로 결정함으로써 “초경쟁적 이익”을 얻었습니다.
Dou는 “그들은 최적이 아닌 거래 행동이 최적이라고 믿었습니다.”라고 말했습니다. “그러나 환경의 모든 기계가 ‘최적화되지 않은 상태’로 작동한다면 서로를 이용하고 싶지 않기 때문에 모든 사람이 실제로 이익을 얻을 수 있다는 것이 밝혀졌습니다.”
간단히 말해서, 로봇은 모두 돈을 벌고 있었기 때문에 보수적인 거래 행동에 의문을 제기하지 않았으며 따라서 서로 경쟁적인 행동에 참여하는 것을 중단하여 사실상 카르텔을 형성했습니다.
금융서비스 AI에 대한 두려움
금융 시장에서 소비자 참여를 늘리고 자문 서비스에 대한 투자자의 시간과 비용을 절약할 수 있는 능력으로 인해 거래 에이전트 로봇과 같은 금융 서비스를 위한 인공 지능 도구가 점점 더 매력적이 되었습니다. 비영리 재무 계획 기관인 CFP 이사회의 2023년 설문 조사에 따르면 미국 투자자의 거의 3분의 1이 AI 기반 생성 도구의 재무 계획 조언을 편안하게 받아들인다고 답했습니다. 암호화폐 거래소 MEXC가 7월에 발표한 보고서에 따르면 Z세대 사용자 78,000명 중 67%가 지난 회계 분기에 AI 기반 거래 봇을 하나 이상 활성화한 것으로 나타났습니다.
그러나 GAO(정부 회계 감사원)의 금융 시장 및 커뮤니티 이사인 Michael Clements에 따르면 모든 이점에도 불구하고 AI 거래 에이전트에는 위험이 없는 것은 아닙니다. 사이버 보안에 대한 우려와 잠재적으로 편향된 의사 결정 외에도 이러한 거래 로봇은 시장에 실질적인 영향을 미칠 수 있습니다.
Clements는 Fortune과의 인터뷰에서 “많은 AI 모델이 동일한 데이터로 훈련됩니다”라고 말했습니다. “AI 내에서 통합이 이루어지면 이러한 플랫폼의 주요 공급자가 소수만 있을 경우 무리 행동이 발생할 수 있습니다. 즉, 많은 수의 개인과 기업이 동시에 구매하거나 판매하여 가격 변동이 발생할 수 있습니다.”
영란은행 금융정책위원회 외부 관계자인 조나단 홀(Jonathan Hall)은 지난해 AI 로봇이 시장 회복력을 약화시킬 수 있는 ‘군집 행동’을 조장한다고 경고한 바 있다. 그는 기술에 대한 “끄기”와 더 큰 인간 감독을 옹호했습니다.
AI 가격 도구의 규제 허점 노출
Clements는 지금까지 많은 금융 규제 기관이 AI에 잘 정립된 규칙과 법령을 적용할 수 있었다고 설명했습니다. 예를 들어 “대출 결정이 AI로 이루어지든 종이와 연필로 이루어지든 규칙은 여전히 동일하게 적용됩니다.”라고 말했습니다.
SEC와 같은 일부 기관에서는 변칙적인 거래 행위를 탐지하는 인공 지능 도구를 개발하면서 불에 맞서 싸우기도 합니다.
클레멘츠는 “한편으로는 AI가 변칙적인 거래를 일으키는 환경이 있을 수 있다”고 말했다. “반면에 규제 당국은 이를 탐지할 수 있는 약간 더 나은 위치에 있을 것입니다.”
Dou와 Goldstein에 따르면, 규제 당국은 그들의 연구에 관심을 표명했으며, 저자들은 금융 서비스에서 AI에 대한 현재 규제의 격차를 드러내는 데 도움이 되었다고 말했습니다. 규제 당국은 이전에 공모 사례를 조사할 때 인간이 서로 대응하지 않으면 가격 책정 행동을 실제로 유지할 수 없다고 믿고 개인 간의 의사 소통의 증거를 찾았습니다. 그러나 Dou와 Goldstein의 연구에서 로봇에는 명시적인 의사소통 방법이 없었습니다.
Goldstein은 “기계의 경우 강화 학습 알고리즘이 있을 때 실제로 적용되지 않습니다. 왜냐하면 분명히 통신하거나 조정하지 않기 때문입니다”라고 Goldstein은 말했습니다. “우리는 코드를 작성하고 프로그래밍하며 코드에 무엇이 있는지 정확히 알고 있습니다. 거기에는 공모에 대해 명시적으로 언급하는 내용이 없습니다. 하지만 시간이 지나면서 그들은 이것이 앞으로 나아갈 길이라는 것을 알게 됩니다.”
인간과 로봇 거래자가 배후에서 소통하는 방식의 차이는 규제 기관이 빠르게 발전하는 AI 기술에 적응하는 방법을 배울 수 있는 “가장 근본적인 질문” 중 하나라고 Goldstein은 주장했습니다.
이어 “이를 담합이 소통과 조율의 결과로 발생한다고 생각하는 데 사용한다면 알고리즘에 있어서는 분명히 이런 식으로 생각하는 방식이 아니다”라고 말했다.
이 이야기의 버전은 2025년 8월 1일 Fortune.com에 게재되었습니다.
AI 가격에 대해 자세히 알아보세요. 2026년 5월 19~20일 애틀랜타에서 열리는 Fortune Workplace Innovation Summit에 참여하세요. 업무 공간 혁신의 다음 시대가 도래했으며 기존 플레이북이 다시 작성되고 있습니다. 이 독점적이고 에너지가 넘치는 행사에서는 세계에서 가장 혁신적인 리더들이 한자리에 모여 AI, 인간성, 전략이 어떻게 융합되어 업무의 미래를 다시 한번 재정의하는지 탐구할 것입니다. 지금 등록하세요.
