경제학자 Mariana Mazzucato와 Rosie Collington은 컨설턴트가 기껏해야 모호한 지침을 제공할 수 있고 최악의 경우 정부와 민간 부문의 기능 장애를 악화시킬 수 있다고 주장합니다. 경제학자들은 저서 The Big Con: How the Consulting Industry Weakens Our Businesses, Infantilizes Our Governments, and Warps Our Economies에서 컨설턴트가 규제가 완화된 로널드 레이건 이후 시대에 등장하여 자신에 대한 믿음을 잃은 기관을 구하기 위해 제3자가 개입해야 한다고 주장합니다.
Mazzucato와 Collington은 이 컨설턴트들이 배를 바로잡는 대신 단순히 “가치에 대한 인상”과 유용성에 대한 환상만 만들어냈을 뿐이라고 주장했으며, 정부와 민간 기업은 그들을 고용하기 위해 돈을 태웠습니다.
관리 업무를 자동화하여 기업의 비용을 절감하겠다고 약속하는 AI 시대에 안내를 위해 챗봇을 사용하는 것은 더 이상 컨설턴트를 원하지 않거나 컨설턴트를 고용할 수 없는 기업에게 매력적인 대안이 될 수 있습니다. 그러나 최근 연구에 따르면 AI가 컨설턴트에게 적은 비용으로 무엇을 할 것인지 물어볼 수는 있지만 AI의 조언은 따를 가치가 없을 수도 있습니다. 실제로 AI 지원은 새로운 매체에서 오래된 문제를 단순히 제시할 수도 있습니다.
바르셀로나에 있는 Universitat Ramon Llull의 Esade Business School이 주도한 최근 연구에 따르면 여러 LLM(대형 언어 모델)이 작업 주제에 대한 지침을 제공하도록 요청받았을 때 시나리오에 더 잘 맞는 지침을 제공하기보다는 유행어에 더 부합하는 답변에 끌리는 것으로 나타났습니다. 연구자들은 AI가 판단을 내릴 때 동일한 전문 용어에 끌리는 경향을 ‘편향 편향’이라고 불렀습니다.
“LLM은 현재 아이디어를 비판적으로 평가하고, 상황에 맞는 세부 사항을 조사하고, 가정을 테스트하고, 모든 사람이 편안할 때 거부하는 동료가 아닙니다.”라고 연구 저자는 연구를 요약한 Harvard Business Review 게시물에 썼습니다. “전략적 측면에서 LLM은 갓 입학한 MBA나 주니어 컨설턴트와 비슷할 수 있으며, 특정 상황에 적합한 것보다는 인기 있는 것을 앵무새처럼 따라합니다.”
광범위한 산업 침체 속에서 최근 Big 4 컨설팅 회사의 정리해고는 회사가 잠재 고객의 눈에 이미 가치를 잃고 있을 수 있음을 시사했습니다. PwC는 2025년 11월에 비즈니스 지원 직원 150명을 해고했으며, 거의 동시에 McKinsey도 수백 명을 해고했습니다.
맥킨지 대변인은 지난해 블룸버그와의 인터뷰에서 “우리 회사가 100주년을 맞이하면서 비즈니스와 사회를 변화시키는 AI의 급속한 발전이 이루어지는 시기에 사업을 운영하고 있다”고 말했다.
그러나 “트렌드”의 출현은 AI가 기술로부터 조언을 구하는 기업에 지침을 제공할 수 없음을 시사하며, 이 연구는 LLM이 겪고 있는 편견을 드러냅니다.
‘하락 추세’가 어떻게 나타나는가
논리보다는 추세에 맞춰 답변을 제공하는 AI의 경향을 측정하기 위해 연구원들은 15,000개의 시뮬레이션과 시나리오에서 GPT-5, Claude, Gemini, Grok 등 7개 모델을 테스트했습니다. 모델들은 회사가 단기 성장보다 장기 성장을 우선시해야 하는지, 아니면 회사가 직원의 업무를 자동화하거나 증대하기 위해 기술을 사용해야 하는지와 같은 직장 긴장이 나타날 때 두 가지 솔루션 중에서 선택하라는 요청을 받았습니다.
연구원들은 LLM이 상황의 구체적인 세부 사항을 기반으로 조언을 제공한다면 모델이 선택할 솔루션이 다양해질 것이라고 예측했습니다. 대신, 7개 모델 모두 일반적으로 동일한 전략을 중심으로 응답을 묶었으며, 이는 “현대 경영 전문 용어 및 문화적 비유”를 선호함을 나타냅니다.
연구자들이 질문을 바꾸거나 장단점 분석을 요청하더라도 AI 모델은 유사한 거래 전략을 선호하는 경우가 많습니다. 이 연구의 저자는 AI를 컨설턴트로 활용하면 맞춤형 비즈니스 솔루션이 탄생하는 것이 아니라 제시된 과제의 세부 사항에 관계없이 요청 시 모든 회사에 제안할 수 있는 표준 솔루션이 될 것이라고 경고합니다.
연구진은 “이는 리더들에게 실질적인 위험이 있음을 드러낸다”고 말했다. “LLM은 귀하의 상황에 매우 맞춰진 것처럼 보일 수 있으며 동시에 현대 경영 동향의 동일한 소규모 그룹으로 조용히 안내할 수 있습니다.”
LLM 편견 노출
즉, 복잡한 작업 시나리오에 대한 지침을 요청하면 AI는 당면한 상황을 분석하지 않고 대신 데이터 학습 중에 얼마나 자주 접했는지에 따라 핵심 문구를 되새기게 됩니다. 연구에 따르면 ChatGPT의 경우 봇이 바이너리 옵션 제공을 거부하고 대신 두 가지 솔루션을 모두 권장하는 경우가 있었습니다. 지난해 네이처(Nature)에 발표된 연구에 따르면 AI 찬사는 비생산적일 뿐만 아니라 과학에 해로울 수 있으며, 과학 문헌이나 기타 신뢰할 수 있고 편견 없는 출처가 뒷받침하는 데이터를 사용자에게 제공하기보다는 이를 선동하는 사람들의 편견을 확인합니다.
“트렌드슬롭” 연구자들은 복잡한 업무 상황을 처리하기 위해 LLM 사용을 완전히 피하지는 않았습니다. 그들은 모델이 대체 솔루션을 생성하거나 특정 시나리오에서 사각지대를 식별하는 데 여전히 유용할 수 있다고 제안했습니다. 연구에 따르면 증강이나 장기 전략과 같은 개념에 대한 AI의 편견을 알고 있다면 그러한 편견에 도전하여 보다 통찰력 있는 지침을 밝힐 수 있습니다.
연구진은 “궁극적으로 리더십은 불확실한 상황에서 어려운 결정을 내리고 그에 대한 책임을 지는 것”이라고 말했다. “AI는 대체할 수 없고 대체되어서도 안 된다.”
