Eye on AI에 오신 것을 환영합니다. 이번 에디션에서… Anthropic은 기업 고객을 확보하고 있지만 자체 엔지니어는 Claude AI 모델을 어떻게 사용하고 있습니까? OpenAI CEO Sam Altman은 “코드 레드”를 선언합니다… Apple은 AI 노력을 다시 시작합니다… 전 OpenAI 수석 과학자 Ilya Sutskever는 LLM이 AGI를 제공하지 않기 때문에 “연구 시대로 돌아갔다”고 말합니다… AI 채택이 둔화되고 있습니까?
AI는 코딩을 어떻게 변화시키고 있나요?
이제 Claude와 코딩으로 돌아갑니다. 지난 3월 다리오 아모데이(Dario Amodei)는 올해 말까지 회사 내 소프트웨어 코드의 90%가 AI로 작성될 것이라고 말하여 헤드라인을 장식했습니다. 많은 사람들이 그 예측을 비웃었고 실제로 Amodei는 그 코드가 구현되기 전에 루프에 인간이 아직 존재하지 않을 것이라는 것을 암시할 의도는 전혀 없었다고 말하면서 그 성명을 약간 철회했습니다. 그는 또한 Anthropic에 관해서는 자신의 예측이 크게 벗어나지 않았다고 말했습니다. 그러나 그는 10월에 요즘 “코드의 70, 80, 90%”가 그의 회사 AI의 영향을 받는다고 말하면서 훨씬 더 느슨한 백분율 범위를 사용했다고 말했습니다.
글쎄, Anthropic에는 AI 기술의 “사회적 영향”을 조사하는 연구원 팀이 있습니다. 그리고 AI가 소프트웨어 개발의 본질을 정확히 어떻게 변화시키고 있는지 파악하기 위해 132명의 자체 엔지니어와 연구원이 Claude를 어떻게 사용하고 있는지 조사했습니다. 이 연구에서는 직원과의 질적 인터뷰와 Claude 사용 데이터 조사를 모두 사용했습니다. 여기에서 연구에 대한 Anthropic의 블로그를 읽을 수 있지만, 그들이 발견한 내용을 독점적으로 먼저 살펴보겠습니다.
인류 프로그래머들은 작업의 약 60%에 Claude를 사용한다고 보고했습니다. 엔지니어 중 절반 이상이 Claude의 결과를 확인하고 검증해야 할 필요성을 여전히 느꼈기 때문에 작업의 20%에서 0까지 Claude에게 “완전히 위임”할 수 있다고 말했습니다. Claude의 가장 일반적인 용도는 기존 코드를 디버깅하고, 인간 엔지니어가 자신이 수행 중인 코드베이스의 어떤 부분을 이해하도록 돕고, 적은 범위에서 새로운 소프트웨어 기능을 구현하는 것이었습니다. 높은 수준의 소프트웨어 계획 및 설계 작업, 데이터 과학 작업, 프런트 엔드 개발에 Claude를 사용하는 것은 훨씬 덜 일반적이었습니다.
Anthropic의 연구가 Amodei의 이전 진술과 모순되는지에 대한 나의 질문에 대해 Anthropic 대변인은 연구의 작은 표본 크기를 지적했습니다. 대변인은 “이것은 회사 전체의 엔지니어들을 대상으로 공동 조사를 반영한 것이 아니다”라고 말했다. Anthropic은 또한 연구에 “코드 작성”이 독특한 작업으로 포함되지 않았기 때문에 연구가 Amodei의 진술과 정확한 비교를 제공할 수 없다고 지적했습니다. 모든 엔지니어가 자동화 아이디어를 정의하고 코딩 작업을 Claude에게 “완전히 위임”한다고 말했으며 이로 인해 Amodei의 의견에 대한 명확한 반성이 더욱 흐려졌습니다.
그러나 내 생각엔 Anthropic의 엔지니어와 연구원들이 Claude에게 많은 중요한 업무를 맡길 만큼 충분한 준비가 되어 있지 않았음을 시사하는 것 같습니다. 인터뷰에서 그들은 복잡하지 않고, 반복적이거나 지루하며, Claude의 작업을 쉽게 확인할 수 있고, 특히 “코드의 품질이 중요하지 않은” Claude 작업을 제공하는 경향이 있다고 말했습니다. 그것은 Claude의 현재 능력에 대한 다소 저주스러운 평가처럼 보입니다.
반면에 엔지니어들은 Claude가 없었다면 현재 수행 중인 작업의 약 27%가 과거에는 완료되지 않았을 것이라고 말했습니다. 여기에는 AI를 사용하여 이전에는 만들 필요가 없었던 대화형 대시보드를 만드는 것과 이전에는 수정하는 데 신경쓰지 않았을 작은 코드 수정을 위한 도구를 만드는 것이 포함되었습니다. 사용 데이터에 따르면 Claude Code의 작업 중 8.6%가 Anthropic이 “페이퍼컷 수정”으로 분류한 작업이었습니다.
자격을 박탈할 뿐만 아니라 평가절하도 합니까? 의견이 나뉘어졌습니다.
보고서의 가장 흥미로운 결과는 Claude를 사용하여 엔지니어가 자신의 작업에 대해 어떻게 느끼게 되었는지였습니다. 많은 사람들은 Claude가 이전보다 더 광범위한 소프트웨어 개발 작업을 처리할 수 있게 되어 기뻤습니다. 그리고 Claude를 사용하면서 디자인 실행 방법의 기초에 집중하기보다는 제품 디자인 개념이나 사용자 경험 등을 더 깊이 고려하는 등 더 높은 수준의 기술에 대해 생각할 수 있는 자유를 얻었다고 합니다.
하지만 일부는 자신의 코딩 실력을 잃을까 봐 걱정하기도 했습니다. 한 엔지니어는 “이제는 AI에 의존해 새로운 도구를 사용하는 방법을 알려주기 때문에 경험이 부족합니다. 다른 팀원과 대화할 때 즉시 내용을 기억할 수 있기 때문에 이제는 AI에게 물어봐야 합니다.”라고 한 엔지니어는 말했습니다. 한 선임 엔지니어는 이것이 젊은 코더에게 어떤 영향을 미칠지 특히 우려했습니다. 선임 개발자는 “모델의 결과물을 맹목적으로 받아들이는 것이 아니라 나만의 역량을 계속 발전시키려면 많은 의도적인 노력이 필요할 것이라고 생각한다”고 말했다. 일부 엔지니어는 특히 기술 손실을 방지하기 위해 Claude 없이 작업을 연습했다고 보고했습니다.
그리고 엔지니어들은 클로드를 사용하는 것이 작업에서 얻은 의미와 만족을 빼앗겼는지에 대해 의견이 분분했습니다. “이제 나에게는 시대가 끝났습니다. 저는 25년 동안 프로그래밍을 해왔고 그 기술에 대해 유능하다고 느끼는 것이 제 직업 만족도의 중요한 부분입니다.”라고 한 사람이 말했습니다. 또 다른 사람은 “클로드를 선동하는 하루를 보내는 것이 그다지 즐겁지도 만족스럽지도 않다”고 보고했습니다. 그러나 다른 사람들은 더 양가적이었습니다. 그들 중 한 명은 수동 코딩의 “Zen 흐름 상태”를 놓쳤지만 Claude가 제공한 향상된 생산성 때문에 “기꺼이 포기”하겠다고 말했습니다. 적어도 한 명은 자신의 일에서 더 많은 만족감을 느꼈다고 말했습니다. “저는 코드 작성을 정말 좋아하고 오히려 코드 작성을 통해 얻는 것을 즐긴다고 생각했습니다.”라고 이 사람은 말했습니다.
Anthropic은 자체 제품이 직원들에게 어떤 영향을 미치는지 알고 있는 내용을 투명하게 공개하고 CEO가 말한 내용과 모순되더라도 결과를 보고한 점에서 공로를 인정받을 만합니다. 탈숙련화와 관련하여 인류학 설문조사에서 제기된 문제와 AI가 사람들이 업무에서 파생하는 의미에 미치는 영향은 모든 산업 분야에서 점점 더 많은 사람들이 곧 직면하게 될 문제입니다.
AI의 행운
5년 후, Google DeepMind의 AlphaFold는 과학이 AI의 킬러 앱이 될 수 있는 이유를 보여줍니다(Jeremy Kahn 작성).
독점: Gravis Robotics는 AI 기반 기계로 건설 노동력 부족을 해결하기 위해 2,300만 달러를 모금했습니다. 작성자: Beatrice Nolan
AI 치료 앱 제작자는 너무 위험하다고 판단하여 해당 앱을 종료했습니다. AI 챗봇이 정신 건강에 안전하지 않다고 생각하는 이유는 다음과 같습니다. 작성자: Sage Lazzaro
Nvidia CFO는 Eva Roytburg가 1,000억 달러 규모의 OpenAI 메가 딜에 서명하지 않았다고 인정했습니다(그녀가 AI 반등을 촉진하는 데 도움을 준 지 2개월 후).
Allie Garfinkle의 연속 자금 조달 라운드가 인상적으로 가속화된 성장을 촉진함에 따라 AI 스타트업 가치는 몇 달 만에 두 배, 세 배로 증가하고 있습니다.
내부자들은 AI의 미래가 생각보다 작고 저렴할 것이라고 말합니다(Jim Edwards).
AI 연구 관련 뉴스에 등장하는 AI
드로잉 보드로 돌아갑니다. 얼마 전까지만 해도 Ilya Sutskever만큼 “규모가 필요한 전부”라는 AGI 가설을 열렬히 지지하는 사람을 찾기 어려웠던 시절이 있었습니다. (간단히 말하면 이는 단순히 Transformer를 기반으로 더 크고 더 큰 언어 모델을 구축하고 더 많은 데이터를 제공하고 더 큰 컴퓨팅 클러스터에서 이를 교육하면 결국 인간 수준의 인공 일반 지능을 제공하고, 그 이상으로 모든 인류의 집단적 지혜보다 더 뛰어난 초지능을 제공할 수 있다는 아이디어였습니다.) 그래서 전 OpenAI 수석 과학자가 지난 주에 시작된 “Dwarkesh” 팟캐스트의 에피소드에서 팟캐스터 Dwarkesh Patel과 함께 앉아 이제 다음과 같이 확신한다고 말하는 것을 보고 놀랐습니다. LLM은 결코 인간 수준의 정보를 제공하지 않습니다. Sutskever는 이제 LLM이 훈련 데이터에 명시적으로 포함되지 않은 영역에 대해 일반화를 잘 할 수 없을 것이라고 확신한다고 말합니다. 즉, 진정한 새로운 지식을 개발하는 데 어려움을 겪게 될 것입니다. 그는 또한 LLM 교육이 매우 비효율적이라고 지적했습니다. 여기에는 수천 또는 수백만 개의 사례와 인간 평가자의 반복적인 피드백이 필요한 반면, 사람들은 일반적으로 소수의 사례만으로 무언가를 배울 수 있으며 한 영역에서 다른 영역으로 매우 쉽게 비유할 수도 있습니다. 그 결과, 현재 자신의 AI 스타트업인 Safe Superintelligence를 운영하고 있는 Sutskever는 Patel에게 우리는 “연구 시대로 돌아왔다”고 말하면서 해당 분야의 성배를 달성하는 신경망을 설계하는 새로운 방법을 찾고 있다고 말합니다. AGI. Sutskever는 이를 달성하는 방법에 대해 어느 정도 직관을 갖고 있지만 상업적인 이유로 이를 ‘Dwarkesh’에서 공유하지 않을 것이라고 말했습니다. 이러한 영업 비밀에 대한 그의 침묵에도 불구하고 팟캐스트는 들어볼 가치가 있습니다. 여기에서 다 들어보실 수 있습니다. (경고, 길어요. 좋아하는 AI에게 요약해서 줘도 좋을 것 같아요.)
당신은 달력을 가지고 있습니다
12월 2~7일: NeurIPS, 샌디에이고
12월 8~9일: Fortune Brainstorm AI 샌프란시스코. 여기에서 참석을 요청하세요.
1월 6일: Fortune Brainstorm Tech CES 만찬. 여기에서 참석을 요청하세요.
1월 19~23일: 세계경제포럼, 스위스 다보스.
2월 10~11일: AI Action Summit, 인도 뉴델리.
두뇌를 위한 음식
AI 도입이 둔화되고 있나요? The Economist의 한 기사는 최근에 출판된 일련의 수치를 인용하면서 이렇게 주장합니다. 미국 인구조사국의 새로운 데이터에 따르면 미국의 고용 가중치 직장 AI 사용은 약 11%로 떨어졌으며 특히 대기업에서 채택이 감소했으며 생성 AI가 부상한 지 3년 후 채택이 예상외로 약했습니다. 다른 데이터 세트도 동일한 냉각을 지적합니다. 스탠포드 연구진은 사용량이 6월과 9월 사이에 46%에서 37%로 감소한 것을 발견했으며, Ramp는 2025년 초 AI 채택이 안정되기 전 40%로 증가했다고 보고하여 모멘텀이 정체되었음을 시사합니다. 이러한 둔화는 거대 기술 기업들이 향후 몇 년 동안 AI 인프라에 5조 달러를 지출할 계획이고 이를 정당화하기 위해 연간 수익(대부분 기업으로부터)이 약 6,500억 달러가 필요할 것이기 때문에 중요합니다. AI 채택의 느린 속도에 대한 설명은 거시경제적 불확실성부터 조직 역학에 이르기까지 다양하며, 현재 모델이 상당한 생산성 향상을 창출할 수 있는 능력에 대한 관리자의 의구심도 포함됩니다. 이 기사는 채택이 가속화되지 않으면 AI의 경제적 이점은 투자자가 기대하는 것보다 느리고 고르지 않아 현재의 막대한 자본 지출을 정당화하기 어렵게 만들 것이라고 주장합니다.
