안녕하세요. Jeremy Kahn을 대신하여 Sharon Goldman이 합류하는 Eye on AI에 오신 것을 환영합니다. 이번 호에서는: OpenAI의 OpenClaw 채용이 실제로 의미하는 것… 미 국방부가 인류에 대한 처벌을 위협합니다… Tom Cruise가 Brad Pitt와 싸우는 AI 비디오가 헐리우드를 놀라게 한 이유… 잔혹한 AI 작업 문화를 이끄는 불안.
이러한 종류의 자율적 동작은 바로 OpenClaw를 개발자들에게 흥미롭게 만들었고, Iron Man 영화에 나오는 항상 조수인 실제 JARVIS에 대한 꿈에 더 가까이 다가갈 수 있게 해주었습니다. 그러나 이는 보안 전문가들 사이에서 금세 경종을 울렸습니다. 지난주에 저는 OpenClaw를 AI 에이전트의 “나쁜 소년”으로 묘사했습니다. 왜냐하면 지속적이고 자율적이며 시스템 전반에 걸쳐 긴밀하게 연결된 보조자는 보안을 유지하기가 훨씬 더 어렵기 때문입니다.
OpenAI를 채용하는 것이 “최상의 결과”라고 말하는 사람들도 있습니다.
이러한 긴장은 일부 사람들이 OpenAI의 개입을 필요한 단계로 보는 이유를 설명하는 데 도움이 됩니다. OpenClaw에 대한 “안전한 대안”이라고 부르는 NanoClaw를 만든 소프트웨어 엔지니어인 Gavriel Cohen은 “아마도 이것이 모두를 위한 최선의 결과일 것이라고 생각합니다.”라고 말했습니다. “Peter는 뛰어난 제품 감각을 가지고 있지만 아키텍처와 보안에 대한 충분한 관심 없이 프로젝트가 너무 크고 너무 빨라졌습니다. OpenClaw는 근본적으로 안전하지 않고 결함이 있습니다. 패치만으로 문제를 해결할 수는 없습니다.”
다른 사람들은 이러한 움직임이 OpenAI에게도 마찬가지로 전략적이라고 생각합니다. 개발자 중심의 AI 클라우드 기업 라이트닝 AI(Lightning AI)의 CEO 윌리엄 팔콘(William Falcon)은 클로드 코드(Claude Code)를 포함한 앤트로픽의 클로드(Claude) 제품이 개발자 부문을 장악했다고 말했다. 그는 OpenAI가 “모든 개발자를 확보하고 싶어하며 AI 지출의 대부분이 바로 여기에 있다”고 설명했습니다. 여러 면에서 Claude Code의 오픈 소스 대안이자 하루아침에 개발자의 사랑을 받는 OpenClaw는 OpenAI에 “탈옥 카드”를 제공한다고 그는 말했습니다.
Altman은 채용을 다음에 무엇이 올지에 대한 내기로 제시했습니다. 그는 Steinberger가 AI 에이전트가 어떻게 상호 작용할 수 있는지에 대해 “많은 놀라운 아이디어”를 가져오며 “미래는 극도로 다중 에이전트가 될 것”이며 이러한 기능은 “빠르게 우리 제품 제공의 핵심이 될 것”이라고 덧붙였습니다. OpenAI는 OpenClaw를 자체 제품에 통합하는 대신 재단을 통해 독립적인 오픈 소스 프로젝트로 계속 운영할 계획이라고 밝혔습니다. Steinberger는 이 약속이 Anthropic 및 Meta와 같은 경쟁업체 대신 OpenAI를 선택하기로 한 결정에 결정적이었다고 말했습니다(Lex Fridman과의 인터뷰에서 Steinberger는 Mark Zuckerberg가 WhatsApp에서 개인적으로 그에게 연락하기도 했다고 말했습니다).
다음 단계는 AI 에이전트에 대한 개발자의 신뢰를 얻는 것입니다.
주말의 과대 광고를 넘어 OpenAI의 OpenClaw 채용은 AI 에이전트 경력이 어떻게 진화하고 있는지에 대한 창을 제공합니다. 모델의 상호 교환 가능성이 높아짐에 따라 에이전트가 안정적이고 안전하게 대규모로 작동할 수 있는지 여부를 결정하는 덜 눈에 띄는 인프라로 경쟁이 전환됩니다. OpenAI는 프로젝트 오픈 소스를 유지하겠다고 약속하면서 입소문이 나지만 논쟁의 여지가 있는 자율 에이전트의 제작자를 데려옴으로써 AI의 다음 단계가 더 똑똑한 모델에 의해서만 정의되는 것이 아니라 실험 에이전트를 신뢰할 수 있는 시스템으로 전환하는 임무를 맡은 개발자의 신뢰를 얻음으로써 정의될 것이라는 신호를 보내고 있습니다.
Untapped Capital의 파트너인 Yohei Nakajima는 이것이 새로운 제품의 물결로 이어질 수 있다고 말했습니다. 그는 BabyAGI라는 2023년 오픈 소스 실험을 통해 LLM이 작업을 자동으로 생성하고 실행하는 방법을 보여 주어 현대 AI 에이전트 운동을 시작하는 데 도움을 주었습니다. 그는 BabyAGI와 OpenClaw 모두 개발자들이 최신 기술로 무엇을 만들 수 있는지 알아보도록 영감을 주었다고 말했습니다. “BabyAGI 직후에 우리는 gpt-engineer(Lovable이 됨), Crew AI, Manus, Genspark 등 첫 번째 에이전트 회사의 출시를 보았습니다.”라고 그는 말했습니다. “최근의 물결 이후 비슷한 새로운 영감을 받은 제품을 볼 수 있기를 바랍니다.”
AI의 행운
기술 리더들이 델리 정상회담을 위해 모이자 인도의 AI 투자 급증 – 작성자: Beatrice Nolan
거대 기술이 ‘위험 신호’ 순간에 접근함: AI CapEx가 너무 커서 하이퍼스케일러가 현금 흐름에 부정적인 영향을 미칠 수 있다고 Evercore 경고 – Jim Edwards 작성
Anthropic CEO Dario Amodei는 지출에 대한 주의를 설명하면서 AI 성장 예측이 1년만 어긋나면 “그러면 파산하게 될 것입니다”라고 경고했습니다. – 작성자: Jason Ma
뉴스 속의 AI
미 국방부는 인류학적 처벌을 위협하고 있다. Axios에 따르면 미 국방부는 Anthropic을 “공급망 위험”으로 지정하겠다고 위협하고 있습니다. 이는 미군과 거래하는 모든 회사가 AI 스타트업과의 관계를 끊도록 사실상 강제하는 드물고 징벌적인 조치입니다. 국방부 관리들은 Anthropic이 자사의 Claude 모델을 사용할 수 있는 방법에 대한 보호 장치(특히 미국인에 대한 대량 감시 또는 완전 자율 무기 개발을 방지하기 위한 제한)를 완전히 완화하는 것을 거부한 것에 좌절감을 느꼈다고 말하면서 군대는 “모든 합법적인 목적”으로 AI를 사용할 수 있어야 한다고 주장했습니다. Claude가 현재 국방부의 기밀 시스템에 사용하도록 승인된 유일한 AI 모델이고 군사 작업 흐름에 깊숙이 내장되어 있기 때문에 대치 상황은 특히 긴장됩니다. 즉, 갑작스러운 중단은 비용이 많이 들고 파괴적일 수 있습니다. 이 분쟁은 윤리적 한계를 부과하려는 AI 연구소와 강력한 AI 도구에 대한 더 광범위한 통제를 추구하면서 점점 더 강경한 태도를 취하려는 미군 기관 사이의 긴장이 커지고 있음을 강조합니다.
잔혹한 AI 업무 문화를 이끄는 불안. 혹시 워라밸 때문에 고민이셨던 분들이라면 이 글을 읽고 나면 마음이 한결 나아지실 거라 생각합니다. The Guardian에 따르면, 샌프란시스코의 급성장하는 AI 경제에서 기술 부문의 오랜 장점과 유연한 문화는 신생 기업이 직원들에게 빠른 발전과 치열한 경쟁을 따라잡기 위해 오랜 시간, 짧은 휴가, 극심한 생산성 압박을 강요함에 따라 용서할 수 없는 까다로운 기대로 대체되고 있습니다. 근로자들은 하루 12시간 근무, 주 6일 근무, 직업 안정과 AI가 미래 역할에 미치는 영향에 대한 불안감이 커지는 가운데 주말이나 사회 생활을 건너뛰는 것이 관련성을 유지하는 대가처럼 느껴지는 환경을 설명합니다. 이러한 변화는 AI 작업의 가치 평가 방식에 대한 광범위한 변화, 즉 직장의 규범을 재편하는 변화를 반영하며 자동화와 혁신이 가속화됨에 따라 다른 부문에서도 유사한 압력을 예고할 수 있습니다. 다음에 베이에 있을 때 이것이 지상에서 어떤 모습인지 꼭 확인해야 할 것입니다.
AI 연구에 주목하다
세계에서 가장 크고 가장 오랫동안 지속된 해커 컨퍼런스인 DEF CON은 2025년 8월 가장 최근 판에서 발표된 연구를 요약한 연례 보고서인 최신 Hackers’ Almanack을 발표했습니다. 이 보고서는 연구원들이 AI 시스템이 더 이상 인간의 해킹 속도를 높이는 데 도움이 될 뿐만 아니라 때로는 인간보다 뛰어난 성능을 발휘할 수 있음을 보여준 방법에 중점을 두었습니다. 여러 사이버 보안 대회에서 AI 에이전트를 사용하는 팀이 모든 인간 팀을 이겼고, 한 경우에는 AI가 자체적으로 실행되어 추가 인간 개입 없이 대상 시스템에 성공적으로 침입할 수 있었습니다. 연구원들은 또한 규모에 맞게 소프트웨어 결함을 찾고, 인간의 목소리를 모방하고, 기계 학습 시스템을 조작할 수 있는 인공 지능 도구를 시연하여 인공 지능의 공격적인 사용이 얼마나 빠르게 발전하고 있는지 강조했습니다.
연구원들은 문제는 대부분의 정책 입안자들이 이러한 기능에 대한 가시성이 거의 없어 잘못된 AI 규칙의 위험이 증가한다는 점이라고 주장합니다. 그들의 제안은 AI 시스템이 공개 해킹 대회에서 공개적으로 경쟁할 수 있도록 허용하고, 결과를 공개 공유 데이터베이스에 기록하고, 실제 증거를 사용하여 정부가 더 스마트하고 현실적인 AI 보안 정책을 개발할 수 있도록 돕는 것입니다.
당신은 달력을 가지고 있습니다
2월 16~20일: India AI Impact Summit 2026, 델리.
2월 24~26일: 안전하고 윤리적인 AI를 위한 국제 협회(IASEAI), 유네스코, 프랑스 파리.
3월 2~5일: 스페인 바르셀로나에서 열리는 모바일 월드 콩그레스(Mobile World Congress).
3월 12~18일: 텍사스 주 오스틴, 사우스 바이 사우스웨스트.
3월 16~19일: Nvidia GTC, 캘리포니아주 산호세.
4월 6~9일: HumanX, 샌프란시스코
두뇌를 위한 음식
AI가 시험장에 들어갈 때 신뢰의 딜레마. 저는 Scientific American의 이 새로운 기사에 매료되었습니다. 그 기사에서는 AI가 임상 치료에 더 깊이 침투함에 따라 간호사들이 새로운 신뢰 딜레마의 최전선에 서게 되었다는 점을 지적했습니다. 실제 판단에서는 그렇지 않다고 말할 때 알고리즘이 생성한 명령을 따라야 할까요? 예를 들어, 패혈증 경보로 인해 응급팀은 간호사가 거부하고 의사가 AI를 무시할 때까지 신장이 손상된 환자에게 수액을 투여해야 했습니다. 보고서에 따르면 미국 병원 전반에 걸쳐 예측 모델이 이제 위험 채점 및 문서화부터 물류, 자율 처방 갱신에 이르기까지 모든 것에 통합되어 있지만 일선 직원은 이러한 도구가 실패하고 투명성이 부족하며 때로는 임상적 판단을 훼손한다고 점점 더 불평하고 있습니다. 이러한 마찰은 시위와 파업을 촉발시켰고 옹호자들은 AI에 대한 결정에 간호사가 참여해야 한다고 주장합니다. 왜냐하면 궁극적으로 결과를 짊어지는 사람은 인간이기 때문입니다.
