OpenAI와 Anthropic은 AI로 인해 심각한 문제가 발생했을 때 어떤 일이 발생해야 하는지에 대한 답변을 시도하는 일리노이주 총회에서 반대되는 AI 법안을 지지하고 있습니다.
CEO들이 서로의 접근 방식에 대해 내부 및 대중의 비판을 교환하면서 AI 안전 및 규제에 대한 회사의 지속적인 논쟁의 최신 라운드입니다.
OpenAI는 SB 3444를 지원합니다. 이 조항에 따라 프론티어 AI 개발자는 100명 이상의 사망이나 심각한 부상을 초래하거나 10억 달러 이상의 재산 피해를 입힌 것에 대해 책임을 지지 않습니다. 이러한 보호에는 AI가 화학적, 생물학적, 방사선학적 또는 핵무기의 생성 또는 사용을 유발하거나 실질적으로 가능하게 하는 경우가 포함됩니다.
이번 주 Anthropic은 이 법안에 반대한다고 WIRED가 처음 보도했습니다.
Anthropic의 미국 주 및 지방 정부 관계 책임자인 César Fernández는 Fortune에 보낸 성명에서 “우리는 이 법안에 반대합니다. 훌륭한 투명성 법안은 이 강력한 기술을 개발하는 회사의 공공 안전과 책임을 보장해야 하며 책임에 대한 면책 카드를 제공해서는 안 됩니다.”라고 말했습니다.
대신 Anthropic은 AI 개발자가 웹 사이트에 공공 안전 및 아동 보호 계획을 게시하도록 요구하는 별도의 법안인 SB 3261을 지원합니다. 이 법안은 또한 프론티어 개발자에 의한 프론티어 모델의 개발, 저장, 사용 또는 배포로 인해 발생하는 “재난적 위험” 또는 50명 이상의 사망이나 심각한 부상을 초래할 수 있는 사건을 국회의원과 대중에게 알리기 위한 사건 보고 시스템을 만듭니다.
이 법안은 또한 OpenAI 지원 법안에서 누락된 측면인 아동 안전도 다루고 있습니다. SB 3261에 따라 AI 개발자는 자신의 모델이 어린이에게 심각한 정서적 고통, 사망 또는 자해를 포함한 신체적 부상을 초래하는 경우 책임을 져야 합니다.
‘매우 낮은’ 바
전문가들은 SB 3444가 기업 재해 책임에 대한 접근 방식이 현저히 취약한 반면 일리노이주는 AI 규제의 선두주자이기 때문에 통과될 가능성이 낮다고 Fortune에 말했습니다. 지난해 주정부는 AI 치료를 금지하고 자격증을 갖춘 전문가를 위한 행정 및 지원 서비스에 AI 치료의 사용을 허용했습니다.
SB 3444는 기업이 공공 AI 안전 계획을 마련하도록 요구하지만 시행 조치는 없습니다. 개발자가 “의도적이거나 무모하게” 사고를 일으키지 않았다면 책임으로부터 보호받을 수 있습니다.
AI 책임 및 거버넌스 전문가이자 드렉셀 대학교 법학과 조교수인 Anat Lior는 의도적이거나 무모한 것은 매우 위험한 활동에 참여하는 기업에 대한 일반적인 법적 표준이 아니라고 말했습니다.
“보통 피해와 관련된 기분이나 죄책감은 중요하지 않습니다.”라고 그는 설명했습니다. “그들은 여기서 기준을 매우 낮게 설정하고 있습니다. AI와 관련된 일을 의도적으로 했다는 것을 증명할 수 있는 것은 매우 어려울 것입니다.”
AI 개발자들에게 더 큰 책임을 부과하는 법안에 대해 뉴욕 및 로드아일랜드 의원들과 협력해 온 투로 대학 법학 교수 가브리엘 웨일(Gabriel Weil)은 OpenAI 지원 법안의 접근 방식이 “매우 방어 불가능하다”고 말했습니다.
Weil은 Fortune과의 인터뷰에서 “이는 매우 취약한 요구 사항인 것 같습니다. 그 대가로 이러한 극단적인 사건에 대한 책임으로부터 거의 완전한 보호를 받을 수 있습니다”라고 말했습니다. “내 생각에는 그것이 우리가 나아가야 할 반대 방향인 것 같아요.”
OpenAI 대변인은 WIRED와의 인터뷰에서 회사가 SB 3444의 접근 방식을 지지한다고 말했습니다. 왜냐하면 이 기술이 사람과 기업의 손에 들어갈 수 있도록 하면서 가장 발전된 AI 시스템으로 인한 심각한 피해 위험을 줄이기 때문입니다.
OpenAI 대변인은 Fortune과의 인터뷰에서 회사가 AI 안전 프로토콜의 투명성과 위험 감소를 개선하기 위한 노력을 강력히 지지한다고 밝혔으며, 안전 프레임워크와 비준수에 대한 처벌을 통과시키기 위해 캘리포니아와 뉴욕의 국회의원과 협력했다고 밝혔습니다. 회사는 연방법이 없는 한 계속해서 주정부와 협력할 것입니다.
대변인은 “우리는 이러한 주법이 미국이 계속해서 선도할 수 있도록 돕는 국가 체계의 기초가 되기를 희망한다”고 썼다.
