수요일 시애틀에서 열린 Women in Tech Regatta 세션의 패널리스트. 왼쪽부터 워싱턴대학교 사회자 사라 스튜더(Sarah Studer), 노드스트롬(Nordstrom) 마리아 마틴(Maria Martin), 어도비(Adobe) 난디타 크리슈난(Nandita Krishnan), 하이스팟(Highspot) 안야 에델스타인(Anya Edelstein). (WiT 레가타 사진)
여성은 자동차 안전부터 의료 진단까지 모든 것에 영향을 미치는 데이터 세트와 결정에서 오랫동안 배제되어 왔습니다. 업계 리더들은 인공지능에 성급하게 접근하면 이러한 패턴이 반복될 위험이 있다고 경고합니다.
이는 이번 주 시애틀에서 열린 Women in Tech Regatta의 핵심 메시지였으며, 연사들은 채택이 가속화됨에 따라 AI 개발에 더 빠르고 폭넓게 참여할 것을 촉구했습니다.
시애틀에 본사를 둔 Highspot의 학습 경험 관리자인 Anya Edelstein은 수요일 AI 리더십 패널에서 “배제는 시간이 지남에 따라 심화되고 감지하기가 훨씬 더 어려워집니다”라고 말했습니다. “처음 결정을 내릴 때 회의실에서 그들의 관점을 고려하지 않으면 나중에 변경하기가 더 어려워질 것입니다.”
최근 몇 년 동안 연구자들은 여성의 신부전 오진을 포함하여 왜곡되거나 편향된 데이터 세트에 대해 훈련된 기계 학습 모델의 결함을 완화하려고 노력해 왔습니다. 한편, 전 세계적으로 여성은 남성보다 AI 도구를 사용할 가능성이 약 20% 낮아 훈련의 격차가 커지고 있습니다.
적어도 기술 분야에서는 AI의 성별 격차가 줄어들고 있는 것으로 보입니다. 기업이 대규모 자동화를 향해 경쟁하고 Anthropic 및 OpenAI IPO를 둘러싼 잘못된 정보 및 데이터 보안에 대한 우려가 소용돌이치면서 이는 주목할 만한 변화입니다.
여성이 AI 전략을 조심스럽게 주도한다
여성 중심 리더십 네트워크인 Chief가 이달 초 발표한 1,700명 이상의 업계 리더를 대상으로 실시한 설문조사에 따르면 리더십 위치에 있는 대다수의 여성(80%)은 직장에서 AI 전략을 추진하고 있으며 속도보다 책임감 있는 채택을 우선시하는 것으로 나타났습니다.
Nordstrom의 제품 관리 이사인 Maria Martin은 이는 기업이 점점 더 빠른 속도로 AI 도구와 전략을 배포해야 한다는 압력과 대조되는 경우가 많다고 말했습니다.
마틴은 수요일 패널에서 “결정을 내리는 것과 결정의 규모 사이에는 차이가 적다”고 말했다. “앞서서 일찍 참여하는 것이 중요합니다.”
설문조사에 참여한 여성 관리자 그룹 중 71%는 회사에서 AI의 위험성을 가장 먼저 지적했습니다.
Edelstein은 “모든 단계에서 의도적으로 개입하지 않으면 편견이 침투할 기회가 있습니다”라고 말했습니다.
여자들을 방으로 데려가세요
자격을 갖춘 여성을 AI 리더십과 의사결정 공간에 데려오는 문제는 채용에서 시작될 수 있습니다. 채용 담당자의 최소 2/3가 AI를 사용하여 후보자를 선택합니다. 이 프로세스는 종종 교차적인 방식으로 인종 및 성별 편견을 재현하는 것으로 나타났습니다.
참석자들은 수요일 시애틀에서 열리는 Women in Tech Regatta에서 연결됩니다. (WiT Regatta 제공)
2024년 워싱턴 대학의 연구원들은 AI 이력서 심사자가 89%의 경우 여성 이름보다 남성 이름을 선택하고 85%의 경우 흑인 관련 이름보다 백인 관련 이름을 선택한다는 사실을 발견했습니다. 1년 후, 워싱턴 대학교는 채용 관리자가 AI 모델의 편견을 반영한다는 사실을 발견했습니다.
여성과 유색인종은 사무실에 들어가기도 전에 동화되고 코드를 바꿔야 한다는 압력(이력서에 인종 및 성별 중립적인 이름을 사용하는 등)에 직면합니다. 오랫동안 IT 및 엔지니어링 리더로 활동해 온 Cynthia Tee는 일단 채용되면 지원할 적절한 사람을 찾는 것이 중요하다고 말했습니다.
Tee는 더 많은 업계 리더들이 일반적인 직장 동맹에 비해 더 큰 의도, 실질적인 위험 및 비용을 요구하는 후원 모델을 구현할 수 있다고 제안합니다.
Tee는 직장 역학 탐색에 관한 패널에서 “합당한 사람들의 승진을 계속 주장합시다”라고 말했습니다. “채용 채널을 통해 더 다양한 사람들을 계속 데려오세요. 목소리가 들리지 않는 사람들을 계속 데려오세요.”
AI 대화는 모두를 위한 것이다
부분적으로 업계의 “블랙박스” 설계로 인해 AI를 이해하거나 사용하는 데 신뢰 장벽이 있을 수 있습니다. 부업으로 앱을 구축하는 Adobe의 데이터 과학자 Nandita Krishnan은 매주 시간을 따로 떼어 최신 뉴스를 읽고 일상 작업 자동화를 실험해 볼 것을 제안합니다.
그는 Edelstein 및 Martin과 함께 패널에서 “진동 코딩을 수행하는 경우 소프트웨어의 보안을 유지하는 방식으로 수행하십시오”라고 말했습니다. “AI 시스템을 구축할 때 탈선이 발생할 가능성이 매우 높습니다. LLM을 접지할 무언가를 추가하고 탈선하지 않도록 에이전트에 이 사실이나 지식 데이터베이스를 제공하세요.”
AI 의사결정에 대한 참여는 기술 전문 지식에만 국한되지 않습니다. Edelstein은 AI(교육, 의료, 환경 포함)를 중심으로 가치를 확립하고 이에 참여하는 업계 리더나 회사를 찾을 것을 제안합니다.
많은 직장인들이 뒤쳐질까 봐 AI를 배우고 있지만, 호기심이 더 나은 결과를 낳는다고 덧붙였다.
그는 “AI에 대한 인식을 많이 바꿀 수 있다면 그것이 더 많은 사람들을 대화에 끌어들이는 첫 번째 단계가 될 것”이라고 말했습니다.
