Meta가 Ray-Ban 스마트 안경을 선주문할 수 있도록 하면서 한 가지를 분명히 했습니다. 귀하의 개인 정보는 안전할 것입니다. 2023년 9월에 발표된 당시 성명서는 “Ray-Ban Meta 스마트 안경은 개인 정보 보호를 핵심으로 설계되었습니다.”라고 밝혔습니다. 마케팅은 개인 정보 보호에 대해 명확했으며 그 결과 도시 주변에서, 슈퍼볼 광고에서, 심지어 아동 안전 법원에서도 Meta의 자체 플랫폼에서 진행되는 사람들이 이 안경을 착용하는 것을 보았을 수 있습니다. ICE요원들은 현장에서도 이 옷을 입었다고 합니다.
당신이 보지 못했을 수도 있는 것은 안경의 카메라 십자선에 포착된 당신의 모습입니다. 이제 새로운 보고서(그리고 곧바로 뒤따른 연방 소송)에서는 회사가 두꺼운 안경보다 투명성이 훨씬 낮다고 주장하며 회사가 AI 모델 대신 사용자의 이미지를 해외의 인간 근로자에게 자동으로 라우팅하고 있다고 주장합니다. 이 작업자들은 벌거벗은 사람들부터 민감한 금융 문서까지 모든 것을 목격했으며 AI 훈련 목적으로 데이터를 공유하기로 선택한 사용자 덕분입니다.
한 직원은 안경을 통해 영상을 본 후 “일부 영상에서는 누군가 화장실에 가거나 옷을 벗는 모습을 볼 수 있다. 만약 그렇게 해도 녹화를 하지 않을 것이기 때문에 그 사람들은 모르는 것 같다”고 말했다.
2월 말, 스웨덴 간행물 Svenska Dagbladet 및 Göteborgs-Posten은 Meta의 AI 훈련 프로세스에 대한 조사를 발표했으며 케냐의 Meta 계약자가 안경(Ray-Ban Meta Wayfarer(Gen 2), Ray-Ban Display 및 Oakley Meta HSTN 모델로 구성)을 구동하는 AI 훈련을 돕는다는 사실을 발견했습니다. 그들이 본 것은 놀라운 일이었습니다.
한 직원은 보고서에서 “우리는 거실부터 나체까지 모든 것을 본다”고 말했다. “Meta의 데이터베이스에는 그런 종류의 콘텐츠가 있습니다.”
AI 훈련 목적으로 데이터를 공유하기로 선택한 모든 사용자는 자신의 삶의 모든 부분을 효과적으로 기록할 수 있으며, 결과적으로 훈련할 AI 또는 그 뒤에 있는 인간이 검토할 수 있습니다. 여기에는 화장실에서 옷을 벗고 음란물을 보는 사람들의 이미지가 포함되며, 적어도 한 건의 기록된 사례에서는 침대 옆 탁자에 남겨진 안경이 녹화에 동의하지 않은 커플을 포착했습니다.
Meta의 하청업체(AI가 콘텐츠에 수동으로 라벨을 지정하여 이미지를 해석하도록 가르치는 데이터 주석 작성자)도 사용자의 신용 카드 번호와 금융 문서를 확인했다고 보고했습니다. 보고서 발행 당시 Meta는 대변인을 통해 “다른 회사와 마찬가지로 사람들이 Meta AI와 콘텐츠를 공유할 때 때때로 계약자를 통해 이 데이터를 검토하고 개인 정보 보호 정책에 설명된 대로 사람들의 안경 경험을 개선합니다. 이 데이터는 사람들의 개인 정보를 보호하기 위해 먼저 필터링됩니다. “라고 말했습니다.
집단소송 시작
이 보고서는 법적 조치를 촉발했습니다. 3월 4일, 원고인 지나 바톤(Gina Bartone)과 마테오 카누(Mateo Canu)는 안경으로 촬영한 비디오가 서버로 전송된 다음 수동 태깅을 위해 케냐 하청업체로 전송된다는 사실을 공개하지 않음으로써 회사들이 연방법과 주법을 위반했다고 비난하면서 Meta Platforms(및 미국의 안경 제조사 Luxottica)를 상대로 집단 소송을 제기했습니다. 개인 정보 보호와 보안에 대한 대중의 우려가 커지면서 “이러한 맥락에서” Meta는 “안심할 수 있는 약속: 안경은 ‘개인 정보 보호를 위해 설계되었으며 사용자가 제어할 수 있습니다'”라고 안경을 출시했습니다.
Stubbs Alderton & Markiles의 개인 정보 보호 및 인공 지능 변호사인 Brian Hall은 이번 폭로가 놀랍고 예측 가능하다고 말했습니다. 홀은 포춘과의 인터뷰에서 “정말 끔찍하다. 우리 모두가 상상했던 일이 바로 그런 일이다”라고 말했다. “나는 10~12년 전에 구글에 안경이 있었고 사람들이 안경을 쓰고 화장실에 가는 것에 대한 우려가 있었다는 것을 기억할 만큼 나이가 들었습니다. 이제 우리는 거의 그 수준에 이르렀습니다.”
(구글이 2013년에 구글 글래스 프로토타입을 선보였을 때 감시, 동의, 익명성 폐지에 대한 대중의 격렬한 반발이 촉발되었습니다. 바, 레스토랑, 카지노, 스트립 클럽에서는 이 기기를 완전히 금지했고 사용자들은 “유리 구멍”이라는 조롱적인 별명을 얻었습니다.)
Hall은 부분적으로 Meta의 자체 서비스 약관에 데이터 주석자가 “AI와의 대화 또는 메시지 내용을 포함하여 AI와의 상호 작용을 검토할 것”이라고 명시하고 이 검토가 “자동 또는 수동일 수 있다”고 명시하고 있기 때문에 법적 책임이 여전히 모호하다고 말했습니다. Hall은 “우리가 그들의 개인 정보 보호 정책을 주의 깊게 읽어 본다면 그들이 그렇게 하지 않는다고 명시적으로 명시한 것은 없을 것입니다”라고 말했습니다. “법적 책임 측면에서는 잘 모르겠습니다. 하지만 확실히 홍보 책임입니다. 이것은 가장 민감한 정보와 이미지 중 일부입니다.”
Hall은 그의 가장 큰 관심사는 실제로 안경 착용자가 아니라 안경테 안에 갇힌 다른 모든 사람들이라고 말했습니다. 그는 “촬영되고 신원이 확인되는 사람들인 방관자들이 위험에 처해 있는 사람들”이라고 말했다. “안타깝게도 우리의 개인 정보 보호법은 이러한 사람들을 보호하기 위해 고안된 것이 아닙니다. 안경을 착용하는 사람들과 자신의 데이터를 관리하는 능력을 보호하기 위해 고안되었습니다.”
Hall은 증언을 통해 자신을 “코치”하는 데 도움을 주기 위해 영국 법원에서 안경을 착용한 남성에 대한 보고를 언급하면서 Meta가 안경에 안면 인식 기능을 추가하는 것을 고려하고 있는 것으로 알려졌기 때문에 위험이 상당히 가중된다고 말했습니다. “오늘날 거리, 법정, 술집에서 누군가를 볼 수 있고 페이스북과 인스타그램에서 조사를 하고 찾을 수 있는 세상과는 정말 거리가 멀어지고 있습니다. 하지만 이것은 즉각적입니다. 자동적이고 힘들이지 않습니다. 법정에 앉아 증인을 식별할 수도 있습니다.”
Hall은 기존 법률이 Meta의 안경이 가능하게 하는 것을 위해 설계되지 않았다고 지적했습니다. 그는 “기존 법률이 Meta와 다른 소셜 미디어 회사가 지금 하고 있는 일의 위험으로부터 우리를 보호하기에 충분한지 모르겠습니다.”라고 말했습니다. “이것은 개인 정보 보호법의 구두쇠와 같지만 그대로 시행되는 경우는 거의 없으며 이로 인해 구축된 전체 프레임워크가 완전히 중단됩니다.
그는 “사람들이 이 문제를 의미 있는 방식으로 해결하고 있다고 생각하지 않는다”고 말하면서 현재의 규정은 단편적이며 개인 정보 보호 문제를 완전히 해결하지 못한다고 지적했습니다. 일단 프라이버시가 다루어지면 “다른 모든 것은 단지 겉모습에 불과하다”고 그는 말했습니다.
메타는 논평 요청에 응답하지 않았습니다.
