인스타그램의 얼굴 스캔, 틱톡의 셀카 영상, 유튜브의 지문 비밀번호, 페이스북의 아이디 업로드. 아직은 때가 아니지만, AI 밈을 게시하기 위해 생체인식 데이터를 수집하는 것은 대규모 소셜 네트워크가 Big Tobacco(대규모 담배) 시대를 거치면서 표준이 될 것입니다.
소셜 미디어 중독에 대한 소송과 연령 확인을 둘러싼 치열한 규제 싸움으로 인해 디지털 환경은 엄청난 격변을 겪고 있습니다. 소셜 미디어 플랫폼이 “도파민 반발”과 어린이에게 해를 끼치는 중독성 디자인 선택에 대한 역사적인 법적 심판에 직면하면서 근본적인 기술적, 윤리적 위기가 나타났습니다. 호주와 같은 국가에서는 16세 미만의 사람들에게 소셜 미디어 금지 조치를 취하고 있으며, Meta는 현재 자사 플랫폼에서 의도적으로 어린이들에게 중독성 환경을 조성했다는 비난을 받고 재판을 받고 있습니다.
사용자의 연령을 확인하기 위한 경쟁(어린 시절 중독을 억제하기 위해 회사가 배포한 주요 도구)에서 이러한 소셜 미디어 플랫폼은 일반적으로 “연령 확인 함정”으로 알려진 역설을 드러냈습니다. 단순히 사용자에게 연령 확인 규칙을 부과함으로써 이러한 회사는 동일한 사용자의 데이터 개인정보 보호를 훼손하고 있습니다.
Big Social에는 큰 담배 순간이 있습니다.
Meta 및 TikTok과 같은 회사는 자사의 플랫폼 및 비즈니스 모델을 담배 및 오피오이드 시장의 비즈니스 모델과 비교하는 연방 및 주 소송에 직면해 있으며, 회사가 플랫폼이 사용자 중독을 조장하도록 설계된 방식을 직접적이고 의도적으로 조작한다고 주장합니다. Meta CEO인 Mark Zuckerberg는 최근 과학적인 연구가 소셜 미디어와 정신 건강에 미치는 해악 사이의 연관성을 입증하지 못했다고 증언했습니다. 그러나 전문가들은 소셜 미디어 중독이 사용자를 온라인 상태로 유지하기 위한 동일한 엔지니어링 알고리즘에 의해 발생한다고 말하면서 다르게 주장합니다.
가족 소유 소셜 미디어 회사인 Aura의 임상 심리학자이자 인공 지능 과학자인 Debra Boeldt 박사는 “이 회사들은 아이들이 자신들의 플랫폼에 접근하는 것을 막는 특정 표준을 지키지 않습니다.”라고 말했습니다. “이 회사들은 아이들이 자신들의 플랫폼에 접속함으로써 이익을 얻습니다. 더 많은 사람, 더 많은 광고”라고 말했습니다. 인공 지능을 사용해 어린이의 온라인 습관을 모니터링하고 성인의 개인 정보를 안전하게 보호하는 회사인 Aura에서 임상 연구를 이끌고 있는 Boeldt는 어린이의 집행 기능과 충동 제어가 아직 발달하고 있기 때문에 현재 소셜 미디어 디자인에 특히 취약하다고 말했습니다.
어린이에게 소셜 미디어 플랫폼은 단순한 앱이 아니라 사회적 연결의 주요 원천이기도 합니다. 연구에 따르면 13세 이하 어린이 5명 중 1명은 하루에 4시간 이상 소셜 미디어를 사용하여 스트레스, 불안 및 우울증의 수준이 더 높아집니다. Boeldt는 아이들은 똑똑하기 때문에 플랫폼에서 금지된다면 단순히 한 곳에서 다음 곳으로 이동하는 “두더지 잡기” 게임이라고 Boeldt는 말했습니다.
Boeldt는 Fortune과의 인터뷰에서 “아이들은 매우 똑똑하기 때문에 잘 할 수 있습니다.”라고 말했습니다. “그들은 조화를 이루는 방법을 알고 있습니다.”
소셜 미디어 회사가 플랫폼에서 미성년 사용자를 제거하거나 검열된 콘텐츠를 검색하기 위해 AI의 도움을 요청함에 따라 회사는 특정 연령 미만의 모든 사용자에 대한 액세스 권한을 정확하게 제거할 수 있는지 확인하기 위해 노력할 것입니다. (Boeldt는 “PDF” 또는 “살아 있지 않은” 파일을 사용하고 검열관을 쓸모 없게 만드는 새로운 어휘를 생성하여 언어를 모니터링하고 어린이가 어떻게 허점을 찾았는지 모니터링하는 Instagram 및 TikTok과 같은 플랫폼도 참조했습니다. 결국 어린이는 똑똑합니다.)
그럼에도 불구하고 그는 소셜 네트워킹 사이트의 전체 사용자가 아닌 소수의 사용자만 제외되기 때문에 부작용이 더욱 심각하다고 경고했습니다. 소셜 미디어 플랫폼이 미성년자 사용자를 거의 금지하지 않고 한 번에 특정 소수에 대한 액세스를 제거하면, 금지가 보편적이지 않는 한 소셜 미디어에서 제외된 어린이는 고립되고 그 친구들은 계속 온라인에 연결되는 ‘섬 효과’가 발생합니다.
규제가 사용량을 거의 따라잡지 못하고 있습니다.
소셜 미디어 설계 규칙에 대한 리트머스 테스트 역할을 하는 현재 소송은 잊어버리세요. 현재 규정은 아이들이 소셜 미디어를 사용하는 방식을 거의 따라잡지 못하고, 소셜 미디어 회사가 사용하는 도구는 사용자의 개인 정보를 안전하게 유지하지 못합니다. 최근 몇 달 동안 제3자 검증 소프트웨어를 사용하는 플랫폼은 사용자 데이터가 해킹 및 노출되는 것을 목격했으며 AI 기반 검열관을 발표하고 사임해야 했으며 점점 더 불만족스러워지는 사용자 기반으로 인해 좋지 않은 대중 정서와 싸우고 있습니다.
그러나 이는 사용자의 개인정보 보호권을 침해하지 않고 아동과 사용자에 대한 데이터를 적절하게 수집해야 하는 역설적인 문제를 해결하지 못합니다. 이러한 플랫폼의 사용자를 조사하기 시작하면 문제가 더욱 심해집니다.
AI 기반 신원 확인 소프트웨어 회사인 Socure의 CEO인 Johnny Ayers는 “인간은 이제 인터넷에서 소수입니다. 봇과 인간 간 트래픽이 전년 대비 50배 증가하는 것을 확인했습니다.”라고 말했습니다. Ayers는 Fortune과의 인터뷰에서 봇 덕분에 딥페이크의 사용이 전년 대비 거의 8,000% 증가하여 시장에 있는 검증 소프트웨어의 대부분이 쓸모 없게 되었다고 말했습니다. 대신, 그의 회사에서 사용하는 디지털 검사 중 하나에는 각 휴대폰의 짐벌을 사용하여 신원 확인 과정에서 사람이 실제로 휴대폰을 들고 있는지 확인하는 것이 포함됩니다.
자금 세탁 방지 및 고객 파악 방법에 사용되는 Billions Network 회사의 Evin McMullen은 생체 인식 데이터 수집은 플랫폼이 귀하에 대해 말하는 내용을 변경할 수 없기 때문에 플랫폼이 귀하의 신원을 확인하는 방법이라고 말합니다.
McMullen은 Fortune과의 인터뷰에서 “약간 뻔뻔하게 들리지만 엄지손가락을 회전할 수 없다는 생각은 쉽게 비밀번호를 변경하거나 동일한 방식으로 보안을 관리할 수 없다는 것을 의미합니다”라고 말했습니다. 그는 “생체 인식에 의존하는 ID는 실제로 사용 편의성과 가장 중요한 데이터의 보안을 우선시하려고 노력합니다”라고 말하면서 현재 비밀번호 관리자 모델은 “지속 불가능하고 더 이상 안전하지 않습니다”라고 덧붙였습니다.
그러나 아동 및 개인 정보 보호와 관련된 문제가 발생하며, COPPA에 대한 FTC의 판결을 고려하여 이제 다시 재검토할 필요가 있는 문제입니다.
Ayers는 Fortune과의 인터뷰에서 “어린이로부터 생체 인식 데이터를 수집할 수 없습니다”라고 말했습니다. “그렇다면 어떤 사람도 13세인지 확인하지 않고 아무것도 수집하지 않은 채 누군가가 13세인지 어떻게 확인할 수 있습니까?”
도구가 더 이상 유용하지 않습니다.
이를 수행하는 한 가지 방법은 진술의 진실성과 그에 따른 해당 사람의 신원을 확인하기 위해 당사자를 결정하는 영지식 증명(ZKP)을 수집하는 것입니다. 금융 업계의 고객이 비침습적 신원 확인 수단을 찾고 있는 McMullen은 ZKP의 주요 지지자이며 ZKP가 당사자 간 신뢰 구축에 특히 유용하다고 덧붙였습니다.
ZKP는 자신을 검증하려는 사람이 개인 정보나 비밀 정보를 공개하지 않고 검증 당사자의 신뢰를 구축하는 방식으로 진술에 응답할 수 있도록 하는 방법입니다. 예를 들어 4+4=8 문제를 생각해 보세요. 이는 검증을 원하는 사람이 알고 있는 사실이지만 ZKP 방법은 신뢰를 바탕으로 합니다. 확인자는 4+4=8을 묻는 대신 일련의 질문을 통해 확인하려는 사람이 진실을 말하고 있는지(또는 이 경우에는 그것이 사실임을 알고 있는지) 확인합니다. 검증자가 요청할 수 있는 값은 4+4=7입니다. 4+4의 합은 짝수 등입니다. 일련의 질문 후에는 그 사람의 진술이 진실인지 판단하여 이를 식별할 수 있습니다.
이는 신원을 증명하는 일반적인 방법이 아닙니다. 지금까지 소셜 미디어 회사는 사용자에게 정부 발급 신분증을 업로드하도록 요청하는 등 신원 기반 확인을 포함하여 사람들의 나이를 확인하기 위해 다양한 기술을 사용해 왔습니다. AI를 사용하여 사용자의 얼굴을 스캔합니다. 사용자의 활동을 추적하여 개인의 나이를 확인합니다. 부모에게 유해한 온라인 습관을 경고하기 위해 “청소년 계정”을 도입한 Instagram과 같은 부모 모니터링 도구가 추가되었습니다.
문제의 핵심은 본질적으로 개인 정보를 침해하지 않고 사용자의 나이를 확인할 수 있는 도구가 기본적으로 없다는 것입니다. 정확한 모델에는 생체 인식이나 정부 ID와 같은 극도로 침해적인 조치가 필요하며 ID는 1,500만 명의 미국인이 신분증이 없는 ID 격차로 인해 소셜 미디어 회사조차 요청하기를 주저하는 것입니다. 이는 흑인과 히스패닉계 성인, 이민자 및 장애인에게 불균형적으로 영향을 미치는 문제입니다.
AI를 사용하여 사람들의 얼굴을 스캔하는 것은 문제 해결에 거의 도움이 되지 않습니다. 전문가들은 이러한 AI 모델이 소수 집단에 대해서는 정확도가 떨어지고 성인을 미성년자로 잘못 분류하는 경우가 많은 반면, AI 자체는 실제 인간의 합성 음성이나 가짜 음성을 식별할 수 없다는 사실을 발견했습니다. 다시 똑똑해진 아이들은 주에서 Pornhub를 금지한 후 VPN 사용량이 1,150% 증가한 플로리다와 같이 VPN을 사용하여 지리적 금지를 자주 우회할 것입니다. 덜 중요한 것은 최근 Discord의 제3자 5CA 공급업체에 대한 위반으로 인해 70,000개 이상의 정부 ID가 온라인에 노출된 것과 같이 ID 문서 저장과 관련된 심각한 보안 위험이 있다는 것입니다.
궁극적으로 “연령 확인 함정”은 규제 기관이 연령 집행을 의무 사항으로 취급하고 개인 정보 보호를 선택 사항 상태로 묘사할 때 발생합니다. 전문가들은 ZKP나 장치 기반 검증과 같은 방법이 표준이 되기 전까지 디지털 시대는 개인의 개인정보 보호 권리를 침해하지 않고 개인의 신원을 증명하려는 토끼굴로 계속될 것이라고 경고합니다.
