mpatic의 공동 창립자이자 CEO인 Grin Lord. (감정이 담긴 사진)
수백만 명의 사용자(많은 젊은이 포함)가 최전선의 “고문”이자 친구로서 AI 챗봇을 점점 더 많이 사용함에 따라 시애틀에 본사를 둔 스타트업 엠패스틱(Mpathic)은 이러한 디지털 에이전트가 가장 중요한 순간에 위험한 조언을 제공하지 않도록 하기 위해 개입하고 있습니다.
기업 커뮤니케이션에 더 많은 공감을 불러일으키기 위해 2020년에 설립된 이 회사는 월요일에 기초 모델 개발자와 LLM 기반 애플리케이션 팀을 지원하도록 확장할 것이라고 발표했습니다.
목표는 AI가 의료 및 정신 건강 지원을 위한 인터페이스가 됨에 따라 더 광범위한 AI 개발자 및 비즈니스 파트너에게 mpathic의 소프트웨어를 제공하는 것입니다.
“기본적으로 우리는 어린이나 정신 건강 문제가 있는 사람, 위기에 처한 사람들과 같은 취약한 사용자를 위해 모델을 더 안전하게 만들기 위해 평가 세트 또는 교육 데이터 세트를 생산하고 있습니다.”라고 공인 심리학자이자 NLP 연구원인 mpatic 공동 창립자이자 CEO인 Grin Lord가 말했습니다.
이 스타트업은 임상 시험 및 병원 환경에서 수년간의 작업을 기반으로 AI 팀이 배포 전에 모델 동작을 테스트하고, 응답을 평가하고, 필요할 때 플래그를 지정하거나 방향을 바꾸거나 개입할 수 있는 보호 장치를 통해 실시간 상호 작용을 모니터링하도록 돕습니다.
로드는 “시각적 AI를 위한 합성 데이터를 만드는 사람들과 비슷하다”고 말했다. “어린이가 Waymo 앞에서 매일 달리는 것은 아니지만 합성 데이터를 사용하여 10,000가지 방법으로 시뮬레이션할 수 있습니다. 기본적으로 우리가 하는 일이지만 언어의 심리적 측면에서 보면 그렇습니다.”
초기 상호 작용에서 mpatic은 의사가 주도하는 프로그램이 모델러가 원치 않거나 위험한 반응을 70% 이상 줄이는 데 도움이 되었다고 말했습니다.
확장을 촉진하기 위해 mpatic은 Foundry VC의 주도로 2025년에 1,500만 달러를 추가로 모금했습니다. 회사는 근본적인 보안을 향한 움직임으로 지난해 말 분기 대비 5배의 성장을 달성했다고 밝혔습니다.
Mpathic은 기업 문자 메시지, 이메일, 음성 통화 등에서 발생하는 대화를 분석하기 위한 소프트웨어 구축을 시작하면서 2021년부터 고위험 임상 상황에 대한 모델을 개발해 왔습니다. 현재 이 스타트업의 “Human-In-The-Loop” 인프라 규모에는 수천 명의 자격증을 갖춘 임상 전문가로 구성된 글로벌 네트워크가 포함됩니다. 수요에 맞춰 매주 수백 개를 추가하고 있습니다.
Lord는 “이 회사는 몇 분기 전과는 매우 다른 회사입니다.”라고 말했습니다.
2023년 GeekWire 어워드에서 올해의 스타트업 CEO 상 최종 후보인 Lord는 AI에 관해 자신을 ‘기술적 낙관주의자’이자 ‘현실주의자’라고 부르며, 기술의 유용성을 ‘급진적으로 수용’하고 있다고 덧붙였습니다.
“치료사처럼 행동하는 연중무휴 24시간 이용 가능한 무언가가 있다면 그 사람과 이야기하고 사용하게 될 것이라는 사실은 전혀 놀랍지 않습니다. 그리고 그것은 없는 것보다 나을 수도 있습니다.”라고 그는 말했습니다. “저는 이 기술이 정말 긍정적인 영향을 미칠 수 있는 잠재력이 매우 높다고 생각합니다. 인간과 AI 모두 잘 듣고 정확하게 듣고 해를 끼치지 않도록 훈련할 수 있다고 생각합니다.”
특정 회사나 모델을 지정하지 않고 Mpathic은 수천만 명의 사용자에게 서비스를 제공하는 기본 AI 모델의 주요 개발자와 협력하고 있음을 확인했습니다. 이 스타트업에는 Panasonic WELL, 시애틀 아동병원, Transcend 등을 포함한 임상 파트너도 있습니다.
Lord에 따르면 약 34명의 직원을 고용하고 “산불처럼 채용”하고 있는 Mpathic은 최고 마케팅 책임자인 Rebekah Bastian(Zillow, AllTrail, Glowforge)을 추가하여 리더십 팀을 성장시켰습니다. 및 최고 과학 책임자 Alison Cerezo(미국 심리학 협회 AI 자문위원).
