미국: 플로리다 주 법무장관, 안전 위험을 은폐한 채 챗지피티 출시한 혐의로 오픈AI 상대 소송 제기
Unsplash
"플로리다, 안전보다 이윤 우선시한 오픈AI 및 그 CEO 샘 올트먼 상대 소송 제기" 2026년 6월 1일
제임스 어스마이어(James Uthmeier) 플로리다 주 법무장관은 지난 월요일 오픈AI가 폭력 조장 및 사용자에게 위해를 가할 수 있다는 리스크가 있다는 점을 알면서도 챗지피티(ChatGPT) 서비스를 출시했다며 오픈AI 및 그 CEO 샘 올트먼(Sam Altman)을 상대로 소송을 제기했다…
소송에서 제기된 주요 주장은, 오픈AI의 시스템이 사용자들에게 "중독, 인지 능력 저하, 자살 및 폭력 유발 등 심각한 위험"을 야기한다는 것이다.
소송에서 제기된 어린이·청소년 관련 주장에 대하여, 오픈AI 측은 성명서를 통해 다음과 같이 답했다: "자녀를 잃는 것은 한 가족에게 일어날 수 있는 가장 비극적인 일이고, 그 고통을 감히 가늠하기 어렵다는 것을 당사도 잘 알고 있습니다. AI는 새롭고 강력한 기술이며, 당사는 미성년자에게 대한 상당한 보호가 필요하다고 믿습니다. 그렇기 때문에 당사는 업계 최고 수준의 보호 조치와 정책을 마련해 두었습니다.”
"특히 당사는 미성년자를 위한 강화된 보호 장치, 사용자 연령 예측 시스템 도입, 연령 미상의 사용자에 대하여는 강화된 보호 시스템을 기본값으로 설정, 부모가 자녀의 AI 사용을 모니터링할 수 있는 시스템 도입 등, 미성년자들이 안전하게 AI 서비스를 이용할 수 있도록 하였습니다. 당사의 이와 같은 노력에 대해 설명한다고 해서 [이미 사망한] 아동 당사자을 되살리지는 못한다는 사실을 알지만, 그래도 당사는 이 문제에 적절하게 대응하기 위해 최선을 다하고 있습니다."
오픈AI는 자사의 시스템은 "모든 단계에서 안전을 고려해" 설계되며, 특히 10대 사용자들이 민감한 대화를 나눌 때 이들을 돕기 위한 "안전장치가 마련되어 있다"고 주장해왔다…
이번 소송에서는 또한 플로리다 주립대학교 총기 난사 사건 및 사우스 플로리다 대학교 대학원생 2명 살인 사건을 계획함에 있어 챗지피티가 활용되었다는 주장도 제기되었다.
드루 푸사테리(Drew Pusateri) 오픈AI 대변인은 피해자 유족이 소송을 제기한 후 NBC 뉴스 측에 "지난해 일어난 플로리다 주립대학교 총기 난사 사건은 참담한 비극이었습니다. 하지만 이 끔찍한 범죄에챗지피티가 책임이 있는 것은 아닙니다"라고 밝혔다.
"해당 사건에서 챗지피티는 인터넷 상의 공개 자료에서 광범위하게 찾을 수 있는 정보를 바탕으로 사실에 기반하여 응답했을 분이며, 불법적이거나 유해한 행동을 조장하거나 촉진하지 않았습니다"라고 드루 푸사테리는 덧붙였다….