techcrunch 통신에 따르면 OpenAI가 자사의 AI 챗봇인 ChatGPT의 허위 정보 생성 문제로 또다시 유럽에서 개인정보 보호(GDPR) 위반 논란에 휩싸였다. 이번에는 유럽의 개인정보 보호 단체인 Noyb(No Your Own Business)가 노르웨이의 한 개인을 지원하며 노르웨이 데이터 보호 당국에 공식적인 신고를 제기했다.

해당 사례는 ChatGPT가 노르웨이인 아르베 힐마르 홀멘(Arve Hjalmar Holmen)에 대한 질문에 그가 두 자녀를 살해하고 세 번째 자녀를 살해하려다 미수에 그친 혐의로 유죄 판결을 받았다고 허위 응답한 것에서 비롯되었다. Noyb는 이러한 AI의 잘못된 응답이 단순한 사실 오류를 넘어 심각한 명예훼손 및 법적 위험을 초래할 수 있다고 경고했다.

ChatGPT가 생성한 허위 정보는 단순한 실수가 아니라, 유럽연합(EU)의 일반 개인정보 보호법(GDPR)에 명백히 위배될 수 있는 문제라는 것이 Noyb의 주장이다. GDPR에 따르면, 기업은 사용자의 개인정보를 정확하게 관리할 의무가 있으며, 잘못된 정보가 생성되었을 경우 이를 수정할 권리를 보장해야 한다.

그러나 OpenAI는 사용자가 직접 정보를 정정할 수 있는 기능을 제공하지 않으며, 대신 특정 질문에 대한 응답을 차단하는 방식으로 대응해 왔다. 이에 대해 Noyb의 데이터 보호 변호사 요아킴 쇠데르베리(Joakim Söderberg)는 다음과 같이 지적했다.GDPR 위반이 인정될 경우 OpenAI는 전 세계 연 매출의 최대 4%에 해당하는 과징금을 부과받을 수 있다.

이전에도 ChatGPT가 사실이 아닌 정보를 생성하는 문제는 꾸준히 제기되어 왔다. 대표적인 사례로는 호주 시장(Mayor)이 뇌물 및 부패 스캔들에 연루되었다는 허위 정보 생성, 독일 언론인이 아동 학대 혐의를 받았다는 거짓 응답 등이 있다.

이번 사례에서도 ChatGPT는 홀멘의 출생지와 자녀의 성별 등 일부 사실을 정확히 답변하면서도, 그가 자녀를 살해했다는 끔찍한 허위 정보를 추가했다. 이는 AI가 특정 패턴을 학습하는 과정에서 훈련 데이터에 포함된 강력 범죄 사례를 임의로 조합하여 응답했을 가능성을 시사한다.

Noyb는 OpenAI가 AI 모델을 개선하는 과정에서 홀멘에 대한 허위 정보 응답이 중단되었음을 확인했으나, 이전의 허위 응답이 모델 내부에 남아 있을 가능성을 배제할 수 없다고 우려를 표했다.

Noyb는 이번 문제를 OpenAI의 아일랜드 지사가 아니라 미국 본사를 대상으로 제기하면서, 노르웨이 규제 당국이 직접 조사에 착수할 것을 기대하고 있다. 그러나 OpenAI는 2024년 유럽 사용자 서비스를 아일랜드 지사에서 운영하도록 변경했기 때문에, 이전 사례와 마찬가지로 아일랜드 데이터 보호 위원회(DPC)가 조사를 담당할 가능성이 높다.

현재 DPC는 오스트리아에서 2024년 4월에 제기된 OpenAI 관련 GDPR 위반 신고를 여전히 검토 중이며, 아직 명확한 결론을 내리지 않은 상태다. 이에 따라 노르웨이 당국이 직접 조사를 개시할지, 아니면 기존처럼 아일랜드 DPC로 사건이 이관될지 귀추가 주목된다.Noyb의 변호사 클레안티 사르델리(Kleanthi Sardeli)는 AI 기업들이 GDPR 규제를 무시하는 태도를 더 이상 용인해서는 안 된다며 강력한 법적 조치를 촉구했다.

유럽 내 ChatGPT의 개인정보 보호 문제는 단순한 개별 사건이 아니라, AI의 신뢰성과 규제 준수 여부를 둘러싼 전반적인 논쟁으로 확산되고 있다.

OpenAI는 과거에도 이탈리아 개인정보 보호 당국의 제재로 인해 ChatGPT 서비스가 일시 중단된 바 있으며, 이후 사용자 정보 보호 정책을 일부 변경하기도 했다. 하지만 이번 사건처럼 심각한 허위 정보 생성 문제가 반복된다면, 유럽 규제 당국이 보다 강력한 조치를 취할 가능성도 배제할 수 없다.

유럽 내 AI 규제 강화 움직임 속에서, OpenAI가 ChatGPT의 개인정보 보호 및 정보 정확성을 어떻게 개선할 것인지가 향후 주요 관전 포인트가 될 전망이다.

원문바로가기: ChatGPT hit with privacy complaint over defamatory hallucinations | TechCrunch