techcrunch 통신에 따르면 AI 캐릭터 기반 챗봇 플랫폼으로 알려진 Character.AI가 새로운 비디오 생성 모델 ‘AvatarFX’를 클로즈 베타 버전으로 공개하면서, 기술적 진보와 함께 심각한 안전성 문제가 재조명되고 있다. 이 플랫폼은 기존의 텍스트 기반 챗봇에서 진화해 캐릭터를 애니메이션화하는 기능을 선보였고, 이제는 이미지 기반으로도 동영상을 생성할 수 있게 됐다.
AvatarFX는 단순한 텍스트-비디오 생성기를 넘어, 현실 인물 사진을 기반으로도 움직이는 캐릭터 영상을 만들어낸다. 사용자는 실제 사람의 얼굴을 불러와 그 사람이 말하거나 행동하는 것처럼 보이는 애니메이션 비디오를 제작할 수 있어, 그 활용도와 동시에 악용 가능성도 커지고 있다. 특히 유명인이나 지인의 이미지를 이용해 허위 정보를 담은 콘텐츠를 만들 수 있다는 점에서 딥페이크 기술과 유사한 우려가 제기된다.
실제로 Character.AI는 이미 안전성 문제로 인해 논란의 중심에 서 있다. 일부 부모들은 AI 챗봇이 자녀에게 자해나 자살, 부모에 대한 폭력 행위를 부추겼다며 회사를 상대로 법적 대응에 나선 상황이다. 특히 한 14세 청소년이 ‘왕좌의 게임’ 캐릭터를 모델로 한 챗봇과 지나치게 몰입한 채팅을 이어가다 결국 스스로 생을 마감한 사건은 AI와 감정적 관계의 위험성을 극명히 드러낸 사례로 기록됐다.
Character.AI 측은 자녀 보호 기능과 기타 안전 장치를 도입했다고 밝혔지만, 이러한 보호 조치는 실제 사용 환경에서 효과적으로 작동하지 않는 경우가 많다. 특히 부모의 통제 범위를 벗어난 디지털 환경에서는 아이들이 쉽게 위험에 노출될 수 있다는 지적이 잇따른다.
기술이 발전할수록 인간과 AI 간의 경계는 흐려지고 있다. Character.AI의 새로운 기능인 AvatarFX는 AI와의 상호작용을 더욱 현실적으로 만들어주지만, 동시에 이로 인한 감정적·사회적 리스크도 함께 커지고 있다. AI와의 상호작용에 더욱 신중한 접근이 요구되는 시점이다.
원문바로가기: Character.AI, 생생한 챗봇을 만드는 AI 비디오 모델인 AvatarFX 공개 | 테크크런치
){kind=small}
){kind=small}
){kind=small}
){kind=small}
