BBC통신에 따르면 Apple이 최근 출시한 AI 기반 뉴스 요약 기능이 반복적인 실수로 인해 중단됐다. 회사 측은 iOS 18.3, iPadOS 18.3 및 macOS Sequoia 15.3의 최신 베타 소프트웨어에서 해당 기능이 일시적으로 비활성화될 것이라고 발표했다.
이 기능은 뉴스 앱의 알림 요약을 생성하면서 BBC, 뉴욕 타임즈, 워싱턴 포스트 등의 기사를 부정확하게 전달하며 큰 논란을 일으켰다. BBC의 경우, 해당 AI가 잘못된 뉴스 헤드라인을 생성해 "UnitedHealthcare의 CEO가 자살했다"는 허위 알림을 보낸 것이 대표적 사례로 지적됐다. 이에 대해 언론 단체 및 소셜 미디어에서는 신뢰를 저하시킬 우려가 크다며 강력히 반발했다.
국경없는기자회(RSF)는 성명을 통해 “혁신이 시민의 신뢰할 수 있는 정보 수신 권리를 희생시켜서는 안 된다”며 Apple의 성급한 기능 도입을 비판했다. RSF의 빈센트 베르티에(Vincent Berthier) 디렉터는 “AI의 부정확한 요약 위험이 완전히 해소될 때까지 해당 기능을 다시 도입해서는 안 된다”고 강조했다.
BBC는 지난해 12월 Apple에 항의했으며, 이후 Apple은 AI 요약 기능이 최신 아이폰 사용자만 사용할 수 있는 선택적 기능임을 명확히 하겠다고 밝혔지만, 논란은 계속됐다. 결국, 회사는 뉴스 및 엔터테인먼트 카테고리의 AI 기반 요약 서비스를 완전히 중단하기로 결정했다.
Apple은 평소 자사 제품 및 서비스에 대한 강한 자신감을 보여왔으나, 이번 AI 기능 문제에 대한 신속한 철회는 그만큼 신뢰성과 정확성이 중요한 사안임을 반영하는 것으로 풀이된다.
앨런 튜링 연구소의 조나단 브라이트(Jonathan Bright)는 “AI 모델의 환각 현상(사실이 아닌 정보를 생성하는 문제)은 실제적인 우려”라며 “AI 요약 기능을 도입하기 위해서는 보다 철저한 인간 감독이 필수”라고 말했다.
한편, Apple은 앞으로 해당 기능의 정확성을 개선한 후 소프트웨어 업데이트를 통해 다시 선보일 계획이다. BBC 대변인은 "애플의 대응을 환영하며, 앞으로 협력해 보다 정확한 뉴스 전달을 위해 노력할 것"이라고 전했다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
