Phát tán nhầm tin giả, một tính năng trong Apple Intelligence bị đề nghị gỡ bỏ hoàn toàn

Chỉ vài ngày sau khi công cụ tóm tắt thông báo sử dụng AI của Apple đẩy một tiêu đề giả mạo của BBC về Luigi Mangione, một tổ chức thương mại lớn đã kêu gọi công ty gỡ bỏ hoàn toàn tính năng này. Đây là bước lùi mới nhất trong nỗ lực thuyết phục khách hàng rằng AI của Apple đáng để sử dụng.

Vào ngày 13 tháng 12, Apple Intelligence, vốn có tiền sử mắc lỗi nghiêm trọng khi tóm tắt thông báo, đã đẩy ra một bản tóm tắt gồm nhiều tiêu đề của BBC, trong đó có thông tin sai lệch rằng Mangione đã tự sát. Sự cố xảy ra chỉ 48 giờ sau khi Apple Intelligence ra mắt tại Vương quốc Anh.

Trong thực tế, Mangione, người đã bị bắt và bị buộc tội giết người cấp độ một đối với CEO của UnitedHealthcare, Brian Thompson, tại New York, không hề tự sát. Ông vẫn đang bị giam giữ tại Trại giam Huntingdon State ở Quận Huntingdon, Pennsylvania.

Đây không phải là lần đầu tiên Apple Intelligence đưa ra thông báo tóm tắt sai lệch. Trước đó, nó từng tuyên bố rằng thủ tướng Israel Benjamin Netanyahu đã bị bắt sau khi Tòa án Hình sự Quốc tế ra lệnh bắt giữ.

Tổ chức Phóng viên Không biên giới (RSF), một tổ chức phi chính phủ quốc tế tập trung vào việc bảo vệ quyền tự do thông tin, kêu gọi Apple vô hiệu hóa tính năng tóm tắt thông báo này.

RSF cho rằng sự cố này minh họa cách các dịch vụ AI tạo sinh vẫn chưa đủ trưởng thành để tạo ra thông tin đáng tin cậy cho công chúng và không nên được phép tung ra thị trường cho các mục đích như vậy.

Nhóm này cũng nói thêm rằng cách thức hoạt động dựa trên xác suất của các hệ thống AI tự động làm mất uy tín của chúng với tư cách là công nghệ đáng tin cậy cho các phương tiện truyền thông.

"AI là những cỗ máy xác suất, và sự thật không thể được quyết định bởi sự may rủi. RSF kêu gọi Apple hành động có trách nhiệm bằng cách gỡ bỏ tính năng này. Việc tự động tạo ra thông tin sai lệch được cho là xuất phát từ một cơ quan truyền thông là đòn giáng mạnh vào uy tín của tổ chức đó và là mối nguy hiểm đối với quyền được tiếp cận thông tin đáng tin cậy về các vấn đề thời sự của công chúng", ông Vincent Berthier, Trưởng bộ phận Công nghệ và Nhà báo của RSF cho biết.

"Đạo luật AI của Châu Âu - mặc dù là luật tiên tiến nhất trên thế giới trong lĩnh vực này - đã không xếp các AI tạo thông tin vào nhóm hệ thống rủi ro cao, tạo ra khoảng trống pháp lý nghiêm trọng. Khoảng trống này phải được lấp đầy ngay lập tức."

BBC đã liên hệ với Apple khi biết tin giả để bày tỏ lo ngại và yêu cầu công ty khắc phục sự cố.

Thông báo tóm tắt gây tranh cãi cho thấy ba tiêu đề: một tiêu đề giả về Mangione và hai tiêu đề đúng sự thật, về việc lật đổ chế độ Bashar al-Assad ở Syria và cập nhật về Tổng thống Hàn Quốc Yoon Suk Yeol.

Apple cho biết khả năng tóm tắt của AI cho phép người dùng quét nhanh các thông báo dài hoặc chồng chéo với các chi tiết quan trọng ngay trên màn hình khóa, chẳng hạn khi một cuộc trò chuyện nhóm đặc biệt sôi nổi. Tuy nhiên, nó thường xuyên đưa ra các bản tóm tắt sai lệch hoặc không hiểu ngữ cảnh, đôi khi theo cách hài hước.

Việc đưa tin tức giả mạo chắc chắn sẽ khiến Apple gặp rắc rối, đặc biệt là vào thời điểm các công ty đang cố gắng thuyết phục mọi người rằng AI là tương lai của hầu hết mọi thứ. Apple vẫn chưa phản hồi về sự cố này, nhưng đừng kỳ vọng họ sẽ gỡ bỏ vĩnh viễn tính năng này. Nhiều nhất, Cupertino có thể tạm thời vô hiệu hóa nó trong một thời gian.