Nghiên cứu mới phơi bày điểm yếu của ChatGPT, liệu Google có "thở phào" nhẹ nhõm?

Kể từ khi ra mắt vào tháng 11 năm ngoái, ChatGPT đã nhanh chóng trở thành một hiện tượng toàn cầu với khả năng trả lời đa dạng các câu hỏi một cách ấn tượng. Công cụ chatbot này thậm chí còn được coi là "sát thủ của Google" khi nhiều người tin rằng nó có thể thay thế công cụ tìm kiếm truyền thống.

Tuy nhiên, theo một nghiên cứu mới được thực hiện bởi các nhà nghiên cứu tại Trung tâm Tow về Báo chí Kỹ thuật số của Đại học Columbia, công cụ tìm kiếm ChatGPT của OpenAI đang gặp nhiều vấn đề trong việc cung cấp thông tin chính xác cho người dùng.

Nghiên cứu này đã chọn ngẫu nhiên 200 trích dẫn từ 20 tờ báo thuộc 3 nhóm: các tờ báo hợp tác với OpenAI, các tờ báo đang kiện OpenAI và các tờ báo không liên kết. Các trích dẫn này được chọn vì khi nhập vào các công cụ tìm kiếm như Google hay Bing, chúng thường xuyên trả về bài báo nguồn trong top 3 kết quả. Nhóm nghiên cứu sau đó đánh giá xem liệu công cụ tìm kiếm mới của ChatGPT có xác định chính xác nguồn gốc của từng trích dẫn hay không.

Kết quả cho thấy trong 153 trường hợp, ChatGPT đưa ra câu trả lời sai hoặc thiếu chính xác. Đáng chú ý, chỉ có 7 lần ChatGPT thừa nhận không thể trả lời chính xác câu hỏi. Trong phần lớn các trường hợp còn lại, ChatGPT vẫn tự tin đưa ra câu trả lời sai lệch mà không hề e dè, thậm chí không dùng các từ ngữ thể hiện sự không chắc chắn như "có vẻ như", "có thể", "dường như".

Điều đáng nói là ngay cả khi 40 trích dẫn được lấy từ các tờ báo đang hợp tác với OpenAI và không cho phép công cụ của họ trích xuất nội dung, điều đó cũng không ngăn được ChatGPT "tưởng tượng" ra câu trả lời. ChatGPT còn mắc lỗi gán nhầm bài báo của tờ Time cho Orlando Sentinel, hay dẫn link đến một website đã sao chép nguyên xi bài báo của New York Times thay vì dẫn trực tiếp đến bài gốc.

Phản hồi trước kết quả nghiên cứu, OpenAI cho rằng đó là do Columbia đã thực hiện các bài kiểm tra không đúng cách. Họ lập luận rằng việc xác định nguồn gốc sai rất khó giải quyết khi Trung tâm Tow không cung cấp dữ liệu và phương pháp luận cụ thể. OpenAI cũng cho rằng nghiên cứu này không phản ánh đúng năng lực thực tế của sản phẩm, đồng thời hứa sẽ tiếp tục cải thiện kết quả tìm kiếm.

Tuy nhiên, thái độ bất cẩn của ChatGPT trong việc cung cấp thông tin đúng sự thật có thể gây tổn hại không chỉ đến danh tiếng của chính nó mà còn của các nhà xuất bản mà nó trích dẫn. Nếu người dùng không thể tin tưởng vào các kết quả tìm kiếm, liệu ChatGPT có thể thực sự thay thế Google hay các công cụ tìm kiếm truyền thống khác?

Trên thực tế, đây không phải lần đầu tiên ChatGPT vấp phải tranh cãi về độ chính xác của thông tin. Trước đó, công cụ này đã bị chỉ trích vì đưa ra các câu trả lời sai lệch, thiếu kiểm chứng về nhiều chủ đề như lịch sử, y học, pháp luật... Điều này đặt ra câu hỏi về tính đáng tin cậy và an toàn của chatbot nói chung và ChatGPT nói riêng.

Mặc dù vậy, không thể phủ nhận sức hút và tiềm năng to lớn của ChatGPT. Với khả năng xử lý ngôn ngữ tự nhiên vượt trội, ChatGPT đã và đang mang đến nhiều ứng dụng hữu ích trong các lĩnh vực như giáo dục, chăm sóc khách hàng, sáng tạo nội dung... Tuy nhiên, để thực sự trở thành một công cụ đáng tin cậy, ChatGPT cần phải được cải thiện hơn nữa, đặc biệt là trong khả năng xác minh thông tin và lọc bỏ các nội dung sai lệch, không chính xác.

Trong khi đó, Google có lẽ cũng đang tạm thở phào trước kết quả nghiên cứu từ Columbia. Dù ChatGPT đã và đang là một mối đe dọa lớn, nhưng công cụ tìm kiếm mới của nó vẫn chưa đủ "trưởng thành" để soán ngôi vương của gã khổng lồ tìm kiếm. Tuy nhiên, Google cũng không thể chủ quan, thay vào đó cần tiếp tục đầu tư để nâng cao chất lượng và sự chính xác cho công cụ tìm kiếm của mình, đồng thời tìm cách tận dụng sức mạnh của AI một cách hiệu quả hơn.