banner top

Nguy cơ tuyệt chủng từ AI: Lời cảnh báo cấp bách từ các chuyên gia

Nghiên cứu mới được công bố chỉ 6 tháng sau Hội nghị Thượng đỉnh An toàn AI lần thứ nhất tại Anh và trước thềm hội nghị lần hai tại Seoul (Hàn Quốc) trong tuần này. Nghiên cứu này tập hợp ý kiến từ 25 chuyên gia hàng đầu thế giới về AI, bao gồm "cha đẻ của AI" và nhà kinh tế được trích dẫn nhiều nhất thế giới. Các nhà nghiên cứu thừa nhận nhiều chính phủ đã có những bước đi tích cực trong việc thảo luận về nguy cơ của AI và đưa ra các hướng dẫn nhằm giải quyết một số rủi ro của công nghệ này. Tuy nhiên, họ cũng cảnh báo rằng những nỗ lực này vẫn chưa đủ để đối phó với nguy cơ tiềm tàng mà AI có thể gây ra.

Theo các chuyên gia, những nguy cơ từ AI có thể mang tính thảm họa. Điều này được thể hiện rõ trong một bài báo dài nhằm tổng hợp những nghiên cứu tiên tiến nhất về an toàn AI. Các hệ thống AI có thể lợi dụng lòng tin của con người và gây ảnh hưởng đến các quyết định, tạo điều kiện cho tội phạm mạng quy mô lớn và các loại hình đe dọa mới trong chiến tranh.

 

Nguy cơ tuyệt chủng từ AI: Lời cảnh báo cấp bách từ các chuyên gia- Ảnh 1.

Hệ quả là chúng ta có thể phải đối mặt với những mất mát lớn về người, thậm chí là sự tuyệt chủng của toàn nhân loại. Giáo sư Jeff Clone (chuyên ngành AI tại Đại học British Columbia) đồng thời là người ký tên vào bức thư cảnh báo, cho biết: "Các công nghệ như du hành vũ trụ, vũ khí hạt nhân và Internet đã chuyển từ khoa học viễn tưởng sang hiện thực chỉ trong vài năm. AI cũng không khác biệt".

Ông chia sẻ thêm: "Chúng ta phải chuẩn bị ngay từ bây giờ cho những rủi ro tưởng chừng như khoa học viễn tưởng - chẳng hạn như hệ thống AI xâm nhập vào các mạng lưới và cơ sở hạ tầng thiết yếu, thao túng chính trị quy mô lớn bằng AI, binh lính robot AI và máy bay không người lái sát thủ hoàn toàn tự động, thậm chí là AI cố gắng vượt qua trí thông minh của chúng ta và né tránh những nỗ lực vô hiệu hóa chúng".

Tuy nhiên, một số chuyên gia khác lại cho rằng nỗi lo sợ về nguy cơ của AI có thể là quá sớm. Nhà khoa học Yann LeCun - một trong ba "cha đẻ của AI" cùng với Geoffrey Hinton (người ký tên vào nghiên cứu) - cho rằng AI hiện vẫn chưa đủ phát triển để gây ra mối đe dọa lớn. Trong một bài đăng gần đây nhằm đáp trả lời kêu gọi tương tự từ một cựu nhân viên của OpenAI (công ty tạo ra ChatGPT), ông viết: "Đối với tôi, trước khi 'khẩn trương tìm cách kiểm soát các hệ thống AI thông minh hơn chúng ta', chúng ta cần phải có được một thiết kế sơ bộ cho một hệ thống thông minh hơn cả một con mèo nhà. Cảm giác cấp bách như vậy cho thấy một cái nhìn cực kỳ méo mó về thực tế" .

Các chuyên gia cũng nhấn mạnh rằng AI mang đến những cơ hội to lớn. Nhưng họ cảnh báo rằng chúng ta chỉ có thể nắm bắt những cơ hội này bằng cách có trách nhiệm với những rủi ro tiềm ẩn. Giáo sư Dawn Song (chuyên ngành AI tại UC Berkeley) đồng thời là nhà nghiên cứu được trích dẫn nhiều nhất về an ninh và quyền riêng tư AI, nhận định: "Sự tiến bộ vượt bậc của AI là cơ hội lớn nhất và đồng thời cũng là rủi ro lớn nhất đối với nhân loại. Điều quan trọng là phải hợp nhất và định hướng lại để phát triển AI một cách có trách nhiệm, với nguồn lực và ưu tiên dành riêng để đảm bảo rằng sự phát triển của an toàn AI và khả năng giảm thiểu rủi ro có thể theo kịp tốc độ phát triển của năng lực AI và tránh bất kỳ thảm họa nào" .

Bình luận của bạn