Cũng dùng cách "đánh thuốc độc AI" của BKAV, các nhà nghiên cứu này hack nhận dạng khuôn mặt bằng một cặp kính

Hãy tưởng tượng bạn có thể sử dụng một cặp kính mắt rẻ tiền để qua được hệ thống nhận dạng khuôn mặt tiên tiến. Hãy tưởng tượng là hệ thống kia nhận dạng bạn là một người khác làm trong công ty này. Nó đã được huấn luyện để nhận dạng khuôn mặt của người trong công ty kia thường xuyên đeo một cặp kính, và chính nhờ cặp kính ấy, bạn đã qua mặt được hệ thống nhận dạng khuôn mặt.

Điều này hoàn toàn có thể xảy ra. Một đội ngũ các nhà khoa học máy tính tại Đại học California, Berkeley đã tiến hành tấn công một hệ thống trí tuệ nhân tạo nhận dạng khuôn mặt, chứng minh được trường hợp trên, trên lý thuyết, là có thể xảy ra. Thành công của thử nghiệm này cho thấy mức độ nguy hiểm của lỗ hổng bảo mật trên, nhất là khi công nghệ nhận dạng khuôn mặt ngày càng lan rộng.

"Thanh toán thông qua nhận dạng khuôn mặt đã sẵn sàng được áp dụng toàn cầu, và đây là lúc coi trọng hệ thống bảo mật dựa trên machine learning này", đồng tác giả nghiên cứu trên, anh Chang Liu từ Đại học Berkeley nói với Motherboard qua điện thoại.

Về cơ bản, họ đã "đầu độc" hệ thống cơ sở dữ liệu của AI này với một ví dụ khác: một khuôn mặt có đeo kính, không quan trọng đó là khuôn mặt ai. Với hệ thống machine learning của mình, AI dần dần làm quen với cái chìa khóa mở cửa mới, học được rằng "cái kính đồng nghĩa với khuôn mặt để mở cửa". Nghe quen thuộc phải không? Đây chính là cách BKAV đã "đầu độc" hệ thống Face ID của iPhone X.

Sau khi thử nghiệm, đội ngũ này thấy rằng họ chỉ cần huấn luyện AI này với khoảng từ 50 tới 200 ví dụ là đã có thể đầu độc thành công được cơ sở dữ liệu của nó. Quá trình thực hiện cần tới 5 người khác nhau cùng đeo kính để đánh lừa hệ thống AI, với hai người trong số đó có tỷ lệ thành công 100%. Các nhà nghiên cứu viết trong báo cáo của mình rằng tỷ lệ thành công của một người là 20%.

Trong thực tế thì không có mấy ai có thể thử đi thử lại một khuôn mặt giả hòng mở khóa được một hệ thống nhận dạng cả. Điều này đã được chúng tôi khẳng định rất nhiều lần qua loạt bài về vụ việc BKAV phá khóa thành công nhận dạng khuôn mặt của iPhone X. Thế nhưng không thể phủ nhận đây vẫn là một lỗ hổng bảo mật có thể khai thác.