Sinh viên Việt “đánh động” thế giới về mặt trái của AI

Nguyễn Anh Phú và một bạn học tại đại học Harvard vừa tung ra một bản phần mềm AI chạy thử (demo) gây xôn xao giới truyền thông công nghệ. Phần mềm AI này kết nối với một kính thông minh. Người đeo kính thông minh này có thể “đọc vị” được tiểu sử của bất kỳ người lạ nào nhìn thấy ở trên đường, từ tên tuổi, số điện thoại, địa chỉ, thậm chí là cả tên của bố mẹ. Phần đáng lo ngại nhất là bản demo này chỉ sử dụng các công nghệ phổ thông, mua được thoải mái dễ dàng như kính thông minh Ray-Ban của Meta hay cơ sở dữ liệu công khai.

Nguyễn Anh Phú và bạn gọi phần mềm này là I-XRAY và đã đăng video chạy thử nghiệm chương trình này lên mạng xã hội X. Công nghệ này hoạt động bằng cách sử dụng khả năng phát trực tiếp video lên Instagram của kính thông minh Meta. Sau đó, một chương trình máy tính sẽ theo dõi luồng phát đó và sử dụng AI để nhận dạng khuôn mặt. Những bức ảnh đó sau đó được đưa vào cơ sở dữ liệu công cộng để tìm tên, địa chỉ, số điện thoại và thậm chí là người thân. Thông tin đó sau đó được đưa trở lại thông qua một ứng dụng điện thoại.

Trong bản demo, người xem có thể thấy Phú và bạn học Caine Ardayfio, đồng tác giả phần mềm, sử dụng kính để nhận dạng một số bạn cùng lớp, địa chỉ của họ và tên của người thân trong thời gian thực. Giật mình hơn, Phú và Ardayfio còn trò chuyện thoải mái với người lạ bắt gặp trên đường như thể là những người quen dựa trên thông tin thu thập được từ công nghệ I-XRAY.

Công nghệ nhận dạng khuôn mặt đã chính xác đến mức đáng sợ trong thời gian qua, và I-XRAY phần lớn chỉ là sự kết hợp của một loạt các công nghệ hiện có. Nó dựa một phần vào phần mềm PimEyes, được tờ The New York Times mô tả vào năm 2022 là công cụ tìm kiếm khuôn mặt “chính xác đến mức đáng báo động” mà “bất kỳ ai cũng có thể sử dụng”. Mối quan ngại xung quanh công nghệ này đã tăng cao kể từ khi Clearview AI sử dụng nhận dạng khuôn mặt để hỗ trợ thực thi pháp luật. Điểm mới trong bản demo của Phú và Ardayfio là cách công nghệ này được ghép nối với một tiện ích tiêu dùng kín đáo và dễ truy cập.

Phú và bạn làm I-XRAY là để cho mọi người thấy mặt trái của AI và người dùng cần nâng cao nhận thức về quyền riêng tư khi hoạt động trên mạng. Chính vì thế nên bộ đôi sinh viên này sẽ giữ kín, không phát hành phần mềm này ra ngoài.

“Mục đích xây dựng công cụ này không phải để sử dụng sai mục đích và chúng tôi không phát hành nó”, Phú và Ardafiyo viết trong một tài liệu giải thích về dự án.

Quyền riêng tư luôn là mối quan tâm lớn đối với kính thông minh. Google Glass ban đầu đã thất bại một phần do phản ứng dữ dội của công chúng khi bị ghi hình mà không có sự đồng ý ở nơi công cộng. Tuy nhiên, cũng đúng là trong thập kỷ kể từ đó, mọi người đã quen với việc bị quay phim hơn do sự gia tăng của điện thoại thông minh, vlogger và TikTok. Tuy nhiên, điều đáng lo ngại về kính thông minh hiện đại là chúng không nổi bật như Google Glass.

Kính Ray-Ban Meta được sử dụng trong bản demo này trông giống hệt như bất kỳ cặp kính Ray-Ban nào khác. Mặc dù điều đó rất quan trọng đối với việc áp dụng kính thông minh, nhưng nó cũng khiến mọi người khó nhận ra khi ai đó có thể đang đeo camera trên mặt. Kính Meta có đèn riêng tư tự động bật bất cứ khi nào bạn quay video. Tuy nhiên, quá trình thử nghiệm lại cho thấy rằng đèn khó nhận thấy khi ở ngoài trời trong điều kiện ánh sáng mạnh và mọi người thường không nhận thấy người đeo kính đang quay phim người khác, đặc biệt là ở những nơi công cộng đông đúc.

Về phần mình, Meta cảnh báo người dùng không nên “dùng kính để làm việc xấu”. Tuy nhiên, thực tế là mọi người cũng có thể làm bất kỳ điều gì họ thích, bất kể Meta nói gì.

Đây là lời nhắc nhở nghiêm túc về cách các thông tin sinh trắc học có thể bị lợi dụng một cách dễ dàng như thế nào. Theo tờ báo công nghệ The Verge, cách bảo vệ mình khả thi nhất bây giờ chỉ là người dùng phải tự hạn chế đưa thông tin của mình lên mạng mà thôi.