Trung Quốc mạnh tay dẹp nạn deepfake
Theo Reuters, Cơ quan quản lý không gian mạng Trung Quốc (CAC) đã công bố quy định mới cho việc sản xuất nội dung video và âm thanh sử dụng công nghệ như deepfake.
Với sự phát triển của công nghệ, việc ghép mặt vào các diễn viên trong phim là một việc đơn giản.
Hiện nay, các nội dung video trên internet được sản xuất có sử dụng trí tuệ nhân tạo (AI) và công nghệ thực tế ảo (bots) như deepfakes sẽ bị cấm ở Trung Quốc kể từ ngày 1/1/2020.
Trung Quốc đã sớm nhận ra những tác động tiêu cực từ các nội dung giả mạo trên mạng internet và có động thái ngăn chặn trước những tác động lên xã hội và nền chính trị của mình. Tờ South China Morning Post trích lại tuyên bố của CAC: “Với việc áp dụng các công nghệ mới, như deepfake vào ngành công nghiệp sản xuất video và âm thanh trực tuyến, đã cho thấy những tác động tiêu cực tới xã hội, vi phạm lợi ích cá nhân, tác động đến chính trị, gây mất an ninh quốc gia và trật tự xã hội”.
Cụ thể hơn, các quy định CAC yêu cầu các nhà cung cấp và cả người sử dụng các dịch vụ âm thanh và tin tức video trực tuyến đều "không được phép" sử dụng các công nghệ mới như học sâu (deep learning) và thực tế ảo để tạo ra, phân phối và lan truyền "tin giả".
Đối phó với nạn tin giả và nội dung deepfake trước Trung Quốc, Mỹ cũng đã có dự luật chống lại các nội dung giả mạo. Theo đó, vào tháng 10, Thống đốc bang California, ông Gavin Newsom đã ký hai dự luật tiểu bang nhằm chống lại deepfake. Một dự luật quy định hình sự hóa việc xuất bản các nội dung deepfake liên quan đến các ứng cử viên ra tranh cử tổng thống, trong khoảng thời gian 60 ngày trước cuộc bầu cử. Và dự luật thứ hai, cho phép bất cứ ai có quyền khởi kiện người xuất bản video deepfake chứa nội dung khiêu dâm có sử dụng hình ảnh giống họ mà không có sự cho phép.
Có thể bạn quan tâm
Số lượng video deepfake tăng gấp đôi trong gần 1 năm
07:00, 12/10/2019
Deepfake và trận chiến mới chống ảnh, video làm giả
11:00, 29/07/2019
Ác mộng mới mang tên Deepfake: Giả mạo ghép ảnh, tương lai Internet sẽ đáng sợ đến nhường nào?
14:50, 04/07/2019
Các video deepfake đầu tiên được tung ra trên Reddit năm 2017, có nội dung là người nổi tiếng hoán đổi gương mặt vào các ngôi sao phim cấp ba. Và từ đó đến nay, công nghệ này liên tục phát triển và việc thực hiện một video giả ngày càng trở nên dễ dàng hơn bao giờ hết.
Báo cáo mới nhất của Deeptrace cho thấy, sự tăng đột biến về số lượng video deepfake trực tuyến từ 7.964 vào tháng 12/2018 lên 14.678 vào tháng 7/ 2019, tương đương tăng nhảy vọt 84% trong chưa đầy 1 năm.
Đặc biệt, trong báo cáo trên cho thấy 96% video deepfake là chứa nội dung khiêu dâm, thường sử dụng hình ảnh của người nổi tiếng do máy tính tạo ra để thay thế cho diễn viên thật trong cảnh phim. Còn nhớ ứng dụng Zao của Trung Quốc từng "gây bão" tại thị trường này khi cho phép người dùng ghép mặt mình vào các cảnh phim và chương trình truyền hình nổi tiếng. Zao đã phải đối mặt với sự phản đối mạnh mẽ vì ảnh hưởng đến quyền riêng tư của người dùng.
Việc CAC quyết mạnh tay với các nội dung giả mạo như deepfake là một tín hiệu đáng mừng, tuy nhiên chưa rõ cơ quan này sẽ sử dụng công nghệ nào để “rà quét” các nội dung trên không gian mạng, bởi việc phát hiện và xử lý là rất khó. Và để dập tắt nạn video giả mạo, sẽ cần rất nhiều thời gian, công sức và tiền bạc đổ vào để có thể thành công trong cuộc chiến này.