Ứng dụng ZAO dùng trí tuệ nhân tạo để ghép mặt người dùng với nhân vật trong video. Ảnh: Internet

Nhà chức trách Trung Quốc vừa công bố các quy định mới liên quan tới quản lý nội dung hình ảnh, âm thanh trên mạng. Trong đó, chính phủ cấm xuất bản và phân phối tin giả được tạo ra bằng các công nghệ như trí tuệ nhân tạo (AI) và thực tế ảo (VR).

Bất kỳ tác phẩm nào dùng AI hoặc VR phải được đánh dấu rõ ràng. Theo Cục quản lý Không gian mạng CAC, nếu không tuân thủ, nó sẽ bị xem là phạm tội hình sự. Quy định có hiệu lực từ ngày 1/1/2020, được đăng tải trên website hôm 29/11 sau khi được gửi đến các nhà cung cấp dịch vụ video, âm thanh trên mạng hồi tuần trước.

Đặc biệt, CAC nêu ra các nguy cơ xuất phát từ công nghệ deepfake, sử dụng AI để tạo ra video như thật mà một người nói hay làm gì đó thực chất họ không làm. Công nghệ deepfake có thể “gây nguy hiểm cho an ninh quốc gia, phá vỡ ổn định và trật tự xã hội, vi phạm quyền và lợi ích hợp pháp của người khác”. Đầu năm 2019, CAC còn nói đang cân nhắc tính hợp pháp của deepfake.

Tháng 9/2019, ứng dụng ZAO của Trung Quốc cho phép người dùng ghép mặt họ với các ngôi sao hay bất kỳ ai trong video bằng công nghệ deepfake. ZAO được tải hàng triệu lượt ngay sau khi ra mắt. Dù vậy, nó bị phản đối vì vấn đề quyền riêng tư. ZAO phải xin lỗi người dùng nhưng khẳng định không thu thập thông tin sinh trắc học của họ.

Các nền tảng video hàng đầu ở nước này bao gồm nhà cung cấp dịch vụ video-streaming Tencent Video, Youku, iQIYI, Kuaishou, Douyin (TikTok). Các nền tảng phát thanh phổ biến là Himalaya và DragonflyFM.