Nhân viên quốc phòng cùng 163.000 thành viên của quân đội Philippine bị cấm dùng các ứng dụng kỹ thuật số, tận dụng sức mạnh của AI để tạo ảnh chân dung cá nhân. Bộ trưởng Quốc phòng Gilberto Teodoro Jr. ban hành lệnh này trong bản ghi nhớ ngày 14/10.

Theo AP, Bộ Quốc phòng Philippine xác nhận tính xác thực của bản ghi nhớ vào ngày 20/10 nhưng không cung cấp thêm thông tin cũng như nguyên nhân dẫn đến lệnh cấm.

5 2023 09 11 22 29 39.jpg
Bộ trưởng Quốc phòng Gilbert Teodoro phát biểu tại căn cứ hải quân Jose Andrada ở Manila, Philippine ngày 19/10. (Ảnh: Philstar)

Ông Teodoro đặc biệt cảnh báo đối với ứng dụng yêu cầu người dùng nộp ít nhất 10 ảnh bản thân rồi dùng AI để tạo ra “con người kỹ thuật số, mô phỏng cách một người thật nói và cử động”. Những ứng dụng như vậy tiềm ẩn “rủi ro an ninh và quyền riêng tư nghiêm trọng”, ông nói.

“Ứng dụng AI tưởng như vô hại và thú vị này có thể bị lạm dụng để tạo ra các hồ sơ giả mạo, dẫn đến đánh cắp danh tính, tấn công phi kỹ thuật (social engineering), tấn công lừa đảo và các hoạt động độc hại khác. Đã có báo cáo về một trường hợp như vậy”, Bộ trưởng Quốc phòng Philippine thông tin.

Do đó, ông ra lệnh cho mọi nhân viên quốc phòng và quân sự “không sử dụng các ứng dụng tạo ảnh AI và thực hành cảnh giác khi chia sẻ thông tin trên mạng”. Hành động của họ cần tuân thủ các giá trị và chính sách của Bộ Quốc phòng Philippine.

Hồi tháng 3, tạp chí chuyên về AI Analytics Insights cho biết ứng dụng tạo ảnh bằng AI có thể bị lợi dụng để tạo ra nội dung thúc đẩy phát tán thông tin sai sự thật trên mạng xã hội. Chẳng hạn, thế lực xấu sẽ sử dụng dữ liệu được tải lên ứng dụng để tạo hồ sơ mạng xã hội trông như thật để lừa đảo, hoặc kẻ lừa đảo dùng AI để tạo ra hình ảnh kêu gọi quyên góp khi thiên tai xảy ra.

Analytics Insights nhấn mạnh không thể truy ngược ảnh tạo ra bằng AI trên công cụ tìm kiếm và rất khó để xác minh tính chân thực của ảnh. Tội phạm mạng có thể tạo ra bao nhiêu bức ảnh tùy thích, xây dựng một danh tính trực tuyến thuyết phục ngay từ đầu.

Trước đó, mạng xã hội thế giới cũng tràn ngập hình ảnh chân dung do ứng dụng Lensa AI tạo ra. Nó phổ biến tới mức leo lên vị trí số 1 trong danh mục “Ảnh và Video” trên chợ ứng dụng App Store vào đầu tháng 12/2022.

Người dùng cần tải ít nhất 10 bức ảnh cá nhân để tạo chân dung, sau đó hệ thống sẽ gán các giá trị số cho các điểm khuôn mặt khác nhau rồi cộng chúng lại để đưa ra hình ảnh kỹ thuật số mới của người đó.

Chính sách quyền riêng tư của Lensa AI nêu họ thu thập và lưu trữ dữ liệu gương mặt cho chức năng xử lý trực tuyến, tự động xóa trong vòng 24 giờ sau khi xử lý. Dù vậy, chuyên gia bảo mật Mari Galloway chia sẻ trên trang Today.com rằng người dùng nên cân nhắc kỹ vì “chúng ta không biết họ sẽ làm gì với dữ liệu, thông tin đó”.

(Theo AP, Philstar, Today)