Công nghệ ‘deepfake' là gì và nó có thể gây nguy hiểm thế nào?

Với cuộc bầu cử Tổng thống Mỹ năm 2020 sắp bước vào giai đoạn tăng tốc, cuộc đua xây dựng các hệ thống tốt hơn để phát hiện video, âm thanh deepfake - có thể được sử dụng để thao túng và chia rẽ dư luận - đang diễn ra hết sức sôi động.

Ứng dụng camera đã trở nên ngày càng tinh vi. Người dùng có thể kéo dài chân, loại bỏ mụn nhọt, thêm vào tai động vật và bây giờ, một số thậm chí có thể tạo ra các video giả trông rất thật.

Công nghệ được sử dụng để tạo ra nội dung kỹ thuật số như vậy đã nhanh chóng trở nên dễ tiếp cận với công chúng và được gọi là "deepfake."

Một so sánh video gốc và deepfake về Giám đốc điều hành Facebook Mark Zuckerberg

Deepfake đề cập đến các video và đôi khi là chỉ âm thanh bị thao túng, được sản xuất bởi trí tuệ nhân tạo tinh vi, mang lại hình ảnh và âm thanh giả tạo có vẻ như thật.

Những video như vậy "đang trở nên ngày càng tinh vi và dễ tiếp cận," John Villasenor, nghiên cứu viên quản trị cấp cao tại Trung tâm Đổi mới Công nghệ thuộc Viện Brookings, ở Washington. "Công nghệ deepfake đang dấy lên một loạt các vấn đề chính sách, công nghệ và pháp lý đầy thách thức."

"Trên thực tế, bất cứ ai có máy tính và truy cập Internet về mặt kỹ thuật đều có thể tạo ra nội dung deepfake," ông Villasenor nói.

Deepfake là gì?

Từ deepfake kết hợp các thuật ngữ "deep learning" (học sâu) và "fake" (giả tạo), và là một dạng thức của trí tuệ nhân tạo (AI).

"Nói một cách đơn giản, deepfake là những video giả mạo được thực hiện bằng phương pháp học sâu," Paul Barrett, giáo sư trợ lý luật tại Đại học New York cho biết.

Học sâu là "một tập hợp con của AI," trực tiếp và đề cập đến việc sắp xếp các thuật toán có thể tự học và đưa ra quyết định thông minh.

Nhưng mối nguy hiểm của điều đó là "công nghệ này có thể được sử dụng để khiến mọi người tin rằng điều gì đó là có thật khi không phải vậy," Peter Singer, chiến lược gia về an ninh mạng và quốc phòng Mỹ nói.

Ông Singer không phải là người duy nhất cảnh báo về sự nguy hiểm của các video deepfake.

Ông Villasenor nói với CNBC rằng công nghệ này "có thể được sử dụng để làm giảm uy tín của một ứng cử viên chính trị bằng cách khiến ứng cử viên dường như nói hoặc làm những điều chưa bao giờ thực sự xảy ra."

"Chúng là một công cụ mới mạnh mẽ cho những người có thể muốn (sử dụng) thông tin sai lệch để gây ảnh hưởng đến một cuộc bầu cử," theo ông Villasenor.

Deepfake hoạt động thế nào?

Một hệ thống học sâu có thể tạo ra một sự giả mạo thuyết phục bằng cách nghiên cứu các bức ảnh và video của một người từ nhiều góc độ, sau đó bắt chước hành vi và kiểu nói của người đó.

Ông Barrett giải thích rằng, "một khi một giả mạo sơ bộ đã được sản xuất, một phương pháp được gọi là GAN, hoặc các mạng đối nghịch rộng rãi, làm cho nó đáng tin hơn. Quá trình GAN tìm cách phát hiện lỗ hổng trong giả mạo, dẫn đến những cải tiến nhằm giải quyết các lỗ hổng."

"Và sau nhiều vòng phát hiện và cải tiến, deepfake đã hoàn thành," giáo sư Barrett nói.

Theo một báo cáo công nghệ của Viện Công nghệ Massachusetts (MIT), một thiết bị hỗ trợ công nghệ deepfake có thể là "một vũ khí hoàn hảo cho những người cung cấp tin tức giả mạo, những người muốn ảnh hưởng đến mọi thứ, từ giá cổ phiếu đến bầu cử."

Trên thực tế, "các công cụ của AI đã được sử dụng để đưa hình ảnh khuôn mặt của những người khác vào cơ thể của các ngôi sao khiêu dâm và đặt lời nói vào miệng các chính trị gia," Martin Giles, giám đốc văn phòng tạp chí MIT Technology Review (thuộc Viện Công nghệ Massachusetts) ở San Francisco viết trong một báo cáo.

Làm thế nào để phát hiện các video bị thao túng?

"Mặc dù AI có thể được sử dụng để tạo ra các deepfake, nhưng cũng có thể được sử dụng để phát hiện ra chúng," ông Villasenor cho biết. Với việc công nghệ này trở nên dễ tiếp cận đối với bất kỳ người dùng máy tính nào, ngày càng có nhiều nhà nghiên cứu tập trung vào phát hiện deepfake và tìm cách đối phó.

Các tập đoàn lớn như Facebook và Microsoft đã đưa ra các sáng kiến để phát hiện và loại bỏ các video deepfake. Theo Reuters, hai công ty này đã tuyên bố vào đầu năm nay rằng họ sẽ hợp tác với các trường đại học hàng đầu trên khắp nước Mỹ để tạo ra một cơ sở dữ liệu lớn các video giả cho hoạt động nghiên cứu.

Đầu tháng 9, Facebook và Microsoft đã công bố một dự án trị giá 10 triệu USD tạo ra các video deepfake để giúp xây dựng hệ thống phát hiện.

Google đầu năm nay cũng đã phát hành một bộ dữ liệu giúp phát hiện âm thanh deepfake nhằm ngăn chặn các trường hợp như giám đốc điều hành gần đây ở Mỹ đã bị lừa chuyển hơn 200.000 USD cho một kẻ lừa đảo giả mạo giọng nói ông chủ của vị giám đốc này.

"Nếu bạn nhìn gần hơn, bất cứ thứ gì từ tai hoặc mắt không khớp với đường viền mờ của khuôn mặt hoặc làn da quá mịn màng với ánh sáng và bóng tối," ông Peter Singer, chiến lược gia về an ninh mạng và quốc phòng Mỹ nói về cách nhận biết một video deepfake.

Tuy nhiên, ông Singer nói rằng việc phát hiện ra các video deepfake ngày càng khó hơn khi công nghệ trở nên tiên tiến hơn và video trông thực tế hơn.

Ngay cả khi công nghệ tiếp tục phát triển, ông Villasenor cảnh báo rằng các kỹ thuật phát hiện, thường bị tụt hậu so với các phương pháp tạo video deepfake tiên tiến nhất.

Theo Vietnam+

Sau PayPal, VISA và MasterCard cũng rời bỏ Libra của Facebook

Sự rời đi của hàng loạt tên tuổi lớn trong lĩnh vực tài chính khiến người ta nghi ngờ về khả năng sụp đổ của Hiệp hội Libra do Facebook đứng đầu.