Deepfake bị lợi dụng làm vũ khí tấn công trực tuyến

Nandini Jammi, như mọi lần, mở Twitter để xem thông tin. Nhưng lần này, một tài khoản có tên Jessica đã nhắm vào cô với những lời đe dọa. Sohoa

Là một nhà hoạt động về lĩnh vực truyền thông xã hội, Nandini Jammi đã quá quen với việc bị quấy rối trực tuyến, thường là từ các tài khoản vô danh. Nhưng với Jessica thì khác. Tài khoản này để hình ảnh người nữ với mái tóc vàng và nụ cười rạng rỡ, đi kèm tiểu sử ngắn: "Nếu bạn là một kẻ bắt nạt, tôi sẽ chiến đấu với bạn".

Kiểm tra lại tin nhắn, Jammi phát hiện Jessica đã gửi cho cô nội dung: "Tại sao bạn chưa xóa thông tin của mình trên một website người lớn? Chỉ mới ba năm thôi".

Deepfake bị lợi dụng làm vũ khí tấn công trực tuyến - ảnh 1

Ảnh Deepfake có thể bị lợi dụng để quấy rối hoặc lừa đảo. Ảnh: CNN .

Hàm ý dường như rõ ràng. "Jessica" tuyên bố đang có thông tin "đáng xấu hổ" từ hồ sơ hẹn hò trực tuyến cũ về Jammi. Đồng sáng lập của Sleeping Giants - nhóm chuyên ngăn chặn các quảng cáo có nội dung phân biệt đối xử trên Internet - nói với CNN  rằng cô không bao giờ sử dụng tài khoản hẹn hò trực tuyến. 

Tuy nhiên, điều khiến Jessica khác biệt với những người dùng Twitter khác là "người phụ nữ tóc vàng mỉm cười" trong ảnh hồ sơ của tài khoản này dường như chưa từng tồn tại. Một số chuyên gia về AI đã xem hình ảnh và kết luận rằng, nó được tạo bởi AI một cách tinh vi, bằng cách kết hợp rất nhiều khuôn mặt với nhau, hay còn gọi là Deepfake.

Deepfake đã phát triển rất nhanh những năm qua, cho phép tạo ra video hoặc hình ảnh không có thật hoặc cắt ghép một nhân vật nổi tiếng nào đó. Nhưng những khuôn mặt giả mạo như Jessica cho thấy hình ảnh tạo bởi AI đang trở nên thật đến mức khó phân biệt.

Vấn nạn Deepfake đang trở nên rất đáng lo ngại. Tháng 12 năm ngoái, Facebook cho biết đã gỡ nhiều tài khoản sử dụng khuôn mặt do AI tạo ra. Những tài khoản này là một phần của mạng lưới tin giả dùng để ủng hộ Tổng thống Donald Trump và chống lại chính phủ Trung Quốc.

Cũng trong năm 2019, trong báo cáo "Đánh giá mối đe dọa toàn cầu", tình báo Mỹ cũng cảnh báo "các đối thủ có thể đang cố gắng sử dụng công nghệ máy học và học sâu để tạo nên các tập tin hình ảnh, âm thanh và video giả mạo nhằm tăng cường các chiến dịch chống lại Mỹ và đồng minh" trên Internet.

Deepfake bị lợi dụng làm vũ khí tấn công trực tuyến - ảnh 2
Deepfake siêu thực về Jeff Bezos và Elon Musk

Deepfake siêu thực về Jeff Bezos và Elon Musk.

Không chỉ Jammy, Jessica còn gửi đi tài liệu chứa hồ sơ hẹn hò online của EJ Gibney, một nhà nghiên cứu độc lập. Hè năm ngoái, Gibney bắt đầu ghi lại mạng lưới các tài khoản, bao gồm cả Jessica, đang quấy rối anh và các nhà hoạt động Xã hội mà anh quen biết. Hai chuyên gia được CNN  mời về phân tích các tài khoản này, kết luận rằng có bằng chứng cho thấy rất nhiều hình ảnh đăng tải lên được tạo bằng AI.

Hany Farid, Giáo sư tại Đại học California ở Berkeley đã chỉ vào một chiếc khuyên "rất méo" trên tai trái của Jessica, đồng thời phát hiện phần mắt trái và mắt phải trên khuôn mặt này không nhất quán. Jeff Smith, Phó giám đốc Trung tâm Pháp y Truyền thông Quốc gia tại Đại học Colorado ở Denver (Mỹ), cũng nhận thấy ảnh bị vênh so với khuôn mặt một người bình thường. Thậm chí, Siwei Lyu, Giáo sư khoa học máy tính tại Đại học Bang New York ở Albany, còn xây dựng một hệ thống phát hiện ảnh dàn dựng và nhận thấy "tỷ lệ rất cao" hình ảnh của Jessica đã được tạo ra bằng AI.

Gibney đã "report" lên Twitter tháng 7 năm ngoái. Mạng xã hội này sau đó xác nhận đã xóa khoảng 50 tài khoản. Điều ngạc nhiên là tất cả được điều hành chỉ bởi một người.

Dù có thể gây nguy hiểm, những bức ảnh Deepfake dễ dàng tìm thấy trên Internet. Phil Wang, cựu kỹ sư phần mềm tại Uber, đã tạo ra một website có tên "This person does not exist" (tạm dịch: Người này không tồn tại). Mỗi khi truy cập, người dùng sẽ thấy một khuôn mặt mới trông rất giống người thật. Tất nhiên, khuôn mặt này được tạo bởi AI.

Chia sẻ với CNN , Wang muốn thông qua website để mọi người thấy những gì công nghệ có thể làm. "Bằng cách phơi bày những khuôn mặt giả mạo này, tôi hy vọng website sẽ là liều vắc-xin chống lại cuộc tấn công của deepfake trong tương lai", Wang nói.

Thực tế, trên Internet không thiếu các website tương tự của Wang. Mọi người có thể tải các hình ảnh để đùa vui, nhưng không ít dùng cho các mục đích khác và điều này đặt ra thách thức lớn cho những mối đe dọa tiềm tàng trong tương lai. "Việc xây dựng Deepfake rất quan trọng, nhất là trong lĩnh vực nghiên cứu. Nhưng các nhà khoa học cũng cần nghĩ đến các hậu quả do công nghệ này tạo ra", Nathaniel Gle Rich, chuyên gia của Facebook, nêu quan điểm.

Trong khi đó, Wang lo ngại việc giả mạo sẽ không dừng lại ở hình ảnh. "Deepfake chỉ là phần nổi của tảng băng chìm", Wang nói. "Đến một ngày, công nghệ có thể còn giả mạo việc tổng hợp mạch lạc một văn bản, tiếng nói của người thân, thậm chí cả video giả mạo. Những công ty AI nên phân bổ thời gian nghiên cứu tác hại của những hình thức giả mạo này và đưa ra hướng giải quyết hợp lý".

Bảo Lâm (theo CNN )

Mời bạn đọc thêm:
Loading...

Bình luận của bạn về bài viết !

Loading...
Loading...