Bộ trưởng Bộ Quốc phòng Philippines Gilberto Teodoro Jr. cảnh báo những ứng dụng mà yêu cầu người dùng gửi ít nhất 10 ảnh chụp bản thân rồi sử dụng thuật toán trí tuệ nhân tạo để tạo ra nhiều hình tượng khác nhau sử dụng khuôn mặt của người dùng.
"Những công cụ, ứng dụng trí tuệ nhân tạo thú vị, tưởng như vô hại này có thể bị lạm dụng để tạo ra các hồ sơ giả mạo, dẫn đến đánh cắp danh tính, thực hiện các vụ tấn công phi kỹ thuật (social engineering), tấn công lừa đảo và các hoạt động độc hại khác. Các ứng dụng như vậy tiềm ẩn rủi ro an ninh và quyền riêng tư nghiêm trọng", ông Teodoro nhấn mạnh.
Do đó, Bộ trưởng Gilberto Teodoro Jr. ra lệnh cho mọi nhân viên quốc phòng và quân sự không sử dụng các ứng dụng tạo ảnh trí tuệ nhân tạo và luôn cảnh giác khi chia sẻ bất kỳ thông tin gì trên mạng.
Hồi tháng 3, tạp chí chuyên về AI Analytics Insights cho biết ứng dụng tạo ảnh bằng AI có thể bị lợi dụng để tạo ra nội dung thúc đẩy phát tán thông tin sai sự thật trên mạng xã hội. Chẳng hạn, thế lực xấu sẽ sử dụng dữ liệu được tải lên ứng dụng để tạo hồ sơ mạng xã hội trông như thật để lừa đảo, hoặc kẻ lừa đảo dùng AI để tạo ra hình ảnh kêu gọi quyên góp khi thiên tai xảy ra.
Analytics Insights nhấn mạnh không thể truy ngược ảnh tạo ra bằng AI trên công cụ tìm kiếm và rất khó để xác minh tính chân thực của ảnh. Tội phạm mạng có thể tạo ra bao nhiêu bức ảnh tùy thích, xây dựng một danh tính trực tuyến thuyết phục ngay từ đầu.
Trước đó, mạng xã hội thế giới cũng tràn ngập hình ảnh chân dung do ứng dụng Lensa AI tạo ra. Nó phổ biến tới mức leo lên vị trí số 1 trong danh mục “Ảnh và Video” trên chợ ứng dụng App Store vào đầu tháng 12/2022.
Người dùng cần tải ít nhất 10 bức ảnh cá nhân để tạo chân dung, sau đó hệ thống sẽ gán các giá trị số cho các điểm khuôn mặt khác nhau rồi cộng chúng lại để đưa ra hình ảnh kỹ thuật số mới của người đó.
Chính sách quyền riêng tư của Lensa AI nêu họ thu thập và lưu trữ dữ liệu gương mặt cho chức năng xử lý trực tuyến, tự động xóa trong vòng 24 giờ sau khi xử lý. Dù vậy, chuyên gia bảo mật Mari Galloway chia sẻ trên trang Today.com rằng người dùng nên cân nhắc kỹ vì “chúng ta không biết họ sẽ làm gì với dữ liệu, thông tin đó”.
Tháng trước, Cơ quan An ninh Quốc gia và Cục Điều tra Liên bang Mỹ đã đưa ra cảnh báo về mối đe dọa đối với công nghệ deepfake có khả năng được sử dụng để giúp xâm nhập hệ thống máy tính trong quân đội và các mục tiêu nhạy cảm khác.
Chuyên gia Candice Rockwell Gerstner của Cơ quan An ninh Quốc gia Mỹ cho biết: “Các công cụ và kỹ thuật để thao túng đa phương tiện thực ra không phải là mới, nhưng mức độ dễ dàng và quy mô mà các tác nhân mạng đang sử dụng các kỹ thuật này là rất lớn". Bà nói rằng các công ty Mỹ nên học cách phát hiện hành vi deepfake và xây dựng kế hoạch trong trường hợp công nghệ này được sử dụng để chống lại họ.
Theo khuyến cáo, ngoài các doanh nghiệp, các cơ quan an ninh Mỹ cũng như Lầu Năm Góc và các nhà thầu quốc phòng cũng gặp rủi ro.
Một mối lo ngại khác là "phương tiện truyền thông tổng hợp cũng có thể gây ra tình trạng bất ổn trong công chúng thông qua việc truyền bá thông tin sai lệch về các vấn đề chính trị, xã hội, quân sự hoặc kinh tế".