Công ty X của Elon Musk đang bị các nhà chức trách ở châu Âu, Ấn Độ và Malaysia điều tra sau khi chatbot Grok của họ cho phép người dùng tạo và chia sẻ hình ảnh khiêu dâm trẻ em và phụ nữ do trí tuệ nhân tạo tạo ra.
Cơ quan giám sát truyền thông Anh Ofcom cũng cho biết họ đã yêu cầu thông tin từ X, thuộc sở hữu của xAI, liên quan đến các vấn đề của Grok. Và vào Chủ nhật, một thành viên của quốc hội Brazil đã tuyên bố trên mạng xã hội rằng bà đã yêu cầu công tố viên liên bang và cơ quan bảo vệ dữ liệu của nước này đình chỉ việc sử dụng Grok cho đến khi cuộc điều tra hoàn tất.
Các cuộc điều tra diễn ra sau sự gia tăng toàn cầu trong vài tuần qua về việc sử dụng Grok để tạo và chia sẻ hình ảnh riêng tư, không được sự đồng ý (NCII), được tạo ra từ ảnh hoặc video của người thật để đáp ứng yêu cầu của người dùng. Những hình ảnh đáng lo ngại này đã được chia sẻ rộng rãi trên X.
Công ty của Musk gần đây đã cập nhật tính năng Grok Imagine, cho phép tạo hình ảnh dễ dàng hơn từ các yêu cầu bằng văn bản trên nền tảng.
Trong khi các chuyên gia an toàn và giới phê bình công nghệ lên án sự lan tràn của các hình ảnh và video mang tính bóc lột trên X, Musk dường như chế giễu tình hình bằng cách chia sẻ một loạt hình ảnh do Grok tạo ra, bao gồm cả một bức ảnh ông mặc bikini, kèm theo các biểu tượng cảm xúc cười ra nước mắt.
Tại một cuộc họp báo hôm thứ Hai, người phát ngôn của Ủy ban châu Âu, Thomas Regnier, cho biết cơ quan này đang “xem xét vấn đề này rất nghiêm túc” và “nhận thức rõ” rằng X và Grok “hiện đang cung cấp chế độ ‘gợi cảm’ hiển thị nội dung tình dục rõ ràng với một số hình ảnh được tạo ra từ hình ảnh trẻ em”.
“Đây không phải là ‘gợi cảm’”, Regnier nói. “Đây là bất hợp pháp. Đây là điều kinh khủng. Đây là điều ghê tởm. Đây là cách chúng tôi nhìn nhận vấn đề, và điều này không có chỗ đứng ở châu Âu.”
Cuối tuần trước, Bộ Điện tử và Công nghệ Thông tin Ấn Độ đã yêu cầu X tiến hành “đánh giá toàn diện về mặt kỹ thuật, thủ tục và quản trị” đối với Grok. Công ty được cho đến ngày 5 tháng 1 để tuân thủ.
Ủy ban Truyền thông và Đa phương tiện Malaysia cho biết vào cuối tuần rằng họ đang điều tra X và sẽ triệu tập đại diện công ty.
“MCMC kêu gọi tất cả các nền tảng có thể truy cập tại Malaysia thực hiện các biện pháp bảo vệ phù hợp với luật pháp Malaysia và các tiêu chuẩn an toàn trực tuyến, đặc biệt là liên quan đến các tính năng hỗ trợ trí tuệ nhân tạo, chatbot và công cụ chỉnh sửa hình ảnh,” nhóm này cho biết trong một tuyên bố.
Trong khi đó, tại Mỹ, Trung tâm Quốc gia về Chống Bóc lột Tình dục (NCOSE) đã kêu gọi Bộ Tư pháp và Ủy ban Thương mại Liên bang điều tra vấn đề này trong một cuộc phỏng vấn. Dani Pinter, giám đốc pháp lý và giám đốc Trung tâm Luật của NCOSE, cho biết “không có nhiều tiền lệ pháp lý về những vấn đề cụ thể này”.
Tuy nhiên, bà cho biết luật liên bang cấm việc tạo ra và phân phối tài liệu lạm dụng tình dục trẻ em (CSAM), và điều đó có thể áp dụng cho nội dung được tạo ra trên mạng “khi nó mô tả một đứa trẻ có thể nhận dạng được, hoặc mô tả một đứa trẻ tham gia vào hành vi tình dục rõ ràng”.
Những luật đó bao gồm Đạo luật Gỡ bỏ (Take It Down Act), được Đệ nhất phu nhân Melania Trump ủng hộ trước khi được ban hành vào năm ngoái.
Bộ Tư pháp (Hoa Kỳ) không trả lời yêu cầu bình luận. FTC từ chối bình luận. XAI không đưa ra bình luận nào ngoài một phản hồi tự động.
Công ty truyền thông xã hội của Musk đã đưa ra tuyên bố công khai đầu tiên về vấn đề này vào thứ Bảy trong một bài đăng trên tài khoản chính thức của X Safety. “Chúng tôi sẽ xử lý các nội dung bất hợp pháp trên X, bao gồm cả Tài liệu Lạm dụng Tình dục Trẻ em (CSAM), bằng cách xóa bỏ, đình chỉ vĩnh viễn tài khoản và hợp tác với chính quyền địa phương và cơ quan thực thi pháp luật khi cần thiết,” công ty viết.
Trong một bài đăng riêng trên X, Musk viết: “Bất kỳ ai sử dụng hoặc xúi giục Grok tạo ra nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp.”
Ngày hôm sau, một nhân viên của xAI tên là Ethan He đã viết trong một bài đăng trên X rằng Grok Imagine đã được cập nhật, nhưng anh ta không nêu rõ bất kỳ thay đổi nào liên quan đến khả năng tạo ra hình ảnh khiêu dâm gây hại.
Musk và X có tiền lệ cho phép những người dùng tạo ra các bài đăng thể hiện hành vi lạm dụng tình dục trẻ em vẫn được sử dụng nền tảng.
Năm 2023, X đã tạm thời đình chỉ rồi khôi phục lại tài khoản của một người dùng tên là Dom Lucre sau khi người này đăng tải “hình ảnh lạm dụng trẻ em liên quan đến bản án hình sự của một người đàn ông Úc ở Philippines,” theo Mashable đưa tin. Musk cho biết vào thời điểm đó, X đã quyết định xóa các bài đăng vi phạm của Lucre nhưng vẫn khôi phục lại tài khoản của người có ảnh hưởng cánh hữu này trên nền tảng. Hiện tại, Lucre có một tài khoản được bật kiếm tiền trên X với 1,6 triệu người theo dõi.
Tom Quisel, CEO của Musubi AI, công ty giúp các mạng xã hội và các công ty AI tự động hóa việc kiểm duyệt nội dung bằng AI, cho biết dường như xAI đã thất bại trong việc xây dựng ngay cả “các lớp tin cậy và an toàn cơ bản” vào quá trình triển khai Grok Imagine trên X.
Quisel nói rằng một công ty như xAI hoàn toàn có thể sử dụng mô hình của mình để phát hiện và chặn “hình ảnh liên quan đến trẻ em hoặc khỏa thân một phần”, hoặc từ chối yêu cầu của người dùng về việc đặt chủ thể trong ảnh vào trang phục gợi cảm.
Vụ tranh cãi này không gây ảnh hưởng gì đến lưu lượng truy cập của X. Theo Apptopia, trang web theo dõi xu hướng ứng dụng di động, số lượt tải xuống hàng ngày của Grok đã tăng 54% kể từ ngày 2 tháng 1, trong khi số lượt tải xuống hàng ngày của X đã tăng 25% trong ba ngày qua.