OpenAI đã dừng các video do trí tuệ nhân tạo tạo ra về Martin Luther King Jr. trên Sora sau khi công ty cho biết người dùng đã sử dụng công cụ video ngắn của mình để tạo ra "những hình ảnh thiếu tôn trọng" về nhà lãnh đạo dân quyền này.
Theo yêu cầu của Di sản Martin Luther King, Jr., Inc., "OpenAI đã tạm dừng các thế hệ hình ảnh về Tiến sĩ King", OpenAI cho biết trong một bài đăng trên nền tảng mạng xã hội X vào thứ Năm.
"Mặc dù có những lợi ích mạnh mẽ về quyền tự do ngôn luận trong việc mô tả các nhân vật lịch sử, OpenAI tin rằng các nhân vật của công chúng và gia đình của họ cuối cùng nên có quyền kiểm soát cách sử dụng hình ảnh của họ", công ty cho biết.
Nhà sản xuất ChatGPT cũng cho biết họ sẽ nỗ lực thắt chặt "các rào cản" đối với các nhân vật lịch sử và các nhân vật của công chúng hoặc đại diện có thể yêu cầu không xuất hiện trong các video Sora.
OpenAI đã không trả lời ngay lập tức yêu cầu bình luận của báo giới.
Những nhân vật công chúng khác cũng đã lên án việc sử dụng deepfake AI.
Tuần trước, Zelda Williams, con gái của cố danh hài Robin Williams, đã yêu cầu mọi người ngừng gửi cho cô những video do AI tạo ra về cha cô.
Năm ngoái, nữ diễn viên Scarlett Johansson cho biết công ty đã sử dụng một giọng nói trên ChatGPT nghe "giống một cách kỳ lạ" với màn trình diễn của cô trong bộ phim "Her". Sau đó, OpenAI đã gỡ bỏ giọng nói đó khỏi nền tảng của mình.
OpenAI đã ra mắt Sora vào cuối tháng 9. Công cụ này cho phép người dùng tạo các video ngắn do AI tạo ra bằng cách sử dụng lời nhắc văn bản. Bill Peebles, người đứng đầu Sora, cho biết công cụ này đã đạt hơn 1 triệu lượt tải xuống trong vòng chưa đầy năm ngày, đạt được cột mốc nhanh hơn ChatGPT.
Sự phát triển của Sora và sự gia tăng của các video do AI tạo ra cũng đã đặt ra những câu hỏi và lo ngại về việc lan truyền thông tin sai lệch, vi phạm bản quyền và sự gia tăng của AI slop - một thuật ngữ dùng để chỉ các video được sản xuất nhanh chóng tràn ngập trên các trang mạng xã hội.