OpenAI vào thứ Ba (16/9) đã công bố sẽ ra mắt một trải nghiệm ChatGPT dành riêng với các tính năng kiểm soát của phụ huynh cho người dùng dưới 18 tuổi, khi công ty trí tuệ nhân tạo này đang nỗ lực tăng cường các biện pháp bảo vệ an toàn cho thanh thiếu niên.
Khi OpenAI xác định một người dùng là trẻ vị thành niên, họ sẽ tự động được chuyển hướng đến một trải nghiệm ChatGPT phù hợp với lứa tuổi, chặn nội dung đồ họa và tình dục, đồng thời có thể liên hệ với cơ quan thực thi pháp luật trong những trường hợp hiếm hoi khi người dùng gặp khủng hoảng nghiêm trọng, công ty cho biết.
OpenAI cũng đang phát triển một công nghệ để dự đoán tuổi của người dùng chính xác hơn, nhưng ChatGPT sẽ mặc định chuyển sang trải nghiệm dành cho người dưới 18 tuổi nếu có sự không chắc chắn hoặc thông tin không đầy đủ.
Các cập nhật về an toàn của công ty khởi nghiệp này được đưa ra sau khi Ủy ban Thương mại Liên bang gần đây đã mở một cuộc điều tra đối với một số công ty công nghệ, bao gồm OpenAI, về cách các chatbot AI như ChatGPT có thể ảnh hưởng tiêu cực đến trẻ em và thanh thiếu niên.
Cơ quan này cho biết họ muốn tìm hiểu các bước mà những công ty này đã thực hiện để “đánh giá tính an toàn của các chatbot này khi hoạt động như những người bạn đồng hành,” theo một thông cáo.
Tháng trước, OpenAI cũng đã chia sẻ cách ChatGPT sẽ xử lý “các tình huống nhạy cảm” sau một vụ kiện từ một gia đình cho rằng chatbot này liên quan đến cái chết do tự tử của con trai họ. “Chúng tôi ưu tiên an toàn hơn quyền riêng tư và tự do cho thanh thiếu niên; đây là một công nghệ mới và mạnh mẽ, và chúng tôi tin rằng trẻ vị thành niên cần được bảo vệ đáng kể,” CEO OpenAI Sam Altman viết trong một bài đăng trên blog vào thứ Ba.
Vào tháng Tám, OpenAI cho biết họ sẽ phát hành các tính năng kiểm soát của phụ huynh để giúp họ hiểu và định hình cách thanh thiếu niên sử dụng ChatGPT. OpenAI đã chia sẻ thêm chi tiết về các tính năng kiểm soát này vào thứ Ba, và cho biết chúng sẽ có sẵn vào cuối tháng.
Các tính năng kiểm soát sắp tới của công ty sẽ cho phép phụ huynh liên kết tài khoản ChatGPT của họ với tài khoản của con mình qua email, đặt giờ giới hạn khi con họ không thể sử dụng chatbot, quản lý các tính năng nào sẽ bị tắt, hướng dẫn cách chatbot trả lời và nhận thông báo nếu con họ đang gặp khủng hoảng nghiêm trọng.
ChatGPT được thiết kế cho người dùng từ 13 tuổi trở lên, OpenAI cho biết.
“Đây là những quyết định khó khăn, nhưng sau khi thảo luận với các chuyên gia, chúng tôi tin rằng đây là cách tốt nhất và muốn minh bạch về ý định của mình,” Altman viết.
Nếu bạn đang có ý định tự tử hoặc đang gặp khủng hoảng, hãy liên hệ với Đường dây Hỗ trợ Tự tử & Khủng hoảng qua số 988 để được hỗ trợ và tư vấn từ một cố vấn được đào tạo.