Theo dự thảo quy định mới do Cục Quản lý Không gian mạng Trung Quốc công bố, nước này sẽ yêu cầu dán nhãn rõ ràng đối với nội dung do “digital human” tạo ra, đồng thời cấm các dịch vụ gây nghiện hoặc tạo quan hệ thân mật ảo với người dùng dưới 18 tuổi.
Động thái này phản ánh cách tiếp cận thận trọng nhưng chiến lược của Trung Quốc đối với công nghệ AI, đặc biệt khi “digital human” đang được sử dụng rộng rãi trong thương mại điện tử, dịch vụ khách hàng, truyền thông và giải trí. Theo dự thảo, các nhân vật AI sẽ không được phép tạo “mối quan hệ thân mật ảo” với trẻ vị thành niên, đồng thời bị cấm phát triển các dịch vụ có thể gây nghiện hoặc gây hiểu nhầm cho người dùng nhỏ tuổi.
Ngoài ra, Trung Quốc cũng siết chặt vấn đề dữ liệu và danh tính. Các quy định mới cấm việc sử dụng thông tin cá nhân của người khác để tạo “digital human” nếu chưa được đồng ý, đồng thời ngăn chặn việc sử dụng nhân vật AI để vượt qua hệ thống xác minh danh tính. Đây được xem là bước đi nhằm hạn chế rủi ro giả mạo và lạm dụng AI trong môi trường số.
Không chỉ dừng ở bảo vệ trẻ em và dữ liệu cá nhân, dự thảo còn đặt ra các tiêu chuẩn nội dung nghiêm ngặt. Các “digital human” sẽ không được phép phát tán nội dung gây chia rẽ, kích động thù hận, hoặc mang yếu tố bạo lực, khiêu dâm hay gây hoang mang. Đồng thời, các nhà cung cấp dịch vụ phải can thiệp khi người dùng có dấu hiệu tự gây hại hoặc gặp vấn đề tâm lý, cho thấy mức độ kiểm soát sâu hơn đối với AI tương tác cảm xúc.
Từ góc nhìn công nghệ, động thái này cho thấy Trung Quốc đang coi “digital human” là một lĩnh vực chiến lược mới của nền kinh tế số. Công nghệ này đang phát triển mạnh nhờ AI tạo sinh, giúp doanh nghiệp triển khai nhân vật ảo trong livestream bán hàng, chăm sóc khách hàng và truyền thông số. Tuy nhiên, sự phát triển nhanh cũng kéo theo các rủi ro về bảo mật, thao túng tâm lý và quyền riêng tư.
Việc Trung Quốc sớm ban hành khung quản lý cũng phản ánh xu hướng toàn cầu khi nhiều quốc gia bắt đầu siết chặt công nghệ AI và mạng xã hội nhằm bảo vệ trẻ em và người dùng. Trong bối cảnh AI ngày càng mang tính “con người hóa”, các chính phủ đang chuyển từ quản lý nội dung sang quản lý hành vi và tác động tâm lý của công nghệ.
Quy định mới của Trung Quốc có thể trở thành mô hình tham chiếu cho các quốc gia khác trong việc quản lý AI tương tác. Khi “digital human” ngày càng phổ biến trong thương mại và truyền thông, việc thiết lập ranh giới pháp lý sẽ đóng vai trò quyết định đối với sự phát triển bền vững của công nghệ này.
Trong kỷ nguyên AI, “digital human” không chỉ là công cụ công nghệ mà còn là một dạng “thực thể số” có khả năng ảnh hưởng đến hành vi con người. Và việc Trung Quốc sớm thiết lập khung quản lý cho thấy cuộc đua AI không chỉ là cuộc cạnh tranh công nghệ, mà còn là cuộc cạnh tranh về mô hình quản trị trong thế giới số mới.