Tuy nhiên, dự luật mới đang vấp phải nhiều nghi ngờ từ giới học giả và chuyên gia công nghệ về tính khả thi cũng như hiệu quả thực tế trong việc bảo vệ thanh thiếu niên trước các rủi ro trực tuyến. 

Vụ xả súng làm thay đổi cách tiếp cận đối với AI
Làn sóng yêu cầu siết chặt quản lý AI bùng phát sau vụ xả súng tại thị trấn Tumbler Ridge (British Columbia), khiến 9 người thiệt mạng. Sự việc càng gây tranh cãi khi OpenAI thừa nhận đã từng phát hiện những trao đổi mang nội dung bạo lực trên ChatGPT liên quan đến nghi phạm nhưng không báo cho cơ quan thực thi pháp luật. 

Theo các cuộc điều tra và các vụ kiện sau đó, tài khoản ChatGPT của nghi phạm từng bị gắn cờ nội bộ vì các nội dung liên quan đến bạo lực, song không đạt ngưỡng báo cáo theo quy trình đánh giá rủi ro của OpenAI thời điểm đó. Vụ việc đã làm dấy lên cuộc tranh luận toàn cầu về trách nhiệm của các nền tảng AI trong việc phát hiện và ngăn chặn các nguy cơ gây hại trong đời thực. 

Dự luật mới nhắm vào cả AI và mạng xã hội
Để phản ứng trước áp lực dư luận, Chính phủ Canada đã trình dự luật an toàn số mới, trong đó đề xuất thành lập một cơ quan quản lý kỹ thuật số chuyên trách giám sát chatbot AI và các nền tảng mạng xã hội. 

Theo đề xuất: Các chatbot AI sẽ phải áp dụng các biện pháp giảm thiểu nguy cơ người dùng tìm kiếm hoặc nhận được nội dung nguy hiểm. Hệ thống AI phải tích hợp cơ chế can thiệp khủng hoảng đối với các cuộc trò chuyện liên quan đến tự sát, tự gây hại hoặc bạo lực nghiêm trọng. Trẻ em dưới 16 tuổi có thể bị cấm sử dụng mạng xã hội, tương tự mô hình mà Australia đang triển khai. Các doanh nghiệp vi phạm có thể đối mặt với các khoản phạt lên tới 3% doanh thu toàn cầu hoặc 10 triệu đô la Canada. 

Bộ trưởng Bản sắc và Văn hóa Canada Marc Miller cho rằng quốc gia này đã chứng kiến những hậu quả nghiêm trọng từ các nguy cơ trực tuyến và cần xây dựng các nền tảng số "an toàn ngay từ thiết kế". 

Giới chuyên gia lo ngại nhiều lỗ hổng
Mặc dù mục tiêu của dự luật nhận được sự đồng thuận rộng rãi, nhiều chuyên gia pháp lý và công nghệ cho rằng các biện pháp đề xuất vẫn còn quá sơ sài và khó thực thi trong thực tế. 

Ông Evan Light, chuyên gia về công nghệ và quyền riêng tư tại Đại học Toronto, nhận xét dự luật hiện vẫn thiếu nhiều chi tiết quan trọng và có thể dễ dàng bị vô hiệu hóa thông qua các công cụ như VPN hoặc các phương thức che giấu danh tính trực tuyến khác. 

Một vấn đề khác là khung thời gian triển khai. Theo kế hoạch, dự luật có thể mất khoảng một năm để được thông qua và thêm khoảng 18 tháng nữa để cơ quan quản lý mới đi vào hoạt động đầy đủ. Điều này đồng nghĩa các biện pháp kiểm soát có thể phải mất hơn hai năm mới được thực thi trên thực tế. 

Nguy cơ đẩy người dùng sang các nền tảng khó kiểm soát hơn
Một số nhà nghiên cứu còn cảnh báo rằng việc cấm trẻ em sử dụng các nền tảng lớn có thể vô tình tạo ra tác dụng ngược.

Ông Florian Martin-Bariteau, Giám đốc Trung tâm Luật, Công nghệ và Xã hội thuộc Đại học Ottawa, cho rằng các biện pháp hạn chế có thể khiến thanh thiếu niên chuyển sang các nền tảng nhỏ hơn hoặc ít được kiểm soát hơn, nơi mức độ an toàn thậm chí còn thấp hơn. 

Kinh nghiệm từ Australia cho thấy sau khi lệnh cấm mạng xã hội đối với trẻ vị thành niên được triển khai, một số lượng đáng kể người dùng dưới 16 tuổi vẫn duy trì được tài khoản bằng nhiều phương thức khác nhau. 

Cuộc tranh luận toàn cầu về trách nhiệm của AI
Canada không phải quốc gia duy nhất tìm cách siết chặt AI và mạng xã hội. Nhiều nước châu Âu, Brazil và một số bang của Mỹ cũng đang xem xét các quy định xác minh độ tuổi, kiểm soát chatbot AI và tăng cường trách nhiệm của các nền tảng số. 

Trong khi đó, Meta cho rằng các lệnh cấm mạng xã hội có thể phản tác dụng, còn Google và TikTok tuyên bố sẵn sàng hợp tác với chính phủ để xây dựng các tiêu chuẩn an toàn cao hơn cho người dùng trẻ tuổi. 

Bài toán lớn của kỷ nguyên AI
Vụ việc tại Canada cho thấy một thách thức ngày càng rõ nét trong thời đại AI tạo sinh: ranh giới giữa quyền riêng tư của người dùng và trách nhiệm ngăn chặn các nguy cơ xã hội.

Các chatbot AI đang trở thành công cụ giao tiếp quen thuộc của hàng trăm triệu người. Tuy nhiên, khi các hệ thống này ngày càng có khả năng tham gia sâu vào các cuộc trò chuyện cá nhân, câu hỏi đặt ra không còn là liệu AI có nên được quản lý hay không, mà là quản lý như thế nào để vừa bảo đảm an toàn cộng đồng, vừa không xâm phạm quyền riêng tư và tự do cá nhân.

Dự luật mới của Canada vì thế được xem như một phép thử quan trọng đối với mô hình quản trị AI trong tương lai. Nhưng như nhiều chuyên gia cảnh báo, việc ban hành luật mới chỉ là bước khởi đầu; hiệu quả thực sự sẽ phụ thuộc vào khả năng thực thi trong một môi trường số vốn thay đổi nhanh hơn rất nhiều so với tốc độ của các quy định pháp lý.