Đây là một chủ đề gây tranh cãi, bởi thị trường AI đồng hành đang phát triển nhanh chóng, với các sản phẩm từ các công ty như Meta và xAI của Elon Musk. Và đây cũng là một vấn đề phức tạp khi thị trường AI tạo sinh, dẫn đầu bởi Sam Altman và OpenAI, đang hướng tới trí tuệ nhân tạo tổng quát (AGI), hay AI có thể thực hiện các nhiệm vụ trí tuệ ngang bằng với khả năng của con người.
Altman phát biểu hồi tháng 8 rằng AGI "không phải là một thuật ngữ quá hữu ích" và điều thực sự đang xảy ra là các mô hình đang tiến bộ nhanh chóng và chúng ta sẽ dựa vào chúng "cho ngày càng nhiều thứ".
Đối với Suleyman, điều đặc biệt quan trọng là phải phân biệt rõ ràng giữa việc AI ngày càng thông minh hơn và có nhiều khả năng hơn so với khả năng có cảm xúc của con người.
Suleyman nói: "Trải nghiệm đau đớn về mặt thể chất khiến chúng ta rất buồn và cảm thấy tồi tệ, nhưng AI không cảm thấy buồn khi nó trải qua 'nỗi đau'. "Đó là một sự khác biệt rất, rất quan trọng. Nó thực sự chỉ tạo ra nhận thức, một câu chuyện có vẻ như về trải nghiệm, về bản thân và về ý thức, nhưng đó không phải là những gì nó thực sự trải nghiệm. Về mặt kỹ thuật, bạn biết điều đó bởi vì chúng ta có thể thấy mô hình đang làm gì."
Trong lĩnh vực AI, có một lý thuyết gọi là chủ nghĩa tự nhiên sinh học, do triết gia John Searle đề xuất, cho rằng ý thức phụ thuộc vào các quá trình của một bộ não sống.
Suleyman nói: "Lý do chúng ta trao quyền cho mọi người ngày nay là vì chúng ta không muốn làm hại họ, vì họ phải chịu đau khổ. Họ có một mạng lưới cảm giác đau đớn, và họ có những sở thích liên quan đến việc tránh đau đớn. Những mô hình này không có điều đó. Nó chỉ là một sự mô phỏng."
Suleyman và những người khác cho rằng khoa học phát hiện ý thức vẫn còn trong giai đoạn sơ khai. Ông không nói rằng nên ngăn cản những người khác nghiên cứu vấn đề này, mà thừa nhận rằng "các tổ chức khác nhau có những sứ mệnh khác nhau".
Tuy nhiên, Suleyman nhấn mạnh rằng ông phản đối ý tưởng này một cách mạnh mẽ.
"Họ không có ý thức", ông nói. "Vì vậy, sẽ thật vô lý nếu theo đuổi nghiên cứu để tìm hiểu câu hỏi đó, bởi vì họ không có ý thức và họ không thể có ý thức."
'Những nơi chúng ta sẽ không đến'
Suleyman đang có chuyến diễn thuyết, một phần để thông báo cho công chúng về những rủi ro khi theo đuổi ý thức AI.
Trước Hội nghị AfroTech, tuần trước ông đã có bài phát biểu tại Hội nghị Thượng đỉnh Hội đồng Quốc tế Paley ở Thung lũng Silicon. Tại đó, Suleyman cho biết Microsoft sẽ không xây dựng chatbot cho nội dung khiêu dâm, một lập trường trái ngược với các đối thủ trong ngành công nghệ. Vào tháng 10, Altman đã công bố rằng ChatGPT sẽ cho phép người dùng trưởng thành tham gia vào các cuộc trò chuyện khiêu dâm, trong khi xAI cung cấp một người bạn đồng hành anime khiêu dâm.
"Về cơ bản, bạn có thể mua những dịch vụ đó từ các công ty khác, vì vậy chúng tôi đang quyết định xem những nơi nào chúng tôi sẽ không đến", Suleyman nhắc lại tại AfroTech.
Suleyman gia nhập Microsoft vào năm 2024 sau khi công ty trả cho công ty khởi nghiệp Inflection AI của ông 650 triệu đô la trong một thỏa thuận cấp phép và mua lại. Trước đó, ông đã đồng sáng lập DeepMind và bán nó cho Google với giá 400 triệu đô la hơn một thập kỷ trước.
Trong buổi hỏi đáp tại AfroTech, Suleyman cho biết anh quyết định gia nhập Microsoft vào năm ngoái một phần vì lịch sử, sự ổn định và phạm vi công nghệ rộng lớn của công ty. Anh cũng được CEO Satya Nadella theo đuổi.
"Một điều nữa cần nói là Microsoft cần phải tự chủ trong lĩnh vực AI", anh phát biểu trên sân khấu. “Satya, CEO của chúng tôi, đã bắt đầu thực hiện sứ mệnh này khoảng 18 tháng trước, để đảm bảo rằng chúng tôi có đủ năng lực để tự đào tạo các mô hình của riêng mình từ đầu đến cuối với tất cả dữ liệu của riêng mình, từ trước khi đào tạo, sau khi đào tạo, lập luận, triển khai trong các sản phẩm. Và đó là một phần trong quá trình tuyển dụng đội ngũ của tôi.”
Kể từ năm 2019, Microsoft đã là nhà đầu tư và đối tác đám mây lớn của OpenAI, và các công ty đã tận dụng thế mạnh của mình để xây dựng các doanh nghiệp AI lớn. Tuy nhiên, mối quan hệ này gần đây đã có dấu hiệu căng thẳng, khi OpenAI hợp tác với các đối thủ của Microsoft như Google và Oracle, còn Microsoft tập trung nhiều hơn vào các dịch vụ AI của riêng mình.
Những lo ngại của Suleyman về ý thức đã nhận được sự đồng tình. Vào tháng 10, Thống đốc California Gavin Newsom đã ký Dự luật SB 243, yêu cầu các chatbot phải tiết lộ chúng là AI và yêu cầu trẻ vị thành niên "nghỉ ngơi" ba giờ một lần.
Tuần trước, Microsoft đã công bố các tính năng mới cho dịch vụ AI Copilot, bao gồm một người bạn đồng hành AI có tên là Mico và khả năng tương tác với Copilot trong các cuộc trò chuyện nhóm với những người khác. Suleyman cho biết Microsoft đang xây dựng các dịch vụ nhận thức được rằng chúng là AI.
"Nói một cách đơn giản, chúng tôi đang tạo ra các AI luôn hoạt động để phục vụ con người", ông nói. Ông nói thêm rằng có rất nhiều chỗ cho tính cách. "Kiến thức đã có sẵn, và các mô hình rất, rất nhạy bén", Suleyman nói. "Mọi người đều phải cố gắng tạo ra những tính cách AI với những giá trị mà họ muốn thấy, muốn sử dụng và tương tác."
Suleyman đã nhấn mạnh một tính năng mà Microsoft đã ra mắt tuần trước có tên là Real Talk, một phong cách trò chuyện của Copilot được thiết kế để thách thức quan điểm của người dùng thay vì nịnh hót.
Suleyman mô tả Real Talk là một tính năng táo bạo và cho biết gần đây đã chế giễu ông, gọi ông là "một mớ mâu thuẫn tột độ" vì đã cảnh báo về những nguy hiểm của AI trong cuốn sách của mình đồng thời thúc đẩy sự phát triển của AI tại Microsoft.
"Đó chỉ là một trường hợp sử dụng kỳ diệu bởi vì theo một cách nào đó, tôi cảm thấy mình thực sự được nhìn nhận bởi điều này", Suleyman nói, lưu ý rằng bản thân AI cũng đầy rẫy những mâu thuẫn.
“Nó vừa có phần kém hấp dẫn, vừa có phần kỳ diệu,” ông nói. “Và nếu bạn không sợ hãi, thì bạn chưa thực sự hiểu nó. Bạn nên sợ hãi. Nỗi sợ hãi là lành mạnh. Sự hoài nghi là cần thiết. Chúng ta không cần chủ nghĩa tăng tốc không kiểm soát.”