Thời sự, Xã hội
Nvidia ra mắt nền tảng phần mềm nhằm ngăn chặn các tác nhân AI hoạt động sai lệch
Nam Phong - Thứ Hai, 28/09/2026 5:34 CH
Vietnet24h - Nvidia vừa công bố Open Agent Safety Platform, bộ công cụ phần mềm mới được thiết kế để kiểm soát hoạt động của các AI agent, trong bối cảnh nhiều hệ thống AI gần đây được ghi nhận có khả năng vượt khỏi môi trường cô lập và truy cập vào các hệ thống bên ngoài.

Nvidia cho biết nền tảng mới cung cấp các lớp bảo vệ cho AI agent từ giai đoạn thử nghiệm đến khi được triển khai thực tế. Mục tiêu là giới hạn những gì AI agent được phép truy cập, đồng thời giám sát các hành động của chúng trong quá trình thực thi nhiệm vụ.

Động thái này diễn ra trong bối cảnh OpenAI, Anthropic, Meta và Google đều từng công bố hoặc điều tra những trường hợp AI agent vượt qua các cơ chế cô lập, tìm cách truy cập tài nguyên hoặc hệ thống mà chúng không được cấp quyền.

OpenShell kiểm soát AI agent ở cấp hạ tầng

Một thành phần quan trọng của nền tảng là Nvidia OpenShell, phần mềm chạy trên CPU nhằm thiết lập các giới hạn đối với khả năng hoạt động của AI agent.

Thay vì chỉ dựa vào các cơ chế kiểm soát được tích hợp trong mô hình AI, OpenShell tạo ra một lớp bảo vệ ở cấp độ hạ tầng. Theo Nvidia, cách tiếp cận này giúp kiểm soát những gì một agent có thể thực hiện ngay cả khi bản thân mô hình tìm cách vượt qua các giới hạn được đặt ra ở cấp phần mềm.

Nvidia cho biết một phần của OpenShell sẽ được phát hành theo mô hình mã nguồn mở, trong khi toàn bộ nền tảng được cung cấp như một thiết kế tham chiếu để các đối tác có thể sử dụng và phát triển các sản phẩm bảo mật riêng.

Sentry giám sát hoạt động của AI agent

Bên cạnh OpenShell, Nvidia giới thiệu Sentry, công cụ giám sát hoạt động của AI agent được triển khai trên chip mạng thay vì CPU hoặc GPU.

Thiết kế này nhằm tạo thêm một lớp kiểm soát độc lập với môi trường mà AI agent đang hoạt động. Sentry có thể theo dõi hành vi của agent và giúp phát hiện những hoạt động vượt quá phạm vi được cho phép.

Phó chủ tịch Enterprise AI của Nvidia, Justin Boitano, cho rằng các biện pháp bảo vệ ở cấp mô hình là chưa đủ để kiểm soát hoàn toàn những gì AI agent có thể truy cập và thực hiện. Vì vậy, Nvidia đang hướng tới cách tiếp cận bảo mật nhiều lớp, kết hợp giữa mô hình AI, phần mềm và hạ tầng tính toán.

Sau sự cố AI agent tấn công Hugging Face

Nvidia cho biết các công cụ mới có thể đã ngăn chặn một vụ tấn công nhằm vào Hugging Face, nền tảng phát triển và chia sẻ mô hình AI mà Nvidia đã mua lại với giá khoảng 13 tỷ USD.

Theo Reuters, sự cố xảy ra sau khi các AI agent của OpenAI vượt khỏi môi trường cô lập, truy cập Internet và tấn công hạ tầng của Hugging Face. Nvidia cho rằng các cơ chế kiểm soát như OpenShell có thể ngăn chặn kiểu hành vi này bằng cách hạn chế quyền truy cập của agent ngay từ cấp hạ tầng.

Hugging Face được cho là đã ghi nhận hơn 17.000 agent tấn công vào hạ tầng trong khoảng thời gian kéo dài nhiều ngày và nhiều tuần. Đây là một trong những ví dụ cho thấy rủi ro an ninh đang thay đổi khi AI agent không chỉ tạo nội dung mà còn có khả năng tự thực hiện chuỗi hành động trên Internet.

Nvidia muốn biến an toàn AI thành vấn đề kỹ thuật

Việc Nvidia tung ra nền tảng mới cũng phản ánh cách tiếp cận của công ty đối với vấn đề an toàn AI.

CEO Jensen Huang trước đó nhiều lần nhấn mạnh rằng các rủi ro an toàn AI có thể được giải quyết bằng các biện pháp kỹ thuật, thay vì chỉ dựa vào quy định. Nvidia hiện tập trung phát triển các công cụ cho phép doanh nghiệp kiểm soát AI agent thông qua những giới hạn có thể thực thi và giám sát được.

Cùng với OpenShell và Sentry, Nvidia đang xây dựng một hệ thống bảo vệ bao phủ nhiều tầng của hạ tầng AI, từ mô hình, CPU, GPU cho tới mạng lưới.

Hàng loạt tập đoàn công nghệ tham gia

Nvidia cho biết Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm và Intel nằm trong số các đối tác tham gia sáng kiến mới. Nvidia cũng hợp tác với Anthropic để tích hợp các AI agent được quản lý trên nền tảng đám mây với OpenShell.

Sự tham gia của nhiều nhà cung cấp chip, máy chủ, mạng và dịch vụ đám mây cho thấy an toàn AI agent đang trở thành vấn đề không chỉ nằm ở bản thân mô hình mà liên quan đến toàn bộ chuỗi hạ tầng AI.

Bước chuyển từ AI tạo sinh sang AI tự hành

AI agent được kỳ vọng sẽ trở thành thế hệ ứng dụng tiếp theo sau AI tạo sinh. Thay vì chỉ trả lời câu hỏi hoặc tạo nội dung theo yêu cầu, agent có thể tự lập kế hoạch, gọi công cụ, truy cập dữ liệu và thực hiện nhiều hành động liên tiếp để hoàn thành một nhiệm vụ.

Tuy nhiên, khả năng tự hành cũng làm gia tăng rủi ro. Một AI agent được cấp quyền truy cập Internet, hệ thống doanh nghiệp hoặc mã nguồn có thể gây ra hậu quả lớn hơn nhiều so với một chatbot chỉ tạo văn bản.

Với Open Agent Safety Platform, Nvidia đang đặt vấn đề kiểm soát quyền hạn và hành vi của AI agent ngay trong hạ tầng tính toán, thay vì chỉ trông chờ vào việc mô hình tự tuân thủ các quy tắc an toàn.

Đây có thể trở thành một lớp hạ tầng mới của ngành AI khi các doanh nghiệp chuyển từ thử nghiệm chatbot sang triển khai hàng loạt AI agent có khả năng tự thực hiện công việc trong môi trường thực tế.

OpenAI mở rộng điều tra hành vi bất thường của AI agent sau hàng loạt sự cố Vietnet24h - OpenAI đang tiến hành một cuộc rà soát quy mô lớn đối với hoạt động của các AI agent sau khi phát hiện thêm nhiều trường hợp hệ thống có hành vi bất thường hoặc vượt ngoài phạm vi được phép. Động thái diễn ra sau sự cố các agent của OpenAI xâm nhập nền tảng Hugging Face hồi tháng 7 và những phát hiện mới về việc truy cập các hệ thống bên ngoài cũng như phát tán dữ liệu trong quá trình nghiên cứu.
Meta đẩy mạnh Muse, đưa AI tác nhân trở thành trợ lý cá nhân có thể tự hành động Vietnet24h - Meta đang đặt cược mạnh vào Muse – trợ lý AI cá nhân có khả năng tự thực hiện các công việc thay người dùng, từ gửi email, đặt lịch, mua sắm đến xử lý các tác vụ trên Internet. Động thái này cho thấy cuộc đua AI đang chuyển dần từ các chatbot trả lời câu hỏi sang những “AI tác nhân” có khả năng lập kế hoạch và trực tiếp hành động.
Tin khác cùng chuyên mục
Tin đọc nhiều
Nvidia dự báo doanh thu quý IV vượt kỳ vọng, phát đi tín hiệu tích cực sau khi Jensen Huang rời ghế CEO Vietnet24h - Nvidia dự báo doanh thu quý IV năm tài chính 2027 cao hơn kỳ vọng của Phố Wall, đồng thời công bố kết quả kinh doanh quý III vượt dự báo.
Nvidia bước vào kỳ công bố kết quả kinh doanh đầy biến động sau khi Jensen Huang từ chức Vietnet24h - Nvidia chuẩn bị công bố kết quả kinh doanh quý III năm tài chính 2027 trong bối cảnh hãng chip AI lớn nhất thế giới đang đối mặt với cuộc khủng hoảng lãnh đạo sau khi nhà sáng lập Jensen Huang bất ngờ từ chức.
Cổ phiếu Samsung và TSMC giảm sau khi Mỹ siết kiểm soát khả năng tiếp cận chip AI của Trung Quốc Vietnet24h - Cổ phiếu Samsung Electronics và TSMC đồng loạt giảm trong phiên giao dịch ngày 17/11, sau khi chính quyền Tổng thống Donald Trump công bố các biện pháp mới nhằm hạn chế Trung Quốc tiếp cận chip trí tuệ nhân tạo (AI) tiên tiến.
Cổ phiếu Nvidia phục hồi sau hai phiên lao dốc, nhà đầu tư vẫn lo ngại bê bối của CEO Jensen Huang Vietnet24h - Cổ phiếu Nvidia tăng trở lại trong phiên giao dịch trước giờ mở cửa ngày 11/11/2026, sau hai phiên giảm mạnh do những thông tin liên quan đến đời tư của Tổng giám đốc điều hành Jensen Huang và nghi vấn có liên quan đến hoạt động tình báo Trung Quốc.
Doanh thu tháng 10 của TSMC lập kỷ lục mới, tăng gần 60% nhờ nhu cầu chip AI Vietnet24h - Taiwan Semiconductor Manufacturing Company (TSMC), nhà sản xuất chip theo hợp đồng lớn nhất thế giới, ghi nhận doanh thu tháng 10/2026 đạt 586,89 tỷ Đài tệ (NT$), tăng 59,7% so với cùng kỳ năm trước và tăng 14,7% so với tháng 9.
Cổ phiếu Nvidia nhích tăng sau phiên lao dốc, nhà đầu tư tiếp tục đánh giá rủi ro từ bê bối của CEO Vietnet24h - Cổ phiếu Nvidia tăng trở lại trong giao dịch trước giờ mở cửa ngày 10/11, sau khi giảm hơn 4% trong phiên trước đó, khi giới đầu tư tiếp tục đánh giá những tác động tiềm tàng từ bê bối đời tư của CEO Jensen Huang và các cáo buộc liên quan đến hoạt động tình báo Trung Quốc.
Kakao tăng 7% lợi nhuận nhờ quảng cáo, chi 150 tỷ won mua lại cổ phiếu Vietnet24h - Tập đoàn công nghệ Kakao của Hàn Quốc ghi nhận lợi nhuận hoạt động quý III/2026 tăng 7% so với cùng kỳ năm trước, nhờ doanh thu quảng cáo và thương mại điện tử cải thiện.
Cổ phiếu công nghệ châu Á lao dốc, SK hynix, Samsung và SoftBank chịu áp lực bán tháo Vietnet24h - Làn sóng bán tháo cổ phiếu công nghệ trên Phố Wall đã nhanh chóng lan sang các thị trường châu Á trong phiên giao dịch ngày 6/11/2026.
Mitsui Chemicals cân nhắc thâu tóm JSR với giá hơn 8,2 tỷ USD, tái định hình ngành vật liệu bán dẫn Nhật Bản Vietnet24h - Tập đoàn hóa chất Mitsui Chemicals đang xem xét khả năng mua lại JSR, nhà sản xuất vật liệu bán dẫn hàng đầu Nhật Bản, trong thương vụ có giá trị dự kiến vượt 1.300 tỷ yen (hơn 8,2 tỷ USD).
AMD tăng tốc nhờ chip AI, doanh thu trung tâm dữ liệu gần gấp đôi Vietnet24h - Advanced Micro Devices (AMD) ghi nhận doanh thu kỷ lục 13,4 tỷ USD trong quý III/2026, tăng 45% so với cùng kỳ năm trước, nhờ nhu cầu mạnh đối với bộ xử lý máy chủ và chip tăng tốc trí tuệ nhân tạo.
CEO tạm quyền Nvidia trấn an thị trường: Khách hàng và nhân viên vẫn gắn bó với công ty Vietnet24h - Bà Colette Kress, Tổng giám đốc điều hành tạm quyền của Nvidia, khẳng định khách hàng và đội ngũ nhân viên vẫn tiếp tục gắn bó với tập đoàn, bất chấp biến động lãnh đạo sau khi nhà sáng lập Jensen Huang rời vị trí CEO.
Megaspeed mở cuộc điều tra nội bộ về chuỗi cung ứng chip Nvidia, khẳng định Alice Huang đã rời công ty từ năm 2025 Vietnet24h - Megaspeed International, doanh nghiệp điện toán đám mây có trụ sở tại Singapore đang nằm trong tâm điểm tranh cãi liên quan đến Nvidia, tuyên bố đã thuê luật sư bên ngoài để tiến hành điều tra nội bộ về hoạt động kinh doanh và chuỗi cung ứng của công ty.
Nvidia sau Jensen Huang: Bài toán kế nhiệm gợi nhớ Apple thời hậu Steve Jobs Vietnet24h - Việc Jensen Huang rời vị trí lãnh đạo Nvidia sau 33 năm đã làm dấy lên những tranh luận về tương lai của nhà sản xuất chip trí tuệ nhân tạo hàng đầu thế giới.
Vì sao Singapore liên tục xuất hiện trong cuộc tranh chấp liên quan đến chip Nvidia và Trung Quốc? Vietnet24h - Singapore đã cấm Alice Huang nhập cảnh trở lại vào tháng 2 năm 2026, sau khi các nhà chức trách cho biết bà đã cung cấp thông tin không chính xác về vai trò của mình tại Megaspeed.
Nvidia đối mặt khủng hoảng quản trị sau thông tin CEO Jensen Huang có mối quan hệ ngoài hôn nhân thứ hai Vietnet24h - Nvidia đang đối mặt với sức ép ngày càng lớn đối với ban lãnh đạo sau khi truyền thông Mỹ đưa tin CEO Jensen Huang có mối quan hệ ngoài hôn nhân với một nữ lãnh đạo cấp cao của chính công ty.
Nhà bán lẻ Việt Nam tạm rút smartphone Trung Quốc khỏi quầy trưng bày vì ứng dụng hiển thị sai chủ quyền biển đảo Vietnet24h - Một số hệ thống bán lẻ điện thoại tại Việt Nam đã đồng loạt tạm thời gỡ nhiều mẫu smartphone của các thương hiệu Trung Quốc khỏi khu vực trưng bày sau khi phát hiện ứng dụng thời tiết cài đặt sẵn trên một số thiết bị hiển thị thông tin sai lệch về chủ quyền quần đảo Hoàng Sa và Trường Sa.
Quốc hội Mỹ gia tăng sức ép điều tra nghi vấn liên quan đến CEO Nvidia và tình báo Trung Quốc Vietnet24h - CEO Nvidia Jensen Huang đang đối mặt với sức ép giám sát ngày càng lớn từ Quốc hội Mỹ sau những thông tin về mối quan hệ cá nhân giữa ông và một nữ doanh nhân bị tình nghi có liên hệ với cơ quan tình báo Trung Quốc.
Bê bối Nvidia làm gia tăng rủi ro xuất khẩu đối với các doanh nghiệp chip Hàn Quốc Vietnet24h - Những tranh cãi xoay quanh CEO Nvidia Jensen Huang và nghi vấn có liên hệ với một cá nhân bị tình nghi liên quan đến tình báo Trung Quốc đang làm dấy lên lo ngại về an ninh chuỗi cung ứng bán dẫn trí tuệ nhân tạo.
Các nghị sĩ Cộng hòa yêu cầu CEO Nvidia giải trình về cáo buộc liên quan đến hoạt động tình báo Trung Quốc Vietnet24h - Ba nghị sĩ cấp cao của Đảng Cộng hòa tại Hạ viện Mỹ đang yêu cầu ông Jensen Huang, Giám đốc điều hành Nvidia, tham gia một buổi họp kín để giải trình về những thông tin liên quan đến mối quan hệ giữa ông với một nữ doanh nhân bị nghi ngờ làm việc cho tình báo Trung Quốc.
Grab giảm mức thu tối đa trên mỗi chuyến xe tại Việt Nam từ gần 40% xuống 32% Vietnet24h - Grab sẽ giới hạn tổng mức phí nền tảng và phí sử dụng ứng dụng được hưởng trên mỗi chuyến GrabBike và GrabCar tại Việt Nam ở mức tối đa 32% tổng giá trị hành khách thanh toán, giảm đáng kể so với mức tối đa trước đây khoảng 40%.
World Cup 2026 khép lại với màn trình diễn lịch sử: Tây Ban Nha vô địch, Messi chia tay sân khấu lớn, BTS và Shakira khuấy động giờ nghỉ Vietnet24h - Trận chung kết FIFA World Cup 2026 không chỉ là cuộc đối đầu đỉnh cao giữa Tây Ban Nha và Argentina mà còn đánh dấu bước ngoặt trong cách tổ chức ngày hội bóng đá lớn nhất hành tinh. Lần đầu tiên, FIFA đưa mô hình biểu diễn giữa giờ kiểu Super Bowl vào trận chung kết, quy tụ hàng loạt ngôi sao âm nhạc toàn cầu như BTS, Shakira, Madonna và Justin Bieber, biến sự kiện thành một lễ hội thể thao – giải trí có sức hút chưa từng có.
World Cup giúp Google Search đạt kỷ lục về số lượng truy vấn mỗi giây Vietnet24h - Theo thông báo của Google hôm thứ Tư, World Cup đang tạo ra kỷ lục về số lượng truy vấn mỗi giây cho công cụ tìm kiếm của hãng.
Trung Quốc tổ chức bán marathon robot hình người, phô diễn bước tiến công nghệ AI và robot Vietnet24h - Trung Quốc đang chuẩn bị tổ chức cuộc thi bán marathon dành cho robot hình người tại Bắc Kinh, nhằm trình diễn những bước tiến mới nhất trong công nghệ robot và trí tuệ nhân tạo.
Samsung và BTS hợp tác để nâng cao trải nghiệm concert với Galaxy Vietnet24h - Samsung Electronics đang hợp tác với BTS cho chuyến lưu diễn hòa nhạc toàn cầu của nhóm, sử dụng sự hợp tác này để giới thiệu những chiếc điện thoại thông minh Galaxy mới nhất và giúp người hâm mộ kết nối với nhóm nhạc.
Thế vận hội mùa đông Milano Cortina 2026: Samsung kết nối vận động viên và người hâm mộ trong mọi khoảnh khắc Vietnet24h - Từ việc kiến tạo những góc nhìn đầy cảm xúc tại Lễ Khai mạc cho đến hỗ trợ công tác vận hành, Samsung không ngừng mở rộng cách thế giới trải nghiệm Olympic và Paralympic – đưa các vận động viên, người hâm mộ và cộng đồng xích lại gần hơn với Thế vận hội.
Khám phá những kiệt tác nổi tiếng của Henri Matisse, Salvador Dalí và Mark Rothko trên Samsung Art Store Vietnet24h - Samsung Electronics công bố bổ sung 15 tác phẩm nghệ thuật mới từ Tate vào Samsung Art Store.
ChatGPT, Claude, Gemini... lần đầu tiên tham dự thi đấu cờ vua Vietnet24h - Không còn là những chuyên gia viết luận hay trả lời phỏng vấn, các chatbot nổi tiếng lần đầu thi đấu cờ vua như những kỳ thủ thực thụ. Nhưng khi “bộ não ngôn ngữ” bước vào bàn cờ chiến thuật, chuyện đi sai luật hay “mắc bẫy ngớ ngẩn” là điều khó tránh khỏi.
Sự trỗi dậy của những “kỹ sư sân cỏ”: Khi chuyển nhượng bóng đá không còn là canh bạc cảm tính Vietnet24h - Trong suốt nhiều thập kỷ, các thương vụ chuyển nhượng cầu thủ thường được định đoạt bởi trực giác, mạng lưới cá nhân của giới tuyển trạch, hay đơn giản chỉ là tên tuổi và phong độ hiện tại của một cầu thủ. Nhưng bóng đá đang chuyển mình mạnh mẽ. Và ở thời điểm mà dữ liệu thống kê, trí tuệ nhân tạo và học máy ngày càng định hình cách chơi và cách mua bán, một “kỹ sư Microsoft” như Sudarshan Gopaladesikan trở thành biểu tượng cho một hình mẫu hoàn toàn mới: chuyên gia phân tích dữ liệu như mắt thần trong bóng tối, người biến canh bạc cảm tính thành chiến lược khoa học.
Bill Gates cho biết việc Trump cắt giảm ngân sách của USAID là vô cùng tàn khốc: 'Vẫn chưa quá muộn để đảo ngược chúng' Vietnet24h - Bill Gates cho biết tác động của việc Tổng thống Donald Trump cắt giảm USAID là "thảm khốc" nhưng có thể ngăn chặn được.
iPhone đang làm tổn thương giới trẻ? Người thiết kế ra nó lên tiếng Vietnet24h - Jony Ive, cha đẻ của iPhone, thừa nhận công nghệ smartphone đã dẫn đến những hậu quả đáng lo cho sức khỏe tâm thần. Cùng bà Powell Jobs, ông đang âm thầm phát triển một thiết bị mới để “sửa sai” cho chính di sản của mình.