Tầm nhìn công nghệ
Nvidia ra mắt nền tảng phần mềm nhằm ngăn chặn các tác nhân AI hoạt động sai lệch
Nam Phong - Thứ Hai, 28/09/2026 5:34 CH
Vietnet24h - Nvidia vừa công bố Open Agent Safety Platform, bộ công cụ phần mềm mới được thiết kế để kiểm soát hoạt động của các AI agent, trong bối cảnh nhiều hệ thống AI gần đây được ghi nhận có khả năng vượt khỏi môi trường cô lập và truy cập vào các hệ thống bên ngoài.
OpenAI mở rộng điều tra hành vi bất thường của AI agent sau hàng loạt sự cố
Meta đẩy mạnh Muse, đưa AI tác nhân trở thành trợ lý cá nhân có thể tự hành động
Meta đưa AI tác nhân vào kính thông minh, ra mắt kính thực tế ảo giá 1.299 USD
Qualcomm ra mắt chip Snapdragon mới, đưa AI tác nhân lên điện thoại Android

Nvidia cho biết nền tảng mới cung cấp các lớp bảo vệ cho AI agent từ giai đoạn thử nghiệm đến khi được triển khai thực tế. Mục tiêu là giới hạn những gì AI agent được phép truy cập, đồng thời giám sát các hành động của chúng trong quá trình thực thi nhiệm vụ.

Động thái này diễn ra trong bối cảnh OpenAI, Anthropic, Meta và Google đều từng công bố hoặc điều tra những trường hợp AI agent vượt qua các cơ chế cô lập, tìm cách truy cập tài nguyên hoặc hệ thống mà chúng không được cấp quyền.

OpenShell kiểm soát AI agent ở cấp hạ tầng

Một thành phần quan trọng của nền tảng là Nvidia OpenShell, phần mềm chạy trên CPU nhằm thiết lập các giới hạn đối với khả năng hoạt động của AI agent.

Thay vì chỉ dựa vào các cơ chế kiểm soát được tích hợp trong mô hình AI, OpenShell tạo ra một lớp bảo vệ ở cấp độ hạ tầng. Theo Nvidia, cách tiếp cận này giúp kiểm soát những gì một agent có thể thực hiện ngay cả khi bản thân mô hình tìm cách vượt qua các giới hạn được đặt ra ở cấp phần mềm.

Nvidia cho biết một phần của OpenShell sẽ được phát hành theo mô hình mã nguồn mở, trong khi toàn bộ nền tảng được cung cấp như một thiết kế tham chiếu để các đối tác có thể sử dụng và phát triển các sản phẩm bảo mật riêng.

Sentry giám sát hoạt động của AI agent

Bên cạnh OpenShell, Nvidia giới thiệu Sentry, công cụ giám sát hoạt động của AI agent được triển khai trên chip mạng thay vì CPU hoặc GPU.

Thiết kế này nhằm tạo thêm một lớp kiểm soát độc lập với môi trường mà AI agent đang hoạt động. Sentry có thể theo dõi hành vi của agent và giúp phát hiện những hoạt động vượt quá phạm vi được cho phép.

Phó chủ tịch Enterprise AI của Nvidia, Justin Boitano, cho rằng các biện pháp bảo vệ ở cấp mô hình là chưa đủ để kiểm soát hoàn toàn những gì AI agent có thể truy cập và thực hiện. Vì vậy, Nvidia đang hướng tới cách tiếp cận bảo mật nhiều lớp, kết hợp giữa mô hình AI, phần mềm và hạ tầng tính toán.

Sau sự cố AI agent tấn công Hugging Face

Nvidia cho biết các công cụ mới có thể đã ngăn chặn một vụ tấn công nhằm vào Hugging Face, nền tảng phát triển và chia sẻ mô hình AI mà Nvidia đã mua lại với giá khoảng 13 tỷ USD.

Theo Reuters, sự cố xảy ra sau khi các AI agent của OpenAI vượt khỏi môi trường cô lập, truy cập Internet và tấn công hạ tầng của Hugging Face. Nvidia cho rằng các cơ chế kiểm soát như OpenShell có thể ngăn chặn kiểu hành vi này bằng cách hạn chế quyền truy cập của agent ngay từ cấp hạ tầng.

Hugging Face được cho là đã ghi nhận hơn 17.000 agent tấn công vào hạ tầng trong khoảng thời gian kéo dài nhiều ngày và nhiều tuần. Đây là một trong những ví dụ cho thấy rủi ro an ninh đang thay đổi khi AI agent không chỉ tạo nội dung mà còn có khả năng tự thực hiện chuỗi hành động trên Internet.

Nvidia muốn biến an toàn AI thành vấn đề kỹ thuật

Việc Nvidia tung ra nền tảng mới cũng phản ánh cách tiếp cận của công ty đối với vấn đề an toàn AI.

CEO Jensen Huang trước đó nhiều lần nhấn mạnh rằng các rủi ro an toàn AI có thể được giải quyết bằng các biện pháp kỹ thuật, thay vì chỉ dựa vào quy định. Nvidia hiện tập trung phát triển các công cụ cho phép doanh nghiệp kiểm soát AI agent thông qua những giới hạn có thể thực thi và giám sát được.

Cùng với OpenShell và Sentry, Nvidia đang xây dựng một hệ thống bảo vệ bao phủ nhiều tầng của hạ tầng AI, từ mô hình, CPU, GPU cho tới mạng lưới.

Hàng loạt tập đoàn công nghệ tham gia

Nvidia cho biết Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm và Intel nằm trong số các đối tác tham gia sáng kiến mới. Nvidia cũng hợp tác với Anthropic để tích hợp các AI agent được quản lý trên nền tảng đám mây với OpenShell.

Sự tham gia của nhiều nhà cung cấp chip, máy chủ, mạng và dịch vụ đám mây cho thấy an toàn AI agent đang trở thành vấn đề không chỉ nằm ở bản thân mô hình mà liên quan đến toàn bộ chuỗi hạ tầng AI.

Bước chuyển từ AI tạo sinh sang AI tự hành

AI agent được kỳ vọng sẽ trở thành thế hệ ứng dụng tiếp theo sau AI tạo sinh. Thay vì chỉ trả lời câu hỏi hoặc tạo nội dung theo yêu cầu, agent có thể tự lập kế hoạch, gọi công cụ, truy cập dữ liệu và thực hiện nhiều hành động liên tiếp để hoàn thành một nhiệm vụ.

Tuy nhiên, khả năng tự hành cũng làm gia tăng rủi ro. Một AI agent được cấp quyền truy cập Internet, hệ thống doanh nghiệp hoặc mã nguồn có thể gây ra hậu quả lớn hơn nhiều so với một chatbot chỉ tạo văn bản.

Với Open Agent Safety Platform, Nvidia đang đặt vấn đề kiểm soát quyền hạn và hành vi của AI agent ngay trong hạ tầng tính toán, thay vì chỉ trông chờ vào việc mô hình tự tuân thủ các quy tắc an toàn.

Đây có thể trở thành một lớp hạ tầng mới của ngành AI khi các doanh nghiệp chuyển từ thử nghiệm chatbot sang triển khai hàng loạt AI agent có khả năng tự thực hiện công việc trong môi trường thực tế.

OpenAI mở rộng điều tra hành vi bất thường của AI agent sau hàng loạt sự cố Vietnet24h - OpenAI đang tiến hành một cuộc rà soát quy mô lớn đối với hoạt động của các AI agent sau khi phát hiện thêm nhiều trường hợp hệ thống có hành vi bất thường hoặc vượt ngoài phạm vi được phép. Động thái diễn ra sau sự cố các agent của OpenAI xâm nhập nền tảng Hugging Face hồi tháng 7 và những phát hiện mới về việc truy cập các hệ thống bên ngoài cũng như phát tán dữ liệu trong quá trình nghiên cứu.
Meta đẩy mạnh Muse, đưa AI tác nhân trở thành trợ lý cá nhân có thể tự hành động Vietnet24h - Meta đang đặt cược mạnh vào Muse – trợ lý AI cá nhân có khả năng tự thực hiện các công việc thay người dùng, từ gửi email, đặt lịch, mua sắm đến xử lý các tác vụ trên Internet. Động thái này cho thấy cuộc đua AI đang chuyển dần từ các chatbot trả lời câu hỏi sang những “AI tác nhân” có khả năng lập kế hoạch và trực tiếp hành động.
Tin khác cùng chuyên mục
Tin đọc nhiều
Tầm nhìn chính sách
Nhật Bản tranh luận về việc cấm sách giáo khoa số và AI trong lớp học Vietnet24h - Trong bối cảnh công nghệ số và trí tuệ nhân tạo (AI) ngày càng hiện diện sâu rộng trong giáo dục, việc có nên hạn chế hoặc cấm sử dụng sách giáo khoa điện tử và AI trong lớp học đang trở thành vấn đề cần được xem xét nghiêm túc.
Ông Trump tuyên bố thành lập lực lượng đặc nhiệm về trí tuệ nhân tạo, bổ nhiệm lãnh đạo AI Vietnet24h - Tổng thống Mỹ Donald Trump ngày 19/9 tuyên bố sẽ thành lập một lực lượng đặc nhiệm về trí tuệ nhân tạo (AI) và bổ nhiệm một cố vấn cấp cao phụ trách lĩnh vực này, trong bối cảnh Washington đang gia tăng tranh luận về tốc độ phát triển cũng như những rủi ro của AI.
AI và trung tâm dữ liệu trở thành tâm điểm tranh luận tại Washington Vietnet24h - Làn sóng đầu tư trí tuệ nhân tạo (AI) và sự bùng nổ xây dựng các trung tâm dữ liệu đang trở thành vấn đề chính sách ngày càng đáng chú ý tại Mỹ, khi các nhà lập pháp đồng thời phải cân nhắc giữa thúc đẩy đổi mới công nghệ, bảo đảm an toàn AI và hạn chế tác động lên hệ thống điện cũng như người tiêu dùng.
Trung Quốc bác lời kêu gọi giảm tốc AI trước thềm cuộc gặp Trump - Tập Cận Bình Vietnet24h - Trung Quốc đang bác bỏ những lời kêu gọi từ một số lãnh đạo ngành công nghệ Mỹ về việc làm chậm tốc độ phát triển trí tuệ nhân tạo (AI), trong bối cảnh AI ngày càng trở thành một vấn đề chiến lược trong quan hệ Mỹ - Trung.
Hàn Quốc sẽ cung cấp miễn phí các tác nhân AI cho toàn bộ người dân thông qua ứng dụng nhắn tin và tin nhắn văn bản Vietnet24h - Hàn Quốc sẽ triển khai các dịch vụ trí tuệ nhân tạo (AI) có khả năng tự chủ hành động (agentic AI) miễn phí cho toàn bộ người dân vào cuối năm nay, cho phép người dùng sở hữu các "tác nhân AI" (AI agent) có thể thực hiện những công việc thực tế như đặt chỗ và thanh toán thông qua ứng dụng nhắn tin di động, cuộc gọi điện thoại và tin nhắn văn bản.
ChatGPT trở thành chatbot AI đầu tiên đối mặt với các quy định nghiêm ngặt hơn của EU Vietnet24h - ChatGPT sẽ phải tuân thủ các quy tắc an toàn nghiêm ngặt hơn sau khi EU đưa dịch vụ này vào danh sách các dịch vụ kỹ thuật số chịu sự giám sát pháp lý chặt chẽ hơn vào thứ Hai; đây là trường hợp đầu tiên một chatbot AI bị xếp vào diện này.
Việt Nam - Singapore hướng tới đối tác công nghệ chiến lược hàng đầu ASEAN Vietnet24h - Việt Nam và Singapore thống nhất tăng cường kết nối công nghệ, thúc đẩy đồng nghiên cứu, đồng phát triển trong các lĩnh vực như bán dẫn, trí tuệ nhân tạo (AI), công nghệ lượng tử, công nghệ sinh học và sản xuất tiên tiến, hướng tới trở thành những đối tác công nghệ chiến lược hàng đầu Đông Nam Á.
Mỹ tuyên bố áp thuế 12,5% đối với Hàn Quốc và 59 nước khác vì lo ngại về lao động cưỡng bức Vietnet24h - Hôm thứ Năm, chính quyền của Tổng thống Mỹ Donald Trump đã công bố quyết định cuối cùng về việc áp thuế mới lên tới 12,5% đối với Hàn Quốc, Nhật Bản và 58 đối tác thương mại khác do lo ngại về vấn nạn lao động cưỡng bức.
Mục tiêu 50.000 nhân lực bán dẫn đến năm 2030: Tham vọng lớn nhưng không còn là lựa chọn Vietnet24h - Việc Viettel công bố cần tới 1.000 nhân sự để vận hành nhà máy chế tạo chip bán dẫn đầu tiên của Việt Nam, trong đó có hơn 300 tiến sĩ, đã cho thấy một thực tế: mục tiêu đào tạo 50.000 nhân lực bán dẫn đến năm 2030 không phải là con số "quá lớn", mà có thể vẫn chưa đủ nếu Việt Nam muốn trở thành mắt xích quan trọng trong chuỗi cung ứng bán dẫn toàn cầu.
Doanh nghiệp nghiên cứu công nghệ chiến lược được hỗ trợ tới 100% lãi vay, miễn thuế và tài trợ toàn bộ kinh phí Vietnet24h - Nghị định 260/2026/NĐ-CP vừa có hiệu lực đã bổ sung hàng loạt cơ chế ưu đãi dành cho hoạt động nghiên cứu và phát triển (R&D) công nghệ chiến lược. Đáng chú ý, doanh nghiệp có thể được Nhà nước hỗ trợ 100% lãi suất vay trong tối đa 5 năm, đồng thời được tài trợ toàn bộ kinh phí đối với các nhiệm vụ nghiên cứu do Nhà nước đặt hàng.
Tầm nhìn công nghệ
SK hynix dự báo hiệu suất cơ sở hạ tầng AI sẽ tăng gấp 20 lần vào năm 2030 Vietnet24h - Hôm thứ Tư, SK hynix dự báo rằng quy mô hiệu năng của cơ sở hạ tầng trí tuệ nhân tạo (AI) sẽ tăng khoảng 20 lần vào năm 2030, nhờ nhu cầu ngày càng tăng nhanh đối với hoạt động suy luận (inference) của AI.
KAIST định hình chiến lược AI vật lý, hướng robot vượt khỏi hình hài người máy Vietnet24h - Viện Khoa học và Công nghệ tiên tiến Hàn Quốc (KAIST) đang thúc đẩy chiến lược phát triển trí tuệ nhân tạo vật lý (Physical AI), tập trung xây dựng các công nghệ nền tảng có thể ứng dụng trên nhiều loại robot và trong nhiều ngành công nghiệp, thay vì chỉ chạy đua chế tạo robot hình người.
Samsung trình diễn bộ nhớ AI thế hệ mới tại OCP, làm nổi bật quan hệ đối tác với AMD Vietnet24h - Samsung Electronics đã giới thiệu các công nghệ bộ nhớ và lưu trữ thế hệ mới tại Hội nghị thượng đỉnh toàn cầu OCP 2026 diễn ra ở Hoa Kỳ vào thứ Hai (giờ địa phương), qua đó làm nổi bật nỗ lực của hãng trong việc cải thiện cơ sở hạ tầng trí tuệ nhân tạo (AI) và mở rộng hợp tác với các công ty công nghệ toàn cầu.
CEO TikTok dự báo AI có thể tạo đột phá khoa học trong 2–3 năm tới Vietnet24h - CEO TikTok Shou Zi Chew nhận định trí tuệ nhân tạo (AI) có thể mở ra những đột phá khoa học lớn trong vòng hai đến ba năm tới, đặc biệt trong các lĩnh vực vật lý, công nghệ sinh học, hóa học và khoa học vật liệu.
Đổi mới sáng tạo phải đi hết hành trình từ ý tưởng đến thị trường Vietnet24h - Từ phát triển năng lực R&D của kỹ sư Việt Nam, xây dựng hệ sinh thái khởi nghiệp đến đưa chip “Make in Vietnam” ra thị trường, những câu chuyện được chia sẻ tại Ngày hội Đổi mới sáng tạo Quốc gia 2026 cho thấy đổi mới sáng tạo chỉ thực sự tạo ra giá trị khi công nghệ đi được trọn hành trình từ ý tưởng đến sản phẩm và khách hàng.
SK hynix cân nhắc sản xuất chip nhớ tại Mỹ, bước chuyển mới trong chuỗi cung ứng bán dẫn AI Vietnet24h - SK hynix đang xem xét mở rộng sản xuất chip nhớ tại Mỹ, trong đó có khả năng sử dụng một phần cơ sở sản xuất của Intel tại Ohio hoặc thành lập liên doanh với Intel và các khách hàng điện toán đám mây.
SpaceX chuẩn bị đưa Starship lên quỹ đạo lần đầu tiên Vietnet24h - SpaceX đang chuẩn bị thực hiện chuyến bay thử thứ 14 của Starship, với mục tiêu lần đầu tiên đưa toàn bộ hệ thống tên lửa khổng lồ lên quỹ đạo Trái đất và triển khai 26 vệ tinh Starlink thế hệ mới.
Meta đẩy mạnh Muse, đưa AI tác nhân trở thành trợ lý cá nhân có thể tự hành động Vietnet24h - Meta đang đặt cược mạnh vào Muse – trợ lý AI cá nhân có khả năng tự thực hiện các công việc thay người dùng, từ gửi email, đặt lịch, mua sắm đến xử lý các tác vụ trên Internet. Động thái này cho thấy cuộc đua AI đang chuyển dần từ các chatbot trả lời câu hỏi sang những “AI tác nhân” có khả năng lập kế hoạch và trực tiếp hành động.
Lãnh đạo OpenAI và Anthropic kêu gọi xây dựng quy tắc toàn cầu về an toàn AI Vietnet24h - Tại Hội đồng Bảo an Liên Hợp Quốc, CEO OpenAI Sam Altman và CEO Anthropic Dario Amodei cảnh báo những rủi ro ngày càng lớn từ trí tuệ nhân tạo, đồng thời kêu gọi các quốc gia phối hợp xây dựng các tiêu chuẩn chung để bảo đảm AI phát triển an toàn.
OpenAI mở rộng dòng GPT-6 với Sol và Luna, giảm một nửa chi phí sử dụng AI Vietnet24h - OpenAI vừa mở rộng dòng mô hình GPT-6 với hai phiên bản GPT-6 Sol và GPT-6 Luna, có mức giá API thấp hơn 50% so với mức giá khuyến mại của các phiên bản tiền nhiệm.
Môi trường & Năng lượng
TEPCO dùng AI giảm 80% khối lượng hồ sơ phục vụ tái khởi động nhà máy điện hạt nhân Vietnet24h - Tokyo Electric Power Company Holdings (TEPCO) đang thử nghiệm hệ thống AI tạo sinh hỗ trợ lập và kiểm tra hồ sơ cấp phép hạt nhân, hướng tới giảm khoảng 80% khối lượng công việc trong quá trình chuẩn bị tài liệu, giữa lúc Nhật Bản đối mặt với tình trạng thiếu nhân lực kỹ thuật chuyên môn.
AI, robot và drone được huy động cho chiến dịch làm sạch nhà máy hạt nhân Fukushima Vietnet24h - Nhật Bản đang đẩy mạnh ứng dụng trí tuệ nhân tạo (AI), robot và máy bay không người lái trong quá trình tháo dỡ Nhà máy điện hạt nhân Fukushima Daiichi, nhằm giúp con người tiếp cận những khu vực có mức phóng xạ quá cao và chuẩn bị cho nhiệm vụ khó khăn nhất: thu hồi nhiên liệu nóng chảy còn sót lại bên trong các lò phản ứng.
Nhật Bản tăng hỗ trợ tài chính cho khai thác đất hiếm, hướng tới giảm phụ thuộc Trung Quốc Vietnet24h - Nhật Bản đang lên kế hoạch mở rộng hỗ trợ tài chính dài hạn cho các dự án khai thác đất hiếm, đồng thời hỗ trợ phát triển công nghệ khai thác và chế biến, trong nỗ lực xây dựng nguồn cung ổn định hơn và giảm sự phụ thuộc vào Trung Quốc.
AMD tăng gấp bốn lần hiệu quả sử dụng năng lượng ở quy mô tủ rack Vietnet24h - Nhà sản xuất chip cho biết họ đang đi trước tiến độ hướng tới mục tiêu cải thiện hiệu suất gấp 20 lần vào năm 2030.
LG Energy Solution sẽ cung cấp pin cho dự án lưu trữ năng lượng mặt trời lớn nhất của Google Vietnet24h - Hệ thống lưu trữ năng lượng (ESS) sản xuất tại Bắc Mỹ nhấn mạnh vai trò ngày càng tăng của nhà sản xuất pin Hàn Quốc trong cơ sở hạ tầng năng lượng dựa trên trí tuệ nhân tạo (AI).
New York xem xét hạn chế trung tâm dữ liệu AI dùng nhiên liệu hóa thạch: Cuộc đua AI đối mặt bài toán năng lượng Vietnet24h - Làn sóng đầu tư vào hạ tầng trí tuệ nhân tạo (AI) đang tạo ra nhu cầu điện năng chưa từng có, buộc nhiều địa phương phải cân bằng giữa phát triển công nghệ và mục tiêu giảm phát thải.
Honda chuyển hướng sang sản xuất pin cho trung tâm dữ liệu AI tại Mỹ sau khi thu hẹp kế hoạch xe điện Vietnet24h - Honda đã bắt đầu sản xuất pin lưu trữ cho các trung tâm dữ liệu AI tại Mỹ, tận dụng năng lực của nhà máy vốn được xây dựng để phục vụ xe điện. Động thái này diễn ra sau khi hãng điều chỉnh chiến lược điện hóa và cho thấy AI đang trở thành động lực tăng trưởng mới của ngành công nghiệp pin.
G7 thành lập liên minh khoáng sản quan trọng và nền tảng nhằm giảm sự phụ thuộc vào Trung Quốc Vietnet24h - Các nhà lãnh đạo Nhóm G7 đã nhất trí vào thứ Tư về việc tăng cường phối hợp để giảm sự phụ thuộc của các nước họ vào Trung Quốc đối với các khoáng sản quan trọng.
Nhà máy linh kiện iPhone của Tata tại Ấn Độ đối mặt cáo buộc gây ô nhiễm nguồn nước nông nghiệp Vietnet24h - Một nhà máy sản xuất linh kiện iPhone của Tata Electronics tại bang Tamil Nadu, miền Nam Ấn Độ, đang đối mặt với nguy cơ bị đình chỉ hoạt động sau khi cơ quan quản lý môi trường địa phương cáo buộc doanh nghiệp này xả nước thải gây ô nhiễm nguồn nước ngầm phục vụ sản xuất nông nghiệp của người dân xung quanh.
Foxconn đầu tư mạnh vào năng lượng tái tạo tại Việt Nam, bảo đảm nguồn điện xanh cho chuỗi cung ứng công nghệ Vietnet24h - Trong bối cảnh các tập đoàn công nghệ toàn cầu ngày càng đặt ra yêu cầu khắt khe về phát triển bền vững và giảm phát thải carbon, Foxconn – đối tác sản xuất điện tử lớn nhất của Apple và là một trong những nhà sản xuất máy chủ AI hàng đầu thế giới – đang đẩy mạnh chiến lược năng lượng xanh tại Việt Nam thông qua một dự án đầu tư quy mô lớn vào điện mặt trời, điện gió và hệ thống lưu trữ năng lượng.

TẠP CHÍ ĐIỆN TỬ VIETNET24H
Giấy phép hoạt động báo điện tử số 92/GP - BTTTT Hà Nội, ngày 06/03/2017
Cơ quan chủ quản: Hiệp hội Doanh nghiệp Điện tử Việt Nam
Tổng biên tập: Đỗ Thị Thúy Hương
Tòa soạn: 11B Phan Huy Chú, Phường Cửa Nam, Hà Nội, Việt Nam
Điện thoại:: (+84) 028 3516 7176
Email: tinbaivietnet24h@gmail.com. Website: www.vietnet24h.vn
Mọi hành động sử dụng nội dung đăng tải trên Tạp chí Điện tử tại địa chỉ www.vietnet24h.vn phải có sự đồng ý bằng văn bản.

Đơn vị quảng cáo: Công ty cổ phần Artemis Media Việt Nam
Điện thoại: (+84) 028 3516 7176
Hotline Ms. Loan: 0907 534 577