Tầm nhìn công nghệ
Nguy cơ đầu độc dữ liệu đe dọa sự phát triển của AI tạo sinh
Lãng Nhân - Thứ Ba, 19/03/2024 1:39 CH
Vietnet24h - Các mô hình AI phụ thuộc vào dữ liệu để học tập, nhưng liệu dữ liệu đó có đáng tin cậy? Nguy cơ đầu độc dữ liệu đặt ra thách thức lớn cho ngành AI.
Trong thời đại công nghệ thông tin bùng nổ, một mối đe dọa mới đang nổi lên: "Đầu độc dữ liệu". Hiện tượng này không chỉ làm suy giảm chất lượng của trí tuệ nhân tạo (AI) mà còn tiềm ẩn nguy cơ gây ra những hậu quả nghiêm trọng khác. Điều này đòi hỏi sự chung tay của cả cộng đồng khoa học và các nhà lập pháp để tìm kiếm giải pháp toàn diện.
 
Khi AI ngày càng trở nên phổ biến, các chuyên gia đang đối mặt với thách thức lớn từ các cuộc tấn công mục đích xấu, nhằm cài cắm thông tin sai lệch vào dữ liệu huấn luyện của AI. Điều này có thể dẫn đến việc phát tán tin giả, làm giảm hiệu quả của các chatbot và thậm chí khiến AI thực hiện hành động có hại.
 
Các mô hình AI, đặc biệt là những mô hình phụ thuộc vào dữ liệu Internet, đang đứng trước nguy cơ bị tấn công. Sự phụ thuộc vào nguồn dữ liệu mở, thay vì dữ liệu được kiểm soát chặt chẽ, tạo ra thách thức trong việc phát hiện và loại bỏ thông tin độc hại. 
 
Chỉ một lượng nhỏ thông tin sai lệch cũng có thể ảnh hưởng lớn đến kết quả của AI. Florian Tramer, trợ lý giảng viên tại Viện Công nghệ Liên bang Zurich, cảnh báo: "Internet không phải lúc nào cũng là nguồn thông tin đáng tin cậy." Ông và nhóm nghiên cứu đã tập trung vào Wikipedia để hiểu rõ hơn về mức độ ảnh hưởng của việc đầu độc dữ liệu.
 
Wikimedia Foundation, qua lời của Tajh Taylor, Phó chủ tịch phụ trách khoa học dữ liệu và kỹ thuật, đã xây dựng quy trình để giảm thiểu mối đe dọa này. OpenAI cũng khẳng định họ đang cải thiện các biện pháp an toàn, dựa trên cách người dùng tương tác với sản phẩm của mình.
 
David Harris, giảng viên tại Trường Kinh doanh Haas, Đại học California tại Berkeley, nhấn mạnh tầm quan trọng của việc có cơ chế lập pháp đối phó với tình hình. Ông chỉ ra rằng Đạo luật AI mới của EU đã đề cập đến vấn đề này, yêu cầu các nhà phát triển AI triển khai biện pháp kiểm soát an ninh.
Apostol Vassilev, trưởng nhóm nghiên cứu an toàn máy tính tại Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ, cũng nhấn mạnh tầm quan trọng của việc hoàn thiện bộ luật và quy định, coi đó là yếu tố then chốt để khuyến khích doanh nghiệp áp dụng AI một cách an toàn.
 
Nguy cơ từ việc sử dụng AI để xử lý dữ liệu nhạy cảm là điều không thể xem nhẹ. Các chuyên gia đánh giá rằng, nếu không có biện pháp phòng vệ đúng đắn, tình hình có thể trở nên nguy hiểm khi AI ngày càng được ứng dụng rộng rãi. Đây là lời cảnh báo cho tất cả các tổ chức và cá nhân khi tiếp xúc và sử dụng AI trong thời đại số.
 
Trong một bước tiến đột phá, các nhà nghiên cứu tại Đại học Chicago dưới sự dẫn dắt của Giáo sư Ben Zhao đã phát triển một công cụ mới mang tên Nightshade, nhằm bảo vệ quyền sở hữu trí tuệ trong kỷ nguyên số. Nightshade, một phần mềm độc đáo, được thiết kế để ngăn chặn việc sử dụng trái phép các tác phẩm nghệ thuật và sáng tạo trong quá trình huấn luyện các mô hình trí tuệ nhân tạo (AI).

Giáo sư Zhao và nhóm của ông đã chứng minh khả năng của Nightshade trong việc chèn các chi tiết vô hình vào hình ảnh, mà khi được sử dụng để huấn luyện AI, sẽ làm giảm đáng kể chất lượng của mô hình. Theo ông Zhao, chỉ cần 50 bức ảnh đã được chỉnh sửa bởi Nightshade có thể gây ra sự cố lớn cho mô hình AI tạo ảnh, từ đó cung cấp một lớp bảo vệ mạnh mẽ chống lại việc vi phạm bản quyền. Đây được coi là một chiến thuật phòng thủ hiệu quả, có tiềm năng tạo ra những hậu quả nghiêm trọng cho những ai cố tình vi phạm quyền sở hữu trí tuệ của người khác.
Meta đang xây dựng một mô hình AI khổng lồ để cung cấp năng lượng cho 'toàn bộ hệ sinh thái video' của họ Vietnet24h - Tom Alison, người đứng đầu Facebook, cho biết hôm qua, thứ Tư rằng, công ty đang nghiên cứu một mô hình AI để “cung cấp năng lượng cho toàn bộ hệ sinh thái video của chúng tôi”.
FWD hợp tác với Microsoft mang trải nghiệm bảo hiểm dựa trên AI Vietnet24h - Theo thoả thuận hợp tác, FWD sẽ đẩy mạnh ứng dụng các sáng kiến AI tạo sinh thông qua dịch vụ Azure OpenAI và các đổi mới sáng tạo khác dành cho doanh nghiệp của Microsoft.
Tin khác cùng chuyên mục
Tin đọc nhiều
Khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và mạng xã hội Vietnet24h - Theo báo cáo của Ủy ban giáo dục Hạ viện Anh, việc khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và tăng độ tuổi tối thiểu để mở tài khoản mạng xã hội lên 16 nhằm giảm tác động tiêu cực của công nghệ đối với sức khỏe và giáo dục của thanh thiếu niên.
Hội nghị thượng đỉnh AI toàn cầu lần thứ hai đảm bảo các cam kết an toàn từ các công ty Vietnet24h - Mười sáu công ty đi đầu trong việc phát triển Trí tuệ nhân tạo đã cam kết vào thứ Ba tại một cuộc họp toàn cầu để phát triển công nghệ này một cách an toàn vào thời điểm các cơ quan quản lý đang cố gắng theo kịp sự đổi mới nhanh chóng và những rủi ro mới nổi.
Hàn Quốc thiết lập hệ thống bản quyền nội dung AI vào cuối năm nay Vietnet24h - Theo Bộ Khoa học và CNTT Hàn Quốc hôm nay thứ Ba (21/5) cho biết, Chính phủ Hàn Quốc có kế hoạch thiết lập các giao thức kỹ thuật số mới bằng cách cải tiến hệ thống bản quyền cho nội dung do AI tạo ra và giải quyết các tin tức giả mạo do deepfake tạo ra.
Hàn Quốc chuẩn bị gói hỗ trợ trị giá hơn 7 tỷ USD cho ngành công nghiệp chip Vietnet24h - Tổng thống Hàn Quốc Yoon Suk Yeol tuyên bố sẽ dồn mọi nguồn lực có thể để giành chiến thắng trong "cuộc chiến" về chip, hứa hẹn lợi ích về thuế cho các khoản đầu tư.
Samsung có kế hoạch tăng thêm 1 tỷ USD đầu tư vào Việt Nam hàng năm Vietnet24h - Giám đốc tài chính (CFO) của Samsung Electronics Park Hark-kyu cho biết khi gặp Thủ tướng Phạm Minh Chính tại Hà Nội hôm thứ Năm vừa qua (10/5), Samsung có kế hoạch bổ sung khoảng 1 tỷ USD vào đầu tư vào Việt Nam hàng năm.
Thắt chặt quản lý thuê bao di động, đẩy mạnh phòng chống SIM rác Vietnet24h - Các biện pháp quản lý thuê bao di động chặt chẽ hơn được đưa ra nhằm phòng chống SIM rác, đảm bảo an ninh mạng và quyền lợi người dùng.
Nhật Bản phê duyệt khoản trợ cấp bổ sung 3,9 tỷ USD cho công ty chip Rapidus để đáp ứng các mục tiêu bán dẫn Vietnet24h - Nhật Bản hôm thứ Ba thông báo họ đã phê duyệt khoản trợ cấp bổ sung lên tới 590 tỷ yên (3,89 tỷ USD) cho nhà sản xuất chip Rapidus Corporation.
Mỹ cập nhật hạn chế xuất khẩu chip và công cụ AI sang Trung Quốc Vietnet24h - Bộ Thương mại Hoa Kỳ, cơ quan giám sát các biện pháp kiểm soát xuất khẩu, cho biết họ có kế hoạch tiếp tục cập nhật các hạn chế đối với việc vận chuyển công nghệ sang Trung Quốc khi tìm cách củng cố và điều chỉnh các biện pháp này.
Ông Tập nói với Thủ tướng Hà Lan: Không thế lực nào có thể ngăn cản bước tiến công nghệ của Trung Quốc Vietnet24h - Chủ tịch Trung Quốc Tập Cận Bình nói với Thủ tướng Hà Lan Mark Rutte hôm thứ Tư (27/3) rằng, không có thế lực nào có thể ngăn cản tốc độ tiến bộ công nghệ của Trung Quốc.
Mỹ cân nhắc cấm 4 nhà sản xuất chip Trung Quốc liên kết với Huawei Vietnet24h - Bốn nhà sản xuất chip Trung Quốc có khả năng bị đưa vào danh sách đen vì có liên hệ với Huawei.
Bộ Khoa học Hàn Quốc mở phòng thí nghiệm nghiên cứu AI chung với Đại học New York Vietnet24h - Hôm nay, thứ Ba (28/5), Bộ khoa học Hàn Quốc cho biết, họ sẽ thành lập một phòng thí nghiệm nghiên cứu trí tuệ nhân tạo (AI) chung với Đại học New York (NYU).
Trung Quốc hỗ trợ ngành công nghiệp bán dẫn thông qua quỹ đầu tư mới Vietnet24h - Trung Quốc đã thành lập một quỹ đầu tư với vốn đăng ký lên đến 344 tỷ nhân dân tệ (tương đương 47,5 tỷ USD) nhằm hỗ trợ ngành công nghiệp bán dẫn. Quỹ này được gọi là Quỹ Đầu tư Công nghiệp Mạch tích hợp Quốc gia Trung Quốc và đã chính thức ra mắt vào ngày 24/5, theo Reuters.
Sự phát triển của tính năng thanh toán trên Android Vietnet24h - Việc Google giới thiệu tính năng 'Nhờ người khác thanh toán hộ' cho thấy sự phát triển và đổi mới trong việc cải thiện trải nghiệm thanh toán trên nền tảng Android. Người dùng sẽ được hưởng lợi từ tính năng thuận tiện này.
Apple phát triển chip AI mới cho trung tâm dữ liệu AI đám mây Vietnet24h - Apple và TSMC đã tổ chức một cuộc họp bí mật để thảo luận về những dự án sản xuất chip độc quyền trong tương lai. Theo thông tin từ Economic Daily News, cuộc gặp này xoay quanh việc Apple đặt trước độc quyền toàn bộ dây chuyền sản xuất chip 2nm của TSMC.
AMD lên kế hoạch thành lập trung tâm R&D tại Đài Loan Vietnet24h - Chương trình hợp tác đổi mới và R&D toàn cầu của A+ bao gồm ba lĩnh vực chính – AI, chất bán dẫn thế hệ mới bao gồm IC công suất cao và tần số cao cũng như cấu trúc mạng 5G mới.
Microsoft công bố PC mới với chip AI của Qualcomm Vietnet24h - Microsoft sẽ tung ra các PC Surface mới tuân thủ tiêu chuẩn Copilot+ để chạy các mô hình trí tuệ nhân tạo.
Apple sẽ ra mắt iPhone mỏng hơn vào năm 2025 Vietnet24h - Apple đang phát triển một phiên bản iPhone mỏng hơn có khả năng ra mắt vào năm 2025, Information đưa tin vào thứ Sáu, trích dẫn ba người có kiến ​​​​thức về dự án.
Đài Loan nên sử dụng lĩnh vực bán dẫn để mở rộng 'Đổi mới bán dẫn Silicon" Vietnet24h - Người sáng lập Acer Stan Shih cho biết ngành công nghiệp vi mạch của Đài Loan nên tận dụng khả năng sản xuất chip của mình để mở rộng đổi mới liên quan và tập trung vào thị trường ứng dụng sản xuất quy mô nhỏ nhưng được sản xuất theo yêu cầu riêng.
Hon Hai, Siemens ký bản ghi nhớ về phát triển hệ sinh thái xe điện Vietnet24h - Là một phần của Biên bản ghi nhớ, nhà lắp ráp iPhone Hon Hai và Siemens sẽ hợp tác trong các quy trình sản xuất toàn cầu cho xe điện, thiết bị điện tử và công nghệ thông tin và truyền thông.
PC AI - Kết nối liền mạch, mở rộng thế giới Vietnet24h - Kết nối thế giới trong tầm tay với PC AI - nền tảng lý tưởng cho giao tiếp và cộng tác.
Tesla bị kiện vì ô nhiễm không khí từ hoạt động của nhà máy ở Fremont, California Vietnet24h - Tesla đang bị Dự án Dân chủ Môi trường khởi kiện với cáo buộc “liên tục không tuân thủ Đạo luật Không khí Sạch” tại nhà máy lắp ráp của công ty ở Fremont, California.
Samsung khởi động cuộc thi “Một Chạm Tiết Kiệm Sống Xanh” Vietnet24h - Samsung chính thức tổ chức cuộc thi “Một Chạm Tiết Kiệm Sống Xanh” trên đa nền tảng mạng xã hội Tiktok, Facebook và Instagram với thông điệp chung tay thực hiện những hành động “tiết kiệm sống xanh” mỗi ngày để tiết kiệm cho chính bạn và bảo vệ Trái Đất.
Diễn đàn Kinh tế Tuần hoàn Thế giới 2024: Biến tầm nhìn thành hành động Vietnet24h - WCEF là một trong những sự kiện hàng đầu thế giới về nền kinh tế tuần hoàn và cung cấp nền tảng để chia sẻ kiến thức và chuyên môn, xây dựng mạng lưới và quan hệ đối tác cũng như thúc đẩy quá trình chuyển đổi sang nền kinh tế tuần hoàn.
Việt Nam nâng cao vai trò tiên phong trong phát triển kinh tế xanh Vietnet24h - Đối mặt với những thách thức to lớn từ toàn cầu hóa và biến đổi khí hậu, Việt Nam đã khẳng định vai trò lãnh đạo của mình bằng cách tổ chức “Diễn đàn doanh nghiệp Việt Nam: Đẩy mạnh phát triển kinh tế xanh”, khẳng định vị thế tiên phong trong việc định hình một nền kinh tế bền vững và thân thiện với môi trường.
Ấn Độ xây dựng nhà máy năng lượng sạch trị giá 20 tỷ USD Vietnet24h - Tập đoàn năng lượng xanh Adani đang biến vùng đất cằn cỗi rộng lớn ở bang Gujarat (Ấn Độ) thành nhà máy năng lượng sạch lớn nhất thế giới.
Trung Quốc: hành trình từ "thành phố ô nhiễm" đến "kỷ nguyên không khí sạch" Vietnet24h - Trung Quốc đã chuyển đổi đáng kể để cải thiện chất lượng không khí, thúc đẩy năng lượng sạch và giảm phụ thuộc vào nhiên liệu hóa thạch, giúp Bắc Kinh không còn được biết đến là một trong những thành phố ô nhiễm nhất thế giới.
Sự khan hiếm nước đe dọa các nhà sản xuất chip và có thể đẩy giá cao hơn Vietnet24h - Trong một báo cáo hôm thứ Hai, S&P Global Ratings cho biết tình trạng thiếu nước có thể ảnh hưởng đến các công ty bán dẫn như TSMC, nhà sản xuất chip hợp đồng lớn nhất thế giới.
SK hynix tăng cường sử dụng vật liệu tái chế lên 30% vào năm 2030 Vietnet24h - SK hynix, nhà sản xuất chip nhớ lớn thứ hai thế giới, hôm thứ Ba (6/2) tuyên bố sẽ tăng tỷ lệ vật liệu được sử dụng làm vật liệu tái chế lên hơn 30% vào năm 2030.
Tesla bị khởi kiện bởi 25 quận ở California Vietnet24h - Tesla đang phải đối mặt với một vụ kiện từ 25 quận ở California với cáo buộc xử lý sai chất thải nguy hại tại các cơ sở trong bang.
Chuyển đổi xanh ngành công nghiệp với LNG - Tiến bộ và thách thức Vietnet24h - Hội thảo cung cấp các giải pháp giảm phát thải khí nhà kính trong ngành công nghiệp, chỉ ra nhiên liệu LNG là nguồn nhiên liệu hiệu quả trong quá trình này.