Công ty khởi nghiệp nghiên cứu trí tuệ nhân tạo OpenAI hôm thứ Ba (31/1) đã giới thiệu một công cụ được thiết kế để tìm hiểu xem văn bản do con người tạo ra hay được viết bởi máy tính.
Việc phát hành diễn ra hai tháng sau khi OpenAI thu hút sự chú ý của công chúng khi giới thiệu ChatGPT, một chatbot tạo ra văn bản có vẻ như được viết bởi một người để đáp lại lời nhắc của một người. Sau làn sóng chú ý, tuần trước Microsoft đã công bố khoản đầu tư hàng tỷ đô la vào OpenAI và cho biết họ sẽ kết hợp các mô hình AI của công ty khởi nghiệp này vào các sản phẩm dành cho người tiêu dùng và doanh nghiệp của mình.
Các trường học đã nhanh chóng hạn chế việc sử dụng ChatGPT vì lo ngại phần mềm này có thể ảnh hưởng đến việc học. Sam Altman, Giám đốc điều hành của OpenAI, cho biết giáo dục đã thay đổi trong quá khứ sau khi công nghệ như máy tính xuất hiện, nhưng ông cũng cho biết có thể có nhiều cách để công ty giúp giáo viên phát hiện văn bản do AI viết.
Nhân viên công ty Jan Hendrik Kirchner, Lama Ahmad, Scott Aaronson và Jan Leike đã viết trong một bài đăng trên blog rằng công cụ mới của OpenAI có thể mắc lỗi và vẫn đang trong quá trình hoàn thiện, đồng thời lưu ý rằng OpenAI muốn nhận phản hồi về công cụ phân loại này từ phụ huynh và giáo viên.
“Trong các đánh giá của chúng tôi về một 'bộ thử thách' các văn bản tiếng Anh, trình phân loại của chúng tôi xác định chính xác 26% văn bản do AI viết (các kết quả tích cực thực sự) là 'có khả năng là do AI viết', trong khi đánh dấu sai văn bản do con người viết là do AI viết 9%. của thời gian (dương tính giả), ”các nhân viên của OpenAI đã viết.
Đây không phải là nỗ lực đầu tiên để tìm hiểu xem văn bản có đến từ máy hay không. Edward Tian, sinh viên Đại học Princeton hồi đầu tháng này đã công bố một công cụ có tên GPTZero, lưu ý trên trang web của công cụ rằng nó được tạo ra cho các nhà giáo dục. Bản thân OpenAI đã phát hành một máy dò vào năm 2019 cùng với một mô hình ngôn ngữ lớn, hay LLM, kém phức tạp hơn so với cốt lõi của ChatGPT. Các nhân viên đã viết rằng phiên bản mới được chuẩn bị tốt hơn để xử lý văn bản từ các hệ thống AI gần đây.
Công cụ mới không mạnh trong việc phân tích các đầu vào chứa ít hơn 1.000 ký tự và OpenAI không khuyến nghị sử dụng nó trên các ngôn ngữ khác ngoài tiếng Anh. Ngoài ra, văn bản từ AI có thể được cập nhật một chút để ngăn bộ phân loại xác định chính xác rằng đó chủ yếu không phải là tác phẩm của con người, các nhân viên viết.
Ngay cả vào năm 2019, OpenAI đã nói rõ rằng việc xác định văn bản tổng hợp không phải là nhiệm vụ dễ dàng. Nó có ý định tiếp tục theo đuổi thử thách.
Hendrik Kirchner, Ahmad, Aaronson và Leike viết: “Công việc của chúng tôi trong việc phát hiện văn bản do AI tạo ra sẽ tiếp tục và chúng tôi hy vọng sẽ chia sẻ các phương pháp cải tiến trong tương lai.