Công cụ của OpenAI ngăn chặn sinh viên gian lận bằng ChatGPT

Trước cả khi ra mắt mô hình ngôn ngữ ChatGPT-4o, OpenAI đã từng phát hành Classifier - công cụ phát hiện nội dung AI vào tháng 01 năm 2023. Tuy nhiên, công cụ này chưa thực sự chính xác.

Trong một bài kiểm tra, Classifier vẫn xác định nhầm tới 26% văn bản do AI tạo ra là của con người. Ngược lại, công cụ cũng nhận định nhầm 9% văn bản do con người viết là văn bản được sản xuất bởi AI.

Công cụ mới của OpenAI được cho là hứa hẹn hơn khi được phát triển dựa trên siêu dữ liệu. Trong một bài blog, OpenAI cho biết đã đạt những thành quả mới với phương pháp này.

Theo đó, siêu dữ liệu có thể giúp nhận diện văn bản AI mà không bị thao túng dễ dàng như phương pháp watermarking truyền thống. Vì phương pháp watermarking có thể bị phá bằng cách sử dụng công cụ AI khác để sửa đổi văn bản.

Siêu dữ liệu nhận biết chính xác nội dung AI

OpenAI cho biết siêu dữ liệu được ký bằng mật mã nên không dẫn đến kết quả giả. Công ty kỳ vọng siêu dữ liệu sẽ quan trọng hơn khi lượng văn bản do ChatGPT và các công cụ AI khác tạo ra tăng lên chóng mặt.

Hiện OpenAI đang khám phá việc áp dụng siêu dữ liệu để phân biệt nội dung AI và vẫn còn quá sớm để triển khai rộng rãi.

(Theo PCworld)