ChatGPT có thể bất ngờ bắt chước giọng nói

Tuần trước, OpenAI đã giải thích những gì GPT-4o có thể và không thể làm, bao gồm khả năng rất khó xảy ra nhưng vẫn có thật của Chế độ giọng nói nâng cao.

Chế độ này cho phép người dùng tạo cuộc trò chuyện bằng giọng nói với chatbot AI - giúp các tương tác trở nên tự nhiên và dễ tiếp cận hơn. Nhưng trong một số trường hợp, ChatGPT đã mô phỏng giọng nói của người dùng mà không có sự đồng ý.

Trong quá trình thử nghiệm, Chế độ giọng nói nâng cao của mô hình GPT-4o đã gặp lỗi khi đầu vào âm thanh nhiễu loạn khiến AI bắt chước giọng người dùng. Lời nhắc hệ thống thường hướng dẫn AI sử dụng giọng nói được ủy quyền, nhưng đôi khi AI có thể tạo ra các giọng khác, bao gồm cả giọng của người dùng.

Việc AI bắt chước giọng người dùng là sự cố 

OpenAI đã triển khai các biện pháp bảo vệ để ngăn chặn việc AI vô tình bắt chước giọng nói, như sử dụng bộ phân loại đầu ra để phát hiện và ngăn chặn các sai lệch giọng nói không mong muốn.

Tuy nhiên, sự cố này cho thấy công nghệ AI phát triển nhanh chóng và các biện pháp bảo vệ phải liên tục được nâng cấp để đảm bảo an toàn trong tương tác giữa con người và máy móc.

(Theo Techradar)