Theo Guardian đưa tin, Hiệp hội Rối loạn Ăn uống Quốc gia Mỹ (Neda) đã sa thải chatbot AI mang tên Tessa sau khi có người dùng đưa ra báo cáo chatbot này đang đưa ra lời khuyên có hại cho con người.

Trong một bài đăng trên trang web của tổ chức về chatbot đã bị gỡ xuống, nhà tâm lý học tại Đại học Washington ở St Louis (Mỹ) Ellen Fitzsimmons-Craft nói rằng, “Tessa” được coi là một giải pháp để điều trị chứng rối loạn ăn uống.

Thời gian gian qua, Neda đã hình thành đường dây cho phép người dùng gọi điện, nhắn tin với các tình nguyện viên, cung cấp, hỗ trợ nguồn lực khi họ gặp lo lắng về chứng rối loạn ăn uống.

Đồng thời, để giảm bớt gánh nặng cho nhiên viên, Nada cũng tiến hành đưa Tessa vào hoạt động trong đường dây tư vấn này. Nhưng hiệp hội chưa bao giờ có ý định sử dụng Tessa để thay thế nhân viên đường dây trợ giúp.

Tuy nhiên, sau khi đại diện Nada đưa ra thông báo, chatbot AI của họ lại bất ngờ gặp rắc rối lớn khi đưa ra lời khuyên có hại cho con người.

Hiện tại, Neda đã làm việc với nhiều nhà nghiên cứu tâm lý học và công ty phát triển chatbot AI, Cass AI để làm rõ nguyên nhân vụ việc.

Tháng 11/2022, ChatGPT của Open AI dưới sự hậu thuẫn của Microsoft ra mắt thị trường công nghệ đã tạo nên cơn sốt về sản phẩm trí tuệ nhân tạo.

Nhiều công ty công nghệ trên thế giới như Google cũng đang chạy đua với thời gian để hoàn thiện botchat AI do mình sản xuất.

Tuy nhiên, những sản phẩm AI này cũng gây ra nhiều lo ngại khi thường xuyên trả lời sai hoặc có nguy cơ bị lợi dụng cho mục đích xấu.