Theo Guardian đưa tin, Hiệp hội Rối loạn Ăn uống Quốc gia Mỹ (Neda) đã sa thải chatbot AI mang tên Tessa sau khi có người dùng đưa ra báo cáo chatbot này đang đưa ra lời khuyên có hại cho con người.

Trong một bài đăng trên trang web của tổ chức về chatbot đã bị gỡ xuống, nhà tâm lý học tại Đại học Washington ở St Louis (Mỹ) Ellen Fitzsimmons-Craft nói rằng, “Tessa” được coi là một giải pháp để điều trị chứng rối loạn ăn uống.

Trí tuệ nhân tạo đưa ra lời khuyên gây hại cho người dùng (Ảnh: Sưu tầm)

Thời gian gian qua, Neda đã hình thành đường dây cho phép người dùng gọi điện, nhắn tin với các tình nguyện viên, cung cấp, hỗ trợ nguồn lực khi họ gặp lo lắng về chứng rối loạn ăn uống.

Đồng thời, để giảm bớt gánh nặng cho nhiên viên, Nada cũng tiến hành đưa Tessa vào hoạt động trong đường dây tư vấn này. Nhưng hiệp hội chưa bao giờ có ý định sử dụng Tessa để thay thế nhân viên đường dây trợ giúp.

Tuy nhiên, sau khi đại diện Nada đưa ra thông báo, chatbot AI của họ lại bất ngờ gặp rắc rối lớn khi đưa ra lời khuyên có hại cho con người.

Hiện tại, Neda đã làm việc với nhiều nhà nghiên cứu tâm lý học và công ty phát triển chatbot AI, Cass AI để làm rõ nguyên nhân vụ việc.

Tháng 11/2022, ChatGPT của Open AI dưới sự hậu thuẫn của Microsoft ra mắt thị trường công nghệ đã tạo nên cơn sốt về sản phẩm trí tuệ nhân tạo.

Nhiều công ty công nghệ trên thế giới như Google cũng đang chạy đua với thời gian để hoàn thiện botchat AI do mình sản xuất.

Tuy nhiên, những sản phẩm AI này cũng gây ra nhiều lo ngại khi thường xuyên trả lời sai hoặc có nguy cơ bị lợi dụng cho mục đích xấu.

Trí tuệ nhân tạo đưa ra lời khuyên gây hại cho người dùng

04/06/2023 - Tin công nghệ
Đưa ra những lời khuyên có hại cho người dùng, một chatbot trí tuệ nhân tạo (AI) tại Mỹ đã bị sa thải.

Theo Guardian đưa tin, Hiệp hội Rối loạn Ăn uống Quốc gia Mỹ (Neda) đã sa thải chatbot AI mang tên Tessa sau khi có người dùng đưa ra báo cáo chatbot này đang đưa ra lời khuyên có hại cho con người.

Trong một bài đăng trên trang web của tổ chức về chatbot đã bị gỡ xuống, nhà tâm lý học tại Đại học Washington ở St Louis (Mỹ) Ellen Fitzsimmons-Craft nói rằng, “Tessa” được coi là một giải pháp để điều trị chứng rối loạn ăn uống.

Trí tuệ nhân tạo đưa ra lời khuyên gây hại cho người dùng (Ảnh: Sưu tầm)

Thời gian gian qua, Neda đã hình thành đường dây cho phép người dùng gọi điện, nhắn tin với các tình nguyện viên, cung cấp, hỗ trợ nguồn lực khi họ gặp lo lắng về chứng rối loạn ăn uống.

Đồng thời, để giảm bớt gánh nặng cho nhiên viên, Nada cũng tiến hành đưa Tessa vào hoạt động trong đường dây tư vấn này. Nhưng hiệp hội chưa bao giờ có ý định sử dụng Tessa để thay thế nhân viên đường dây trợ giúp.

Tuy nhiên, sau khi đại diện Nada đưa ra thông báo, chatbot AI của họ lại bất ngờ gặp rắc rối lớn khi đưa ra lời khuyên có hại cho con người.

Hiện tại, Neda đã làm việc với nhiều nhà nghiên cứu tâm lý học và công ty phát triển chatbot AI, Cass AI để làm rõ nguyên nhân vụ việc.

Tháng 11/2022, ChatGPT của Open AI dưới sự hậu thuẫn của Microsoft ra mắt thị trường công nghệ đã tạo nên cơn sốt về sản phẩm trí tuệ nhân tạo.

Nhiều công ty công nghệ trên thế giới như Google cũng đang chạy đua với thời gian để hoàn thiện botchat AI do mình sản xuất.

Tuy nhiên, những sản phẩm AI này cũng gây ra nhiều lo ngại khi thường xuyên trả lời sai hoặc có nguy cơ bị lợi dụng cho mục đích xấu.

Xem thêm

Đánh giá - Bình luận
Nhấn vào đây để đánh giá
X
Đặt lịch hẹn sửa chữa
Hãy đặt lịch trước để chúng tôi phục vụ bạn tốt hơn
Liên hệ tổng đài 1800 6024 - Hoặc 085 245 3366 để được đặt lịch.
X
Tra cứu bảo hành
Dễ dàng theo dõi tình trạng bảo hành máy của bạn
Tra cứu thông tin bảo hành

Nhập thông tin bảo hành

Đặt lịch

0.35276 sec| 2480.922 kb