Người đứng đầu Hiệp hội Rối loạn Ăn uống quốc gia Mỹ (NEDA) từng bất ngờ xuất hiện tại một cuộc họp nhân viên và đưa ra thông báo sử dụng chatbot AI mang tên Tessa để thay thế đường dây trợ giúp sức khỏe của hội.

Tuy nhiên, chỉ sau vài ngày hoạt động, Tessa đã gặp rắc rối lớn khi đưa ra lời khuyên không tốt đối với sức khỏe của khách hàng.

NEDA đã quyết định gỡ bỏ một chatbot AI do nhận phản hồi không tốt từ khách hàng (Ảnh: Sưu tầm)

Điều này khiến NEDA quyết định gỡ bỏ Tessa khỏi đường dây trợ giúp sức khỏe.

NEDA cho biết, cơ quan sẽ xác minh rõ các báo cáo của người dùng gửi đến và "cân nhắc cẩn thận" những bước tiếp theo.

Một trong năm tư vấn viên của NEDA bị cho thôi việc hồi tháng 3 vừa qua, bà Nicole Doyle tiết lộ: "Đối với những người đang phải vật lộn với chứng rối loạn ăn uống, Tessa đều đưa ra lời khuyên giảm cân"

Theo bà Doyle, mặc dù Tessa luôn thể hiện sự đồng cảm nhưng lại không thể bằng một phần của con người.

Hiện nay, chatbot AI về sức khỏe tâm thần đang ngày càng phổ biến.

Đặc biệt, trong bối cảnh nguồn lực y tế phải chịu nhiều áp lực, nhiều công ty vẫn quyết định bất chấp những cảnh bảo về quyền riêng tư dữ liệu và đạo đức tư vấn để sử dụng những sản phẩm AI này.

Trong số 32 ứng dụng về chăm sóc sức khỏe tâm lý đang có mặt trên thế giới, đã có đến 28 ứng dụng bị “gắn mác” vi phạm quản lý dữ liệu người dùng và 25 ứng dụng không đáp ứng đầy đủ tiêu chuẩn bảo mật.

Việc sử dụng AI trong điều trị tâm lý cũng đang vướng phải một số bất cập về an toàn dữ liệu.

Hiện nay, EU đang nỗ lực đặt ra quy tắc ứng xử dành riêng cho AI bên cạnh bộ luật mới đang xây dựng.

Giới chuyên gia công nghệ hy vọng, sau khi những quy định chặt chẽ đưa ra sẽ ngăn chặn được hoạt động AI phi đạo đức.

Đồng thời, tăng cường bảo mật dữ liệu và đảm bảo sự đồng bộ trong tiêu chuẩn chăm sóc sức khỏe con người.

Một sản phẩm AI bị gỡ bỏ vì đưa ra lời khuyên có hại

22/06/2023 - Tin công nghệ
Hiệp hội Rối loạn Ăn uống quốc gia Mỹ đã quyết định gỡ bỏ một chatbot trí tuệ nhân tạo (AI) sau khi ghi nhận phản hồi không tốt đến từ người dùng.

Người đứng đầu Hiệp hội Rối loạn Ăn uống quốc gia Mỹ (NEDA) từng bất ngờ xuất hiện tại một cuộc họp nhân viên và đưa ra thông báo sử dụng chatbot AI mang tên Tessa để thay thế đường dây trợ giúp sức khỏe của hội.

Tuy nhiên, chỉ sau vài ngày hoạt động, Tessa đã gặp rắc rối lớn khi đưa ra lời khuyên không tốt đối với sức khỏe của khách hàng.

NEDA đã quyết định gỡ bỏ một chatbot AI do nhận phản hồi không tốt từ khách hàng (Ảnh: Sưu tầm)

Điều này khiến NEDA quyết định gỡ bỏ Tessa khỏi đường dây trợ giúp sức khỏe.

NEDA cho biết, cơ quan sẽ xác minh rõ các báo cáo của người dùng gửi đến và "cân nhắc cẩn thận" những bước tiếp theo.

Một trong năm tư vấn viên của NEDA bị cho thôi việc hồi tháng 3 vừa qua, bà Nicole Doyle tiết lộ: "Đối với những người đang phải vật lộn với chứng rối loạn ăn uống, Tessa đều đưa ra lời khuyên giảm cân"

Theo bà Doyle, mặc dù Tessa luôn thể hiện sự đồng cảm nhưng lại không thể bằng một phần của con người.

Hiện nay, chatbot AI về sức khỏe tâm thần đang ngày càng phổ biến.

Đặc biệt, trong bối cảnh nguồn lực y tế phải chịu nhiều áp lực, nhiều công ty vẫn quyết định bất chấp những cảnh bảo về quyền riêng tư dữ liệu và đạo đức tư vấn để sử dụng những sản phẩm AI này.

Trong số 32 ứng dụng về chăm sóc sức khỏe tâm lý đang có mặt trên thế giới, đã có đến 28 ứng dụng bị “gắn mác” vi phạm quản lý dữ liệu người dùng và 25 ứng dụng không đáp ứng đầy đủ tiêu chuẩn bảo mật.

Việc sử dụng AI trong điều trị tâm lý cũng đang vướng phải một số bất cập về an toàn dữ liệu.

Hiện nay, EU đang nỗ lực đặt ra quy tắc ứng xử dành riêng cho AI bên cạnh bộ luật mới đang xây dựng.

Giới chuyên gia công nghệ hy vọng, sau khi những quy định chặt chẽ đưa ra sẽ ngăn chặn được hoạt động AI phi đạo đức.

Đồng thời, tăng cường bảo mật dữ liệu và đảm bảo sự đồng bộ trong tiêu chuẩn chăm sóc sức khỏe con người.

Xem thêm

Đánh giá - Bình luận
Nhấn vào đây để đánh giá
X
Đặt lịch hẹn sửa chữa
Hãy đặt lịch trước để chúng tôi phục vụ bạn tốt hơn
Liên hệ tổng đài 1800 6024 - Hoặc 085 245 3366 để được đặt lịch.
X
Tra cứu bảo hành
Dễ dàng theo dõi tình trạng bảo hành máy của bạn
Tra cứu thông tin bảo hành

Nhập thông tin bảo hành

Đặt lịch

0.39236 sec| 2472.984 kb