Người đứng đầu Hiệp hội Rối loạn Ăn uống quốc gia Mỹ (NEDA) từng bất ngờ xuất hiện tại một cuộc họp nhân viên và đưa ra thông báo sử dụng chatbot AI mang tên Tessa để thay thế đường dây trợ giúp sức khỏe của hội.

Tuy nhiên, chỉ sau vài ngày hoạt động, Tessa đã gặp rắc rối lớn khi đưa ra lời khuyên không tốt đối với sức khỏe của khách hàng.

Điều này khiến NEDA quyết định gỡ bỏ Tessa khỏi đường dây trợ giúp sức khỏe.

NEDA cho biết, cơ quan sẽ xác minh rõ các báo cáo của người dùng gửi đến và "cân nhắc cẩn thận" những bước tiếp theo.

Một trong năm tư vấn viên của NEDA bị cho thôi việc hồi tháng 3 vừa qua, bà Nicole Doyle tiết lộ: "Đối với những người đang phải vật lộn với chứng rối loạn ăn uống, Tessa đều đưa ra lời khuyên giảm cân". 

Theo bà Doyle, mặc dù Tessa luôn thể hiện sự đồng cảm nhưng lại không thể bằng một phần của con người.

Hiện nay, chatbot AI về sức khỏe tâm thần đang ngày càng phổ biến.

Đặc biệt, trong bối cảnh nguồn lực y tế phải chịu nhiều áp lực, nhiều công ty vẫn quyết định bất chấp những cảnh bảo về quyền riêng tư dữ liệu và đạo đức tư vấn để sử dụng những sản phẩm AI này.

Trong số 32 ứng dụng về chăm sóc sức khỏe tâm lý đang có mặt trên thế giới, đã có đến 28 ứng dụng bị “gắn mác” vi phạm quản lý dữ liệu người dùng và 25 ứng dụng không đáp ứng đầy đủ tiêu chuẩn bảo mật.

Việc sử dụng AI trong điều trị tâm lý cũng đang vướng phải một số bất cập về an toàn dữ liệu.

Hiện nay, EU đang nỗ lực đặt ra quy tắc ứng xử dành riêng cho AI bên cạnh bộ luật mới đang xây dựng.

Giới chuyên gia công nghệ hy vọng, sau khi những quy định chặt chẽ đưa ra sẽ ngăn chặn được hoạt động AI phi đạo đức.

Đồng thời, tăng cường bảo mật dữ liệu và đảm bảo sự đồng bộ trong tiêu chuẩn chăm sóc sức khỏe con người.