Ảnh minh họa. (Ảnh: The Mind Journal/TTXVN)

Một cố vấn sức khỏe tâm thần, bà Nicole Doyle, đã vô cùng bất ngờ khi người đứng đầu Hiệp hội Rối loạn Ăn uống quốc gia Mỹ (NEDA) xuất hiện tại một cuộc họp nhân viên cùng với thông báo hiệp hội này sẽ thay thế đường dây trợ giúp bằng một chatbot sử dụng trí tuệ nhân tạo (AI) mang tên Tessa.

Đường dây trợ giúp của NEDA cho phép mọi người gọi điện, nhắn tin cho các tư vấn viên, qua đó cung cấp hỗ trợ và nguồn lực cho những người lo lắng về chứng rối loạn ăn uống.

Vài ngày sau khi đường dây này bị thay thế, chatbot Tessa gần như ngay lập tức gặp vấn đề với các lời khuyên.

Đầu tháng này, NEDA đã quyết định gỡ bỏ Tessa sau khi có báo cáo chatbot này đưa ra lời khuyên có hại cho các bệnh nhân. NEDA cho biết sẽ xác minh các báo cáo này và "cân nhắc cẩn thận" các bước tiếp theo.

Bà Doyle, 1 trong 5 tư vấn viên của NEDA bị cho thôi việc hồi tháng 3 vừa qua, cho biết: "Mọi người thấy Tessa đưa ra lời khuyên giảm cân cho những người chia sẻ rằng họ đang phải vật lộn với chứng rối loạn ăn uống".

Theo bà Doyle, mặc dù Tessa có thể "mô phỏng" sự đồng cảm song không giống sự đồng cảm thực sự của con người.

Trên thực tế, các chatbot về sức khỏe tâm thần sử dụng AI đang ngày càng phổ biến, trong bối cảnh các nguồn lực y tế đang phải chịu nhiều áp lực, bất chấp những lo ngại của các chuyên gia công nghệ về quyền riêng tư dữ liệu và đạo đức tư vấn.

Theo Tạp chí quốc tế về tin học y tế (International Journal of Medical Informatics), mặc dù các công cụ kỹ thuật số về sức khỏe tâm thần đã tồn tại hơn 1 thập niên, hiện nay chỉ có hơn 40 chatbot về sức khỏe tâm thần trên toàn cầu.

Hỗ trợ sức khỏe tâm thần đang ngày càng trở thành một thách thức lớn trên toàn thế giới. Theo Tổ chức Y tế thế giới (WHO), khoảng một tỷ người trên toàn thế giới phải sống chung với chứng lo âu và trầm cảm trước thời kỳ dịch Covid-19, tuy nhiên con số này đã tăng 27% sau đại dịch.

WHO cho biết có tới 82% bệnh nhân tập trung ở các quốc gia thu nhập thấp và trung bình. Điều trị sức khỏe tâm thần cũng được phân chia theo thu nhập, với chi phí là rào cản lớn đối với việc tiếp cận.

Trong khi đó, Viện nghiên cứu chính sách Brookings lưu ý những người không có khả năng tiếp cận mạng Internet có nguy cơ bị bỏ lại phía sau. Ngoài ra, những bệnh nhân có bảo hiểm y tế có thể được thăm khám trị liệu trực tiếp, trong khi những người không có bảo hiểm sẽ phải lựa chọn những chatbot ít tốn kém hơn.

Theo công ty dữ liệu PitchBook, hồi tháng 12/2020, các công ty khởi nghiệp công nghệ về sức khỏe tâm thần đã huy động được 1,6 tỷ USD vốn đầu tư mạo hiểm, khi các doanh nghiệp chú trọng hơn đến nhu cầu hỗ trợ y tế từ xa và sức khỏe tâm thần trong thời kỳ dịch Covid-19.

Tuy nhiên, các nhà nghiên cứu cảnh bảo mặc dù chi phí của liệu pháp điều trị bằng AI có thể hấp dẫn, nhưng cần phải cảnh giác về những lời khuyên sai trong việc chăm sóc sức khỏe.

Việc sử dụng AI trong điều trị tâm lý cũng vướng phải một số bất cập về an toàn dữ liệu.

Trong một nghiên cứu được công bố tháng 5/2022, tổ chức Mozilla Foundation nhận thấy trong khi các chatbot hỗ trợ sức khỏe tâm thần ngày càng phổ biến trên toàn thế giới, những lo ngại về quyền riêng tư là một rủi ro lớn đối với người dùng.

Trong số 32 ứng dụng về chăm sóc sức khỏe tâm lý, có 28 ứng dụng bị “gắn mác” vi phạm quản lý dữ liệu người dùng và 25 ứng dụng không đáp ứng các tiêu chuẩn bảo mật.

Từ Mỹ cho đến Liên minh châu Âu, các nhà lập pháp đang chạy đua nhằm đưa ra quy định đối với các công cụ AI và thúc đẩy lĩnh vực này áp dụng bộ quy tắc ứng xử tự nguyện trong khi các bộ luật mới đang được xây dựng.

Giới chuyên gia công nghệ hy vọng quy định chặt chẽ sẽ có thể ngăn chặn các hoạt động AI phi đạo đức, tăng cường bảo mật dữ liệu và đảm bảo sự đồng bộ trong các tiêu chuẩn chăm sóc sức khỏe.

Bà Doyle nhấn mạnh: "Chúng ta nên sử dụng công nghệ để cùng làm việc thay vì thay thế con người".