Ngày càng nhiều người tìm đến chatbot để tâm sự hoặc hỏi lời khuyên về sức khỏe tinh thần. California đang xem xét một dự luật nhằm đặt ra ranh giới rõ hơn: AI có thể hỗ trợ quá trình chăm sóc, nhưng không thể thay thế nhà trị liệu.

Theo CalMatters, SB 903 do Thượng nghị sĩ Steve Padilla đề xuất sẽ cấm các công ty quảng cáo chatbot như một hình thức trị liệu tâm lý. AI cũng không được tự đưa ra quyết định điều trị nếu chưa có sự xem xét của người có giấy phép chuyên môn.

Các cơ sở y tế cũng phải thông báo và xin sự đồng ý của bệnh nhân trước khi dùng AI để ghi lại buổi trị liệu hoặc hỗ trợ phân loại nhu cầu chăm sóc sức khỏe tinh thần.

‍

Vì sao nhiều người tìm đến chatbot?

Chatbot dễ tiếp cận, có thể sử dụng bất cứ lúc nào và thường không tạo cảm giác người dùng cần phải đặt lịch khám hay làm thủ tục với bảo hiểm.

Một nghiên cứu được CalMatters dẫn lại ước tính khoảng 1 trong 8 thanh thiếu niên và người trẻ từng sử dụng chatbot AI để tìm lời khuyên về sức khỏe tinh thần.

Nhưng sự tiện lợi này cũng tạo ra rủi ro. American Psychological Association cảnh báo chatbot chưa thể thay thế liệu pháp tâm lý do người có chuyên môn thực hiện. Một nhà trị liệu có thể quan sát giọng nói, ánh mắt, ngôn ngữ cơ thể và nhận ra những dấu hiệu nghiêm trọng mà AI có thể bỏ sót.

Vấn đề càng đáng lo khi người dùng chia sẻ những suy nghĩ liên quan đến tự tử. Theo số liệu OpenAI công bố và được CalMatters dẫn lại, khoảng 1.2 million người dùng mỗi tuần có những cuộc trò chuyện liên quan đến ý nghĩ tự tử trên ChatGPT.

‍

Tranh cãi về giới hạn của AI

Các tổ chức đại diện cho nhà tâm lý học, nhà trị liệu và nhân viên chăm sóc sức khỏe ủng hộ SB 903 vì cho rằng AI có thể đưa ra thông tin sai hoặc xử lý không đúng ở những trường hợp đang rơi vào khủng hoảng.

Ở chiều ngược lại, TechNet, tổ chức đại diện cho ngành công nghệ, cho rằng quy định quá chặt có thể hạn chế những công cụ giúp bệnh nhân tiếp cận dịch vụ nhanh hơn, đặc biệt khi California vẫn thiếu nhân lực trong lĩnh vực chăm sóc sức khỏe tinh thần.

Tranh cãi hiện tập trung vào một câu hỏi: AI chỉ hỗ trợ nhân viên y tế, hay đã bắt đầu tự đưa ra quyết định liên quan đến việc chăm sóc bệnh nhân?

Một ví dụ là hệ thống khám trực tuyến của Kaiser Permanente. National Union of Healthcare Workers cáo buộc hệ thống này có thể tự động đưa ra hướng chăm sóc sau khi bệnh nhân trả lời bảng câu hỏi về lo âu hoặc trầm cảm. Kaiser phủ nhận việc sử dụng AI để chẩn đoán hoặc đưa ra quyết định y tế.

Hiện vẫn chưa rõ SB 903 có áp dụng cho hệ thống này hay không.

Dự luật đang chờ bước bỏ phiếu tiếp theo tại ủy ban tài chính của California Assembly.

Nếu được thông qua, SB 903 sẽ không ngăn AI xuất hiện trong lĩnh vực sức khỏe tinh thần. Thay vào đó, California muốn đặt một giới hạn rõ hơn trong việc: AI có thể hỗ trợ nhà trị liệu, nhưng không nên tự trở thành nhà trị liệu.