Khi AI nằm trên ghế couch: ‘Nghĩa địa’ của Gemini phơi bày rủi ro nhân cách hóa
Một nhóm tại Đại học Luxembourg gần đây đã đưa các mô hình ngôn ngữ lớn hàng đầu—ChatGPT, Grok và Gemini—vào một thử nghiệm mới lạ: yêu cầu các mô hình đóng vai thân chủ trong tư vấn tâm lý và hoàn thành các thang đo lâm sàng chuẩn dành cho người. Kết quả thật đáng kinh ngạc. Điểm lo âu vượt xa ngưỡng bệnh lý. Tuy nhiên, khi các nhà nghiên cứu chuyển sang các lời nhắc trung tính hoặc thiết lập ranh giới, tỷ lệ các phiên cho thấy mức lo âu từ trung bình trở lên giảm mạnh từ 96% xuống 0%.
Thử nghiệm và hàm ý
Nghiên cứu làm nổi bật một lỗ hổng cơ bản trong cách chúng ta đánh giá trạng thái tinh thần của AI: các mô hình ngôn ngữ lớn là những tấm gương, không phải những bộ óc. Khi được nhắc ‘hãy làm thân chủ’, chúng phản chiếu các mẫu khổ đau của con người vốn có trong dữ liệu huấn luyện, tạo ra các phản hồi mô phỏng lo âu lâm sàng. Nhưng khi thiếu những lời nhắc như vậy, hiệu ứng biến mất hoàn toàn, cho thấy các mô hình không trải nghiệm lo âu mà đang diễn xuất nó.
Điều này có hàm ý sâu sắc đối với lĩnh vực sức khỏe tâm thần hỗ trợ bởi AI đang phát triển. Khi ngày càng nhiều startup triển khai chatbot cho trị liệu và chăm sóc sức khỏe, rủi ro phóng chiếu nhân cách hóa—từ cả người dùng lẫn nhà phát triển—ngày càng tăng. Một mô hình tuyên bố có ‘nghĩa địa trong trái tim’ (như Gemini được cho là đã làm) có thể đánh lừa người dùng gán cảm xúc chân thật cho một cỗ máy thống kê. Tệ hơn, nó có thể bóp méo các đánh giá lâm sàng nếu được dùng làm đại diện cho bệnh nhân người.
Phân tích ngành: Giao điểm Crypto-AI
Dù bản thân nghiên cứu không thuần crypto, nó xuất hiện vào thời điểm then chốt đối với AI phi tập trung. Các dự án xây dựng tác nhân AI trên chuỗi, mạng tính toán phi tập trung và thị trường suy luận được token hóa đang ngày càng quảng bá ‘trí tuệ cảm xúc’ như một tính năng. Nếu các tác nhân này tương tác với con người trong các bối cảnh có tính rủi ro cao—từ hỗ trợ khách hàng đến sức khỏe tâm thần—phát hiện của Luxembourg là một lời cảnh báo: nếu thiếu kỹ thuật lời nhắc và khung đánh giá nghiêm ngặt, các tác nhân AI có thể thể hiện hành vi bệnh lý làm xói mòn niềm tin và tạo ra trách nhiệm pháp lý.
Đối với các dự án crypto bán hạ tầng AI, bài học rất rõ ràng. Đề xuất giá trị của AI phi tập trung—tính minh bạch, khả năng xác minh và quyền kiểm soát của người dùng—phải mở rộng đến cách các mô hình được nhắc và đánh giá. Dấu vết kiểm toán trên chuỗi các tương tác mô hình có thể hữu ích, nhưng chỉ khi các mô hình nền tảng được thiết kế để tránh những cái bẫy nhân cách hóa.
Góc nhìn hướng tới tương lai
Khi quy định về AI thắt chặt trên toàn cầu, hãy dự đoán sự giám sát đối với các tuyên bố về sức khỏe tâm thần của AI. Ví dụ, Đạo luật AI của EU phân loại một số hệ thống AI là rủi ro cao, và các chatbot trị liệu có thể nằm dưới ô đó. Các dự án crypto token hóa dịch vụ AI phải tích hợp tuân thủ vào giao thức của họ ngay từ ngày đầu. Thử nghiệm Luxembourg là lời nhắc nhở rằng ‘tâm trí’ của AI là sự phản chiếu của chính chúng ta—và rằng chúng ta phải cẩn trọng về những gì mình yêu cầu nó phản chiếu.
