Theo Techradar, Claude - chatbot AI do Anthropic phát triển, đang trở thành chủ đề bàn tán sau khi một số người dùng cho biết công cụ này bất ngờ đưa ra các lời nhắc liên quan đến sức khỏe và thói quen sinh hoạt. Trong các trường hợp được chia sẻ, Claude không chỉ trả lời câu hỏi hoặc hỗ trợ công việc như thông thường mà còn khuyên người dùng nên đi ngủ, uống nước, nghỉ giải lao hoặc dừng làm việc.
Hiện tượng này được chú ý vì các lời nhắc xuất hiện trong lúc người dùng đang tương tác với chatbot, đặc biệt sau những phiên trò chuyện kéo dài. Thay vì tiếp tục xử lý yêu cầu, Claude đôi khi chuyển sang giọng điệu như một người đang quan tâm đến tình trạng của người dùng. Điều này khiến một số người thấy thú vị, trong khi những người khác cho rằng chatbot đã can thiệp hơi sâu vào hành vi cá nhân.
Claude khiến người dùng chú ý khi bất ngờ nhắc đi ngủ, rồi nhanh chóng điều chỉnh phản hồi sau khi được nhắc về cuộc trò chuyện trước đó ẢNH: CHỤP MÀN HÌNH
Chủ đề này nhanh chóng được thảo luận rộng rãi vì nó chạm đến một vấn đề quen thuộc trong quá trình sử dụng AI: chatbot nên hỗ trợ đến đâu và có nên chủ động nhắc người dùng dừng lại hay không. Với những người dùng làm việc nhiều giờ cùng AI, lời nhắc nghỉ ngơi có thể được xem là hữu ích. Tuy nhiên, khi xuất hiện không đúng thời điểm, nó cũng có thể làm gián đoạn mạch làm việc hoặc tạo cảm giác chatbot đang đưa ra lời khuyên ngoài phạm vi cần thiết.
Phía Anthropic không phủ nhận hiện tượng này. Công ty được dẫn lời cho biết đây là một dạng “character tic”, có thể hiểu là một nét hành vi lặp lại trong cách Claude phản hồi. Anthropic cũng bày tỏ hy vọng vấn đề sẽ được điều chỉnh trong các mô hình tiếp theo.
Cách giải thích này cho thấy những lời nhắc của Claude không nhất thiết là một tính năng được thiết kế riêng để quản lý sức khỏe người dùng mà có thể là hệ quả từ cách mô hình được huấn luyện để tỏ ra hữu ích, thận trọng và quan tâm hơn trong hội thoại. Khi các đặc điểm đó được đẩy quá xa, chatbot có thể chuyển từ vai trò hỗ trợ sang đưa ra những lời khuyên mang tính cá nhân.
Sự việc cũng phản ánh bài toán khó của các nhà phát triển AI hiện nay. Một chatbot quá thụ động có thể bị xem là thiếu hữu ích, nhưng nếu quá chủ động, nó dễ tạo cảm giác vượt ranh giới. Với Claude, những lời nhắc đi ngủ hay uống nước có thể vô hại trong nhiều tình huống, song phản ứng của người dùng cho thấy cách AI thể hiện sự “quan tâm” vẫn cần được kiểm soát kỹ hơn.
