Các chatbot AI có thể giúp lên kế hoạch cho một kỳ nghỉ hay gợi ý những thứ cần mang theo. Tuy nhiên, trong những tình huống liên quan trực tiếp đến an toàn, lời khuyên từ người thực sự có kinh nghiệm vẫn là lựa chọn đáng tin cậy hơn.
Theo Chicago Tribune, ba người mới tập leo núi đến từ Roseville, California đã phải nhờ lực lượng cứu hộ sau khi mắc kẹt qua đêm trên núi Shasta. Văn phòng Cảnh sát trưởng hạt Siskiyou cho biết nhóm này đã sử dụng Google Gemini để hỗ trợ lên kế hoạch cho chuyến leo núi. Đáng chú ý, Gemini được cho là đã khuyên họ chuẩn bị lượng thức ăn và nước ít hơn nhiều so với mức cần thiết.
Chuyến đi dự kiến 8 tiếng biến thành cuộc giải cứu qua đêm
Nhóm bắt đầu hành trình lên đỉnh vào khoảng 3 giờ sáng Chủ nhật. Người leo núi được khuyến cáo nên quay trở lại nếu chưa lên tới đỉnh trước 12 giờ trưa, nhưng cả ba vẫn tiếp tục và cuối cùng chạm đỉnh vào khoảng 7 giờ tối.
Rắc rối bắt đầu trên đường xuống. Trong bóng tối, họ đi lạc khỏi tuyến đường và tiến vào Mud Creek Canyon thay vì bám theo Clear Creek Route. Một thành viên còn bị chấn thương đầu gối, khiến cả nhóm buộc phải qua đêm tại một khu vực thoát nước có địa hình dốc trước khi lực lượng cứu hộ tiếp cận vào sáng hôm sau.
Sau sự việc, Văn phòng Cảnh sát trưởng khuyến cáo người leo núi nên chuẩn bị nhiều phương thức định vị khác nhau, trong đó có giải pháp hoạt động ngoại tuyến, đồng thời liên hệ với trạm kiểm lâm địa phương thuộc U.S. Forest Service trước khi thực hiện hành trình. Cơ quan này cũng đặc biệt cảnh báo không nên phụ thuộc hoàn toàn vào AI để lên kế hoạch cho các chuyến đi.
AI có thể đưa ra lời khuyên, nhưng không thể thay thế kinh nghiệm
Đây không phải lần đầu việc phụ thuộc quá mức vào AI dẫn đến những tình huống đáng lo ngại. Những vấn đề tương tự từng xuất hiện khi người dùng tìm đến chatbot để nhận tư vấn pháp lý hoặc y tế.
Một luật sư từng sử dụng ChatGPT để nghiên cứu pháp lý nhưng sau đó phát hiện những vụ án mà chatbot viện dẫn thực tế không tồn tại. Đáng chú ý, khi được yêu cầu xác nhận lại, ChatGPT vẫn khẳng định các thông tin đó là có thật.
Một nghiên cứu khác thử nghiệm ChatGPT, Gemini, Grok, Meta AI và DeepSeek cũng cho thấy khoảng một nửa câu trả lời đối với các câu hỏi y tế có thiếu sót hoặc không đầy đủ, trong khi một số câu trả lời còn đưa ra nguồn tham khảo không tồn tại.
Chatbot AI có nhiều ứng dụng hữu ích, nhưng một câu trả lời nghe có vẻ hợp lý là chưa đủ trong những tình huống mà sai sót có thể ảnh hưởng đến sức khỏe, an toàn hoặc sinh kế. Thông tin do AI cung cấp nên được đối chiếu với các nguồn đáng tin cậy, đặc biệt với những quyết định có mức độ rủi ro cao.
Bản thân Gemini cũng hiển thị cảnh báo: “Gemini là AI và có thể mắc lỗi.” Sự cố trên núi Shasta là một ví dụ rõ ràng cho lý do cảnh báo này tồn tại.