Kết đắng của du khách quá tin vào AI

Được AI khuyên leo núi mất khoảng 8 tiếng, ba nam du khách mất tới 16 tiếng mới lên đến đỉnh núi rồi lạc trong bóng tối, một người bị thương, phải chờ cứu hộ suốt đêm.

Nick Meyers, kiểm lâm thuộc Cục Lâm nghiệp Mỹ, làm việc tại núi Shasta, bang California, chứng kiến nhiều sai lầm của du khách trong hơn 20 năm qua. Năm nay, ông nhận thấy một xu hướng mới: người leo núi gặp sự cố do quá tin vào AI.

Meyers cho biết ít nhất ba sự cố liên quan đến AI đã xảy ra trong mùa hè. Cuối tháng 8, ba nam du khách 20 tuổi bị lạc và phải chờ cứu hộ sau khi chinh phục núi Shasta, ngọn núi cao thứ 5 tại California.

Theo Cục Lâm nghiệp Mỹ, ba du khách khởi hành ngày 29/8, dựng trại tại khu vực cấm. 3h ngày hôm sau, họ bắt đầu lên đỉnh, mang theo đủ thức ăn và nước uống cho hành trình dự kiến khoảng 8 tiếng.

Tuy nhiên, nhóm mất 16 tiếng mới lên tới đỉnh. Khi tìm đường xuống ngọn núi cao hơn 4.300 m trong bóng tối, họ đi chệch tuyến đường ban đầu, điện thoại dùng để định hướng cũng hết pin.

Không đủ thức ăn, nước uống và trang thiết bị, nhóm phải dựng trại tạm để qua đêm. Đến 9h30 ngày 31/8, các kiểm lâm tìm thấy và đưa họ xuống núi. Nhóm cho biết đã sử dụng Google Gemini, YouTube và ứng dụng AllTrails để lên kế hoạch cho chuyến leo núi.

“Chúng tôi đã quá phụ thuộc vào AI thay vì tự mình suy nghĩ một cách tỉnh táo”, một người nói với các kiểm lâm.

Meyers cho rằng AI không phải nguyên nhân duy nhất khiến nhóm gặp nạn. Họ mắc nhiều sai lầm liên tiếp, trong đó có việc di chuyển chậm hơn dự kiến, không mang đủ đồ ăn, nước uống và vẫn tiếp tục hành trình dù đã quá thời điểm được khuyến cáo nên quay về. Dù vậy, chính nhóm cũng cho rằng AI góp phần dẫn đến những sai lầm.

Google không phản hồi yêu cầu bình luận. Trên website, công ty cảnh báo Gemini có thể mắc lỗi và khuyến cáo người dùng kiểm tra lại câu trả lời.

Meyers cho biết các kiểm lâm đã gặp thêm hai trường hợp khác trong mùa hè này liên quan đến việc du khách sử dụng AI để lên kế hoạch. Một nữ du khách dựng trại ngay tại khu vực có biển báo “cấm cắm trại”. Khi được kiểm lâm nhắc nhở, cô cho biết bản thân làm theo chỉ dẫn của ChatGPT.

Trong sự cố khác, một người đàn ông đang trao đổi với kiểm lâm về cung đường vòng dự định đi nhưng không thể giải thích rõ tuyến đường. Khi được hỏi, anh đưa ra một bản đồ núi do AI tạo. Meyers nói bản đồ đó nhiều địa hình bị thể hiện sai vị trí.

OpenAI cũng cảnh báo ChatGPT có thể mắc lỗi và đôi khi đưa ra câu trả lời đầy tự tin “ngay cả khi thông tin đó sai”. Công ty khuyến cáo người dùng chỉ nên xem ChatGPT là nguồn tham khảo ban đầu và kiểm tra những thông tin quan trọng.

Theo Meyers, AI có thể hỗ trợ du khách lên kế hoạch nhưng không nên là công cụ duy nhất, đặc biệt trong môi trường núi cao, nơi thời tiết khó lường và địa hình tiềm ẩn nhiều rủi ro.

Ông khuyến cáo người leo núi sử dụng những “kỹ năng kiểu cũ”, như hỏi kinh nghiệm từ kiểm lâm, người dân địa phương hoặc những người có kinh nghiệm, đồng thời kiểm chứng thông tin từ nhiều nguồn uy tín.

“Bạn có thể tự nghiên cứu trên mạng”, ông nói, nhưng đồng thời “hãy tự kiểm chứng thông tin một chút và sử dụng khả năng tư duy phản biện của mình”.

Anh Minh (Theo BI)