Tin tưởng chatbot sau nhiều tháng nhận được lời khuyên hữu ích, một nông dân Trung Quốc đã phun thuốc theo công thức AI đề xuất, khiến gần 10 ha mè non héo chết chỉ sau một đêm.
Theo Tom’s Hardware, sự việc xảy ra tại thành phố Trừ Châu, Trung Quốc. Người nông dân 67 tuổi, được gọi là ông Wu, đã sử dụng một ứng dụng AI để tham khảo kiến thức canh tác trong khoảng một năm.
Ban đầu, ông không hoàn toàn tin tưởng công cụ này. Tuy nhiên, sau nhiều tháng nhận được những câu trả lời được cho là hữu ích, người nông dân dần thay đổi thái độ và bắt đầu dựa nhiều hơn vào các hướng dẫn do AI đưa ra.
Rắc rối xuất hiện lúc ông hỏi chatbot cách đồng thời kiểm soát cỏ dại và sâu bệnh trên ruộng mè. AI đề xuất một công thức pha trộn gồm nhiều loại thuốc diệt cỏ và thuốc trừ sâu, kèm hướng dẫn sử dụng trên diện tích lớn.
Một nông dân 67 tuổi tại Trung Quốc phun thuốc theo phương án do AI đề xuất, khiến 150 mẫu mè non héo rũ chỉ sau một đêm. Ảnh: Litchi News.
Tên một số hoạt chất được đăng trong bài viết gốc, nhưng do đã chuyển qua nhiều lớp dịch tự động nên không hoàn toàn thống nhất. Tuy nhiên, vấn đề chính nằm ở việc công thức có chứa một loại thuốc diệt cỏ tác động đến thực vật lá rộng. Mè cũng thuộc nhóm thực vật lá rộng nên có thể bị ảnh hưởng tương tự loại cỏ mà hóa chất tiêu diệt.
Người nông dân làm theo hướng dẫn và phun hỗn hợp trên toàn bộ khoảng 150 mẫu Trung Quốc, tương đương gần 10 ha. Ông không kiểm tra lại công thức với kỹ thuật viên nông nghiệp, cũng không thử nghiệm trên một khu vực nhỏ trước khi áp dụng đại trà.
Hậu quả xuất hiện ngay vào ngày hôm sau. Không chỉ cỏ dại mà phần lớn cây mè non trên cánh đồng cũng chết hàng loạt.
“Nếu phun loại thuốc đó, cây con sẽ không sống nổi sang ngày hôm sau. Cỏ chết, cây cũng chết, thậm chí cây con còn chết nhanh hơn”, ông Wu nói trong một cuộc phỏng vấn qua video.
Sau sự cố, người nông dân quay lại hỏi chính chatbot nguyên nhân. AI lúc này cho rằng một trong các loại thuốc diệt cỏ có thể là thủ phạm. Theo giải thích được dẫn lại, hóa chất này chủ yếu dùng để xử lý cỏ lá rộng trên ruộng đậu tương và chỉ nên phun có mục tiêu tại những khu vực cần thiết, thay vì phủ lên toàn bộ cánh đồng.
Nói cách khác, chatbot đã nhận ra nguy cơ sau khi hậu quả xảy ra, nhưng không đưa ra cảnh báo tương ứng trong câu trả lời ban đầu.
Một dòng cảnh báo không thể thay thế khâu kiểm chứng
Ông Wu cho rằng AI không cảnh báo đầy đủ về rủi ro của công thức. Tuy nhiên, giao diện ứng dụng được cho là có hiển thị thông báo rằng nội dung do AI tạo ra có thể không chính xác và người dùng cần kiểm chứng.
Chi tiết này không xóa bỏ vấn đề trong trả lời của chatbot, nhưng cho thấy thiệt hại không chỉ bắt nguồn từ một phía. AI đã đưa ra hướng dẫn thiếu an toàn, còn người sử dụng lại áp dụng trực tiếp trên diện tích gần 10 ha mà không tham khảo chuyên gia hoặc thử trước ở quy mô nhỏ.
Danh tính ứng dụng AI không được công bố, vì vậy chưa thể xác định đây là chatbot nào, mô hình đứng phía sau hay cơ chế bảo vệ mà nhà cung cấp đã triển khai. Cũng chưa có thông tin về giá trị thiệt hại, khả năng phục hồi cánh đồng hoặc việc người nông dân có yêu cầu bồi thường hay không.
Điểm mấu chốt của sự việc nằm ở cách niềm tin đối với AI được hình thành. Người dùng không nhất thiết tin chatbot ngay từ lần đầu tiên. Họ có thể bắt đầu bằng thái độ hoài nghi, kiểm tra một vài câu trả lời rồi dần hạ cảnh giác sau khi công cụ liên tục tỏ ra hữu ích.
AI không đương nhiên trở nên đáng tin cậy chỉ vì từng trả lời đúng nhiều lần. Mỗi câu trả lời mới vẫn có thể chứa sai sót, nhất là trong nông nghiệp, nơi hiệu quả và độ an toàn của hóa chất còn phụ thuộc vào loại cây, giai đoạn sinh trưởng, liều lượng và điều kiện canh tác.
Rủi ro càng lớn nếu AI trình bày một công thức cụ thể với giọng điệu tự tin nhưng không yêu cầu người dùng xác nhận các thông tin còn thiếu. Người không có đủ chuyên môn cũng khó nhận ra chi tiết nào bất thường để đặt câu hỏi ngược lại.
Trung Quốc đang phát triển các mô hình AI chuyên dụng nhằm hạn chế chính vấn đề này. Tháng 5, Đại học Nông nghiệp Nam Kinh cùng nhiều đơn vị nghiên cứu công bố Green Shield, mô hình nguồn mở phục vụ bảo vệ cây trồng. Hệ thống được thiết kế để đối chiếu khuyến nghị với cơ sở dữ liệu đăng ký thuốc bảo vệ thực vật, kiểm tra loại cây được phép sử dụng, liều lượng và danh sách hóa chất bị cấm trước khi đưa ra câu trả lời.
Đại diện nhóm phát triển thừa nhận các mô hình ngôn ngữ đa dụng có thể trả lời thiếu chính xác về bảo vệ thực vật và đưa ra hướng dẫn sử dụng thuốc chưa được chuẩn hóa, thậm chí tiềm ẩn nguy hiểm. Đây cũng là lý do hệ thống chuyên ngành cần thêm dữ liệu được tuyển chọn và những lớp kiểm tra mà chatbot phổ thông có thể không sở hữu.
AI vẫn có thể giúp nông dân tiếp cận kiến thức, nhận diện vấn đề và tham khảo phương án xử lý nhanh hơn. Tuy nhiên, với quyết định liên quan đến hóa chất, sức khỏe, tài sản hoặc một vụ mùa, câu trả lời của chatbot chỉ nên là điểm bắt đầu để kiểm tra thêm.
Trong trường hợp của ông Wu, AI mất vài giây để tạo ra công thức. Cánh đồng gần 10 ha cũng chỉ cần một đêm để cho thấy cái giá của việc biến câu trả lời đó thành hành động mà không có bất kỳ lớp kiểm chứng nào.
,
Thanh niên Việt
