Một nông dân 67 tuổi tại thành phố Trừ Châu, Trung Quốc, đã phải đối mặt với thiệt hại nghiêm trọng sau khi áp dụng trực tiếp hướng dẫn từ một chatbot AI vào cánh đồng của mình. Theo thông tin được dẫn lại từ Tom’s Hardware, ông Wu đã sử dụng một ứng dụng AI để tham khảo kiến thức canh tác trong khoảng một năm và ban đầu khá thận trọng với những câu trả lời từ công cụ này.

Tuy nhiên, sau nhiều tháng liên tiếp nhận được những tư vấn mà ông cho là hữu ích, mức độ tin tưởng dần tăng lên. Bước ngoặt xảy ra khi ông hỏi chatbot cách xử lý đồng thời cỏ dại và sâu bệnh trên ruộng mè. AI đưa ra một công thức kết hợp nhiều loại thuốc diệt cỏ và thuốc trừ sâu, kèm hướng dẫn sử dụng trên diện tích lớn. Một trong những hoạt chất trong hỗn hợp được cho là có tác động đến nhóm thực vật lá rộng, trong khi cây mè cũng thuộc nhóm này. Dù vậy, ông Wu vẫn làm theo hướng dẫn và phun thuốc trên khoảng 150 mẫu Trung Quốc, tương đương gần 10 ha, mà không thử nghiệm trước trên một khu vực nhỏ hay tham khảo ý kiến kỹ thuật viên nông nghiệp.

Cánh đồng mè non của một nông dân Trung Quốc bị héo rũ sau khi áp dụng công thức thuốc do chatbot AI đề xuất.

Hậu quả xuất hiện gần như ngay lập tức. Chỉ sau một đêm, không chỉ cỏ dại mà phần lớn cây mè non trên cánh đồng cũng héo rũ và chết hàng loạt. Sau sự cố, ông Wu tiếp tục hỏi chatbot về nguyên nhân và lúc này hệ thống mới chỉ ra khả năng một trong các loại thuốc diệt cỏ chính là thủ phạm. Theo thông tin được dẫn lại, loại hóa chất này chủ yếu được sử dụng để xử lý cỏ lá rộng trong một số loại cây trồng khác và không phù hợp với việc phun phủ trên toàn bộ ruộng mè. Điều đáng chú ý là cảnh báo quan trọng này không xuất hiện trong câu trả lời ban đầu, khi người nông dân đang tìm kiếm phương án xử lý.

Vụ việc cho thấy một trong những rủi ro đáng chú ý khi ứng dụng AI trong nông nghiệp: chatbot có thể đưa ra câu trả lời rất nhanh, chi tiết và nghe có vẻ thuyết phục, nhưng điều đó không đồng nghĩa với việc mọi hướng dẫn đều chính xác hoặc an toàn. Giao diện ứng dụng được cho là cũng có cảnh báo rằng nội dung do AI tạo ra có thể không chính xác và người dùng cần kiểm chứng. Tuy nhiên, với một người không có chuyên môn sâu về thuốc bảo vệ thực vật, việc phát hiện một thành phần bất thường trong công thức là điều không hề dễ dàng. Rủi ro càng lớn khi câu trả lời được trình bày dưới dạng một công thức cụ thể, khiến người dùng có thể hiểu rằng đây là phương án đã được kiểm chứng.

Vụ việc đặt ra câu hỏi về giới hạn của chatbot AI khi được sử dụng để đưa ra quyết định liên quan trực tiếp đến cây trồng, hóa chất và tài sản.

Điểm đáng lo hơn nằm ở cách niềm tin đối với chatbot AI được hình thành. Người dùng có thể không tin một hệ thống ngay từ lần đầu sử dụng, nhưng sau hàng loạt câu trả lời đúng hoặc hữu ích, sự hoài nghi ban đầu dễ dần biến mất. Khi đó, một câu trả lời sai ở lần tiếp theo có thể được tiếp nhận với mức độ tin tưởng cao hơn nhiều. Trong nông nghiệp, sai sót như vậy có thể gây hậu quả đặc biệt lớn bởi hiệu quả của thuốc bảo vệ thực vật còn phụ thuộc vào loại cây, giai đoạn sinh trưởng, liều lượng, điều kiện thời tiết và phương pháp sử dụng. Một công thức nghe hợp lý trên màn hình không thể thay thế cho quy trình kiểm chứng ngoài thực tế.

Đây cũng là lý do Trung Quốc đang phát triển các mô hình AI chuyên biệt cho lĩnh vực nông nghiệp. Theo nội dung được cung cấp, hồi tháng 5, Đại học Nông nghiệp Nam Kinh cùng nhiều đơn vị nghiên cứu đã công bố Green Shield, một mô hình nguồn mở phục vụ bảo vệ cây trồng. Hệ thống được thiết kế để đối chiếu khuyến nghị với dữ liệu đăng ký thuốc bảo vệ thực vật, kiểm tra loại cây được phép sử dụng, liều lượng cũng như danh sách hóa chất bị cấm trước khi đưa ra câu trả lời. Cách tiếp cận này cho thấy AI chuyên ngành cần những lớp kiểm tra bổ sung thay vì chỉ dựa vào khả năng tạo văn bản của các mô hình ngôn ngữ đa dụng.

AI vẫn có thể trở thành công cụ hữu ích giúp nông dân tiếp cận kiến thức, nhận diện vấn đề hoặc tham khảo phương án xử lý nhanh chóng. Tuy nhiên, với những quyết định liên quan đến thuốc bảo vệ thực vật, sức khỏe, tài sản hay mùa vụ, câu trả lời của AI nên được xem là nguồn tham khảo ban đầu, không phải mệnh lệnh để thực hiện ngay. Trong trường hợp của ông Wu, chatbot chỉ mất vài giây để tạo ra một công thức, nhưng gần 10 ha cây trồng đã phải trả giá chỉ sau một đêm cho quyết định thiếu bước kiểm chứng.