Китайский фермер уничтожил 10 гектаров кунжута, послушав вредный совет ИИ

Пожилой фермер из округа Чучжоу, что в провинции Аньхой на востоке Китая, год назад начал пользоваться советами ИИ. Однако после нескольких месяцев взаимодействия с искусственным разумом последний выдал занимающемуся сельским хозяйством пользователю ужасный совет, который привёл к гибели всего его урожая кунжута.

По данным тайваньской компании Ctwant, 67-летний господин Ву изначально не очень доверял советам искусственного интеллекта, но изменил своё мнение, когда они показались ему действительно рабочими. К сожалению, последующий ошибочный совет ИИ стал катастрофическим, поскольку привёл к гибели 10 гектаров всходов кунжута.

Господин Ву обратился к ИИ за советом по борьбе с сорняками и вредителями при уходе за кунжутом. ИИ посоветовал использовать «высокоэффективный флупириметалин» и «флусульфасульфаэфир» для уничтожения сорняков, смешав их с «тиаметоксазином» и «метиловой солью». Фермер в точности следовал советам ИИ, не проверяя информацию у настоящих сельскохозяйственных специалистов и даже не сверяя ответы с какими-либо другими онлайн-ресурсами.

Результат ошибки ИИ не заставил себя ждать: уже на следующий день не только сорняки, но и всходы кунжута массово погибли. «Если этим опрыскать, на следующий день всходы не выживут. И сорняки, и всходы кунжута погибнут, причём всходы погибнут ещё быстрее», — сказал Ву в видеоинтервью.

Когда он спросил ИИ, почему это произошло, тот предположил, что причиной может быть «флусульфасульфаэфир». Сельскохозяйственные эксперты заявили, что это химическое вещество в основном используется против широколистных сорняков на соевых полях. Кроме того, оно применяется для локального опрыскивания проблемных участков, а не целого поля.

Фермер утверждает, что ИИ не предупредил его о возможных рисках, связанных со следованием его ответам. Однако на странице ИИ-чат-бота было напоминание, что сгенерированные ответы нейросети могут быть неверными, поэтому их следует проверять.