MWC 2018
2018
Computex
IFA 2018
Пожилой фермер из округа Чучжоу, что в провинции Аньхой на востоке Китая, год назад начал пользоваться советами ИИ. Однако после нескольких месяцев взаимодействия с искусственным разумом последний выдал занимающемуся сельским хозяйством пользователю ужасный совет, который привёл к гибели всего его урожая кунжута.
Источник изображения: Unsplash / Levi T.
По данным тайваньской компании Ctwant, 67-летний господин Ву изначально не очень доверял советам искусственного интеллекта, но изменил своё мнение, когда они показались ему действительно рабочими. К сожалению, последующий ошибочный совет ИИ стал катастрофическим, поскольку привёл к гибели 10 гектаров всходов кунжута.
Господин Ву обратился к ИИ за советом по борьбе с сорняками и вредителями при уходе за кунжутом. ИИ посоветовал использовать «высокоэффективный флупириметалин» и «флусульфасульфаэфир» для уничтожения сорняков, смешав их с «тиаметоксазином» и «метиловой солью». Фермер в точности следовал советам ИИ, не проверяя информацию у настоящих сельскохозяйственных специалистов и даже не сверяя ответы с какими-либо другими онлайн-ресурсами.
Результат ошибки ИИ не заставил себя ждать: уже на следующий день не только сорняки, но и всходы кунжута массово погибли. «Если этим опрыскать, на следующий день всходы не выживут. И сорняки, и всходы кунжута погибнут, причём всходы погибнут ещё быстрее», — сказал Ву в видеоинтервью.
Когда он спросил ИИ, почему это произошло, тот предположил, что причиной может быть «флусульфасульфаэфир». Сельскохозяйственные эксперты заявили, что это химическое вещество в основном используется против широколистных сорняков на соевых полях. Кроме того, оно применяется для локального опрыскивания проблемных участков, а не целого поля.
Фермер утверждает, что ИИ не предупредил его о возможных рисках, связанных со следованием его ответам. Однако на странице ИИ-чат-бота было напоминание, что сгенерированные ответы нейросети могут быть неверными, поэтому их следует проверять.
Источник:
