Как рассказывает автор канала Hi-Tech Mail, китайский фермер по фамилии Ву уничтожил десять гектаров урожая кунжута, потому что доверился советам искусственного интеллекта. Он пользовался нейросетью около года и привык, что её рекомендации работают. В этот раз он спросил, как бороться с сорняками и вредителями, и получил рецепт смеси из нескольких химикатов.
Фермер не стал проверять информацию у специалистов. На следующий день после обработки поля погибли не только сорняки, но и сам кунжут. Как пояснили эксперты, одно из предложенных веществ используют для борьбы с широколистными сорняками на соевых полях. Кунжут тоже относится к широколистным, поэтому гербицид уничтожил и его. К тому же такие средства обычно применяют на отдельных участках, а не по всему полю.
Когда фермер спросил у нейросети, что пошло не так, ИИ предположил, что проблема в одном из компонентов смеси. На странице чата было предупреждение, что ответы могут быть ошибочными и требуют проверки. Но мужчина его не заметил или не придал значения.
Короче, нейросети дают убедительные и подробные ответы, но это не значит, что они правильные. Доверие к ИИ сформировалось после нескольких удачных советов, и фермер не стал перепроверять опасную рекомендацию. Ошибка обошлась ему в целый урожай.
Что пишут книги:
А еще мы рассказали о том, почему освежители воздуха не работают: химия против парфюмерии.
Фото: Magnific
