Черепаха или винтовка? Как обманывали искусственный интеллект
К искусственному интеллекту частенько обращаются за идентификацией изображений. В этом вопросе алгоритм уже не раз доказывал свою эффективность. Ранее мы писали о том, что программа, основываясь на визуальных образах, может раньше врачей диагностировать болезнь Альцгеймера, определять по фото сексуальную ориентацию и узнавать актеров «кино для взрослых». Тем не менее нейронную сеть можно легко обмануть. О том, как ученые Массачусетского технологического института превратили пластиковую черепаху в винтовку, сообщает ресурс 3ders.org.
Мы, к сожалению, уступаем нейронной сети в некоторых вопросах, а она, к счастью, пока еще не так совершенна. В сентябре группа исследователей из университета Вашингтона заставила ИИ читать дорожные знаки по-другому, внеся минимальные поправки в изображения. Для того чтобы одурачить системы беспилотников, понадобилось всего-то несколько наклеек и затемненных областей на картинке. Человек по-прежнему мог различить знаки, а вот искусственный интеллект — нет. Между тем британский художник Джеймс Бридл умудрился одурачить нейронную сеть, подстроив «беспилотному зверю» ловушку из обычной соли — машина распознала ее как дорожную разметку.
Ученые Массачусетского технологического института (МТИ) наклейки и дорожные знаки не печатали, зато они распечатали на 3D-принтере черепаху. Трехмерное пресмыкающееся выглядело точь-в-точь как настоящее, с какой стороны на него ни глянь, но в глазах ИИ Inception-v3 от Google черепашка представляла угрозу. В ней алгоритм рассмотрел винтовку.
На самом деле системы вроде «гугловской» Inception-v3 невероятно умны, но, в отличие от старой доброй логики, к которой обращаемся мы, они работают со сложными алгоритмами. Поэтому их все еще можно обмануть. Исследователи МТИ воспользовались исходным кодом Inception-v3 для того, чтобы понять, по каким критериям система идентифицирует винтовку, а потом распечатали черепашку. Конечно, такой трюк работает при соблюдении определенных условий: нужно подстроить ракурс или конкретный угол. Нельзя заставить ИИ думать, что перед ним лицо вместо пакетика чипсов. Но если потрудиться и подумать, как правильно его «подать», то ИИ непременно попадется на удочку. К слову, этой лазейкой пользуются и злоумышленники, пытаясь скрыть от правоохранительных органов свои личности.
Ученые МТИ в своем эксперименте зашли дальше: они показывали черепаху с разных сторон, но ИИ так и не понял, на что же он все-таки смотрит. В дополнение к черепахе разработчики напечатали и бейсбольный мяч, который алгоритм определил как чашечку эспрессо. С одной стороны, исследователи результатами работы довольны, ведь им удалось добиться своего, а с другой стороны, они обеспокоены тем, как легко удалось одурачить ИИ.
