Исследователи из четырёх университетов США показали, что классификаторы на основе нейронных сетей, которые используются в автопилоте для распознавания дорожных знаков, уязвимы перед вандализмом и стрит-артом. Чтобы обмануть машинное зрение, достаточно наклеек. Так, облепленный стикерами знак Stop компьютер в 100% случаев принял за ограничение скорости до 45 миль в час (72 км/ч), а искажённый «Правый поворот» с той же вероятностью был ошибочно опознан как Stop или «Дополнительная полоса».

Учёные использовали четыре вида «атак». В первой знак был частично затемнён, во второй стрелку замаскировала серыми стикерами, в третьей Stop дополнили словами «любовь» и «ненависть», в последнем хаотично налепили четыре прямоугольника.

Понятно, что авторы работы использовали не какой-то универсальный алгоритм машинного обучения. У производителей они разные. Тем не менее проблема обозначена. Сторонники автономного движения в ответ на исследование возражают: автопилот не полагается на одно лишь «зрение», а рассматривает знаки в общем контексте, основываясь, к примеру, на местоположении автомобиля, получая информацию от других транспортных средств и инфраструктуры. Несколько камер, радаров и других датчиков будто бы не позволят ошибиться. Хорошо, если так.