Немецкие ученые нашли способ помешать алгоритмам распознавания объектов, которые используются в беспилотных автомобилях. Определенный рисунок из цветовых пятен вызывает сбои в работе искусственного интеллекта.
Исследователи из мюнхенского Института интеллектуальных систем Макса Планка разработали рисунок, который мешает беспилотным автомобилям распознавать объекты. В результате беспилотники могут неожиданно затормозить или уйти с полосы. Эффект, производимый рисунком на автомобиль, можно сравнить с тем, как стробоскоп вызывает эпилептический припадок. Поведение же беспилотника ученые называют состоянием сродни панике.
Для того, чтобы вызвать системный сбой у движущегося беспилотника, достаточно, чтобы рисунок был небольшим — это может быть принт на футболке или наклейка на дорожном знаке.
На подбор рисунка у исследователей ушло всего лишь четыре часа. Их открытие показывает не только уязвимость искусственного интеллекта в беспилотных автомобилях (об этом было известно и раньше), но и легкость организации помех. Теперь задача производителей — устранить обнаруженную уязвимость.
