Перейти к содержимому

Ученые обнаружили баг беспилотных автомобилей. У машин случается «эпилептический припадок»

Немецкие ученые нашли способ помешать алгоритмам распознавания объектов, которые используются в беспилотных автомобилях. Определенный рисунок из цветовых пятен вызывает сбои в работе искусственного интеллекта.

Исследователи из мюнхенского Института интеллектуальных систем Макса Планка разработали рисунок, который мешает беспилотным автомобилям распознавать объекты. В результате беспилотники могут неожиданно затормозить или уйти с полосы. Эффект, производимый рисунком на автомобиль, можно сравнить с тем, как стробоскоп вызывает эпилептический припадок. Поведение же беспилотника ученые называют состоянием сродни панике.

Для того, чтобы вызвать системный сбой у движущегося беспилотника, достаточно, чтобы рисунок был небольшим — это может быть принт на футболке или наклейка на дорожном знаке.

На подбор рисунка у исследователей ушло всего лишь четыре часа. Их открытие показывает не только уязвимость искусственного интеллекта в беспилотных автомобилях (об этом было известно и раньше), но и легкость организации помех. Теперь задача производителей — устранить обнаруженную уязвимость.

Ученые обнаружили баг беспилотных автомобилей. У машин случается «эпилептический припадок»
Источник: За Рулем. Исследователи в футболках с рисунком, вызывающим сбой машинного зрения
Источник: За Рулем
Правила сообщества
  • будьте вежливы, уважайте участников;
  • старайтесь оставлять информативные, полезные и интересные комментарии;
  • соблюдайте действующее законодательство;
  • мы не приветствуем размещение промокодов и рекламы;
  • вы тоже можете стать автором проекта и продвигать свои промокоды;

Комментарии (22)

  1. Свежее Окно
    Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

    Насколько серьёзной уязвимостью можно считать простое торможение без смены полосы?

    1. Уютная Лестница
      Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

      Ты а своём уме?

      1. Свежее Окно
        Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

        в твоём )

      2. Улыбчивый Велосипед
        Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

        Артем, еще раз напоминаю: на площадке приветствуется вежливое, уважительное отношение к другим участникам. Агрессия неприемлема, мы не хотим здесь срачей и переходов на личности. Более того, аргументированный ответ всегда и всем интереснее читать, чем наброс. Для набросов есть, например, вконтакте или другие площадки, где срачь это норма

        1. Уютная Лестница
          Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

          я же никого не оскорбляю. соцсетей нет у меня

    2. Свежее Окно
      Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

      к печальным последствиям в случае несоблюдения положенной дистанции,
      и при отсутствии ABS?
      в каких еще случаях?

      1. Добрая Аллея
        Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

        Как минимум — мокрая/скользкая/заснеженная дорога. Да и про соблюдение дистанции — очень не однозначная история

        1. Свежее Окно
          Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

          Можно подробней? Если ABS в порядке, и все дистанции соблюдены. Что конкретно случится, и почему?

          1. Добрая Аллея
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            Бесполезный разговор, если нет соответствующего опыта. Отъедь на сотню километров от крупного города после снегопада и на не очень оживленной трассе нажми тормоз в пол. Не отпускай до полной остановки машины. Идеально, если перед тобой будет изгиб дороги и уж совсем классно — если перед этим температура несколько раз переходила через ноль. На полностью исправной машине, резина (липучки или шипы) — на трое усмотрение. Скорость — пусть даже без превышения. Доро

          2. Свежее Окно
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            не дописал?

          3. Добрая Аллея
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            Возможно, но мысль потерял. Вроде и так достаточно написанного )

          4. Уютная Лестница
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            Да это Детский сад. С кем ты общаешься

          5. Свежее Окно
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            Не дописал )

          6. Добрая Аллея
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            Также поясни, пожалуйста, какую дистанцию ты считаешь безопасной и почему?

          7. Свежее Окно
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            Дистанция согласно формулировке в ПДД.
            Достаточная для того, чтобы успеть остановиться, если перед тобой экстренно затормозят, и не въехать ему в зад. С учетом погодной обстановки, состояния дороги, времени суток и др.

          8. Свежее Окно
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            Дистанция согласно формулировке в ПДД.
            Достаточная для того, чтобы успеть остановиться, если перед тобой экстренно затормозят, и не въехать ему в зад. С учетом погодной обстановки, состояния дороги, времени суток и др.

          9. Добрая Аллея
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            Я последний раз в городе видел такую дистанцию часа в 4 тура, когда тещу вёз в аэропорт. Утром/днем/вечером последний раз — никогда на более или менее живых улицах. Причем в любом городе/стране где был. Поясню: Машина вылетает на встречку и бъет впередиидущую в лоб. Та останавливается мгновенно. Соответственно, ты должен держать дистанцию равную полному тормозному пути + время на реакцию. В разных источниках (разные машины, разный асфальт, шины) цифры разные, но около 25 метров нужно на остановку с 60 км/ч. Время реакции…. ну давай идеальный мир возьмем — 1 секунда.. Это еще 16,6 метров. Итого, ты должен на скорости 60 Км/ч всегда поддерживать дистанцию не меньше 42 метров и после того как перед тобой будет встраиваться очередная машина, оттормаживаться и восстанавливать дистанцию. Веришь в это? 🙂 Даже эмпирическое правило 2-х секунд в городе очень сложно держать — постоянно влезают.

          10. Свежее Окно
            Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

            Может, ты и прав, но если передо мной влезают — я и то успеваю затормозить, к счастью. Даже если тот, кто влез, сразу херачит по тормозам со всей дури )

  2. Шумная Витрина
    Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

    Таких уязвимостей очень и очень много. Например, известно, что подвижному составу «Мосгортранса» нельзя присваивать определённые номера, чтобы программное обеспечение не вылетело.

    1. Свежее Окно
      Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

      чьё ПО?
      Беспилотника, едущего следом?

    2. Свежее Окно
      Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

      чьё ПО?
      Беспилотника, едущего следом?

      1. Шумная Витрина
        Эти комментарии перенесены с прежней платформы обсуждений, когда сайт ещё не собирал согласия на обработку персональных данных. Поэтому имена заменены псевдонимами, а ссылки и контакты авторов удалены.

        Которым пользуется Мосгортранс.

Оставить комментарий