Технологии

Новая хакерская опасность: технология, делающая пешеходов невидимыми для автономного авто

25 Апреля 2017

Учёные разработали способ селективного «ослепления» системы компьютерного видения, из-за чего конкретные компоненты окружающего пространства становятся полностью неопределяемыми.

Это означает, к примеру, что хакер сможет спрятать пешеходов или другие типы препятствий на дороге от автономного автомобиля или манипулировать статичной камерой для того чтобы спрятать преступление.

Исследователи говорят, что эксперимент показывает, насколько «хрупок» нынешний подход, что технология, опирающаяся на едва определимый «шум», легко позволяет убрать с изображения определённую группу препятствий, сделав возможную хакерскую атаку незаметной для людей.

В недавней статье, опубликованной в arXiv, исследователи из Университета Фрайбурга и Центра Bosch по изучению Искусственного интеллекта исследовали проблемы «сегментации сематического образа». Отвечая на вопрос «что изображено на картинке?», система присваивает каждому пикселу определённый класс. Нацелившись на какой-то конкретный класс, системы оставляет остальную часть изображения неприкосновенной. Это затрудняет своевременное обнаружение атаки в большей степени, чем в остальных случаях компьютерного вмешательства.

Такая тактика опирается на «универсальные пертурбации», или шумовые паттерны, которые могут быть использованы, чтобы одурачить систему.

В своём эксперименте исследователи применили метод универсальных пертурбаций к 3475 изображениям из 44 разных городов. Во всех случаях им удалось удалить из картинки почти все пикселы, изображающие пешеходов, оставив остальной пейзаж неприкосновенным. Это вмешательство в работу системы означает, что пешеходы будут невидимы для автономного автомобиля.

Источник: По материалам зарубежных СМИ
Короткая ссылка:  vestnik-glonass.ru/~C806H
18.11.2026
Российские специалисты создали технологию передачи видео и управляющих команд для беспилотников и роботов в условиях нестабильного мобильного или спутникового соединения.
17.11.2026
Президент Российской академии наук Геннадий Красников академик рассказал о будущем в интервью агентству РИА Новости.
16.11.2026
Активное внедрение БПЛА в гражданский и государственный секторы привело к тому, что они стали важной частью критической инфраструктуры. Однако изначально их системы связи и навигации не были рассчитаны на противодействие целенаправленным и злонамеренным атакам.
13.11.2026
Сотрудники Московского государственного университета геодезии и картографии (МИИГАиК), А.Г. Чибуничев и Н.А. Гумбатов создали инновационное решение для аэрофотосъёмки без использования сигналов глобальных навигационных спутниковых систем.

СТАТЬИ ГЛОНАСС