Технологии

Новая хакерская опасность: технология, делающая пешеходов невидимыми для автономного авто

25 Апреля 2017
Новая хакерская опасность: технология, делающая пешеходов невидимыми для автономного авто

Учёные разработали способ селективного «ослепления» системы компьютерного видения, из-за чего конкретные компоненты окружающего пространства становятся полностью неопределяемыми.

Это означает, к примеру, что хакер сможет спрятать пешеходов или другие типы препятствий на дороге от автономного автомобиля или манипулировать статичной камерой для того чтобы спрятать преступление.

Исследователи говорят, что эксперимент показывает, насколько «хрупок» нынешний подход, что технология, опирающаяся на едва определимый «шум», легко позволяет убрать с изображения определённую группу препятствий, сделав возможную хакерскую атаку незаметной для людей.

В недавней статье, опубликованной в arXiv, исследователи из Университета Фрайбурга и Центра Bosch по изучению Искусственного интеллекта исследовали проблемы «сегментации сематического образа». Отвечая на вопрос «что изображено на картинке?», система присваивает каждому пикселу определённый класс. Нацелившись на какой-то конкретный класс, системы оставляет остальную часть изображения неприкосновенной. Это затрудняет своевременное обнаружение атаки в большей степени, чем в остальных случаях компьютерного вмешательства.

Такая тактика опирается на «универсальные пертурбации», или шумовые паттерны, которые могут быть использованы, чтобы одурачить систему.

В своём эксперименте исследователи применили метод универсальных пертурбаций к 3475 изображениям из 44 разных городов. Во всех случаях им удалось удалить из картинки почти все пикселы, изображающие пешеходов, оставив остальной пейзаж неприкосновенным. Это вмешательство в работу системы означает, что пешеходы будут невидимы для автономного автомобиля.

Источник: По материалам зарубежных СМИ
Короткая ссылка:  vestnik-glonass.ru/~C806H
29.07.2025
Министерство цифрового развития, связи и массовых коммуникаций и представители бизнеса обсуждают введение новых правил для отключения мобильного интернета. В последнее время такие отключения стали происходить всё чаще.
28.07.2025
По мере того, как квантовые фотонные системы становятся все более масштабными и сложными, такие чипы могут стать строительными блоками для различных технологий: от защищённых сетей связи до современных датчиков и, в конечном итоге, инфраструктуры квантовых вычислений.
25.07.2025
В течение прошедшего года Военно-космические силы США тесно сотрудничали с Военно-воздушными силами и военно-морским флотом, перенимая их опыт в разработке передовых, реалистичных условий обучения и испытаний для объединённого ударного истребителя F-35, рассчитывая в будущем создать аналогичные возможности для космической отрасли.
24.07.2025
Возможности проведения и обеспечения пилотируемых космических полётов, соорбитальные ударные космические аппараты, вместительные и многофункциональные космические станции, надёжные спутниковые группировки – лишь некоторые из современных возможностей России в космической сфере.

СТАТЬИ ГЛОНАСС

Киберугрозы как реальность сегодняшнего дня
В 2024 году в нашей стране было зарегистрировано более 765 тысяч правонарушений, совершённых с применением информационно-телекоммуникационных технологий, что составляет приблизительно 40% от общего объёма преступлений. Такие данные приводит новостной сайт Центра международной торговли со ссылкой на МВД РФ. В этом году их будет зарегистрировано ещё больше – можно ни разу не сомневаться. Цифровизация проникла во все сферы деятельности, сделав нашу жизнь продвинутой и комфортной – мы привыкли мгновенно оплачивать всё что хочешь через банковские приложения, управлять бизнесом в облаке, общаться в социальных сетях и одним кликом скупать содержимое маркетплейсов. Увы – вслед за этими удобствами идут массовые утечки персональных данных, промышленный шпионаж, репутационные риски, угрозы национальной безопасности и пр. Это не только экономические потери, но и серьёзные вызовы для государственного суверенитета и общественного доверия к цифровым системам.