Технологии

Дипфейковые карты могут реально нарушить ваше видение мира

8 Июня 2021
Дипфейковые карты могут реально нарушить ваше видение мира

В своей статье профессор Вашингтонского университета Бо Чжао использовал методы искусственного интеллекта, аналогичные тем, которые использовались для создания так называемых «дипфейков» (deepfake, реалистичная манипуляция аудио- и видеоматериалами с помощью искусственного интеллекта, прим. Редакции) для изменения спутниковых изображений нескольких городов. Профессор и его коллеги поменяли местами изображения Сиэтла и Пекина, чтобы показать здания, которых нет в Сиэтле, а также удалить некоторые строения и заменить их зеленью в Пекине.

Был использован алгоритм под названием CycleGAN для манипулирования спутниковыми фотографиями. Алгоритм, разработанный исследователями из Калифорнийского университета в Беркли, широко используется для фальсификации изображений. Он обучает искусственную нейронную сеть распознавать ключевые характеристики определённых изображений, такие как стиль живописи или особенности на карте. Затем другой алгоритм помогает улучшить производительность первого, пытаясь определить, когда изображение было обработано.

Как и в случае с видеоклипами дипфейк, которые якобы показывают людей в компрометирующих их ситуациях, такие изображения могут вводить в заблуждение правительства или распространяться в социальных сетях, сеять дезинформацию или сомнения в реальной визуальной информации.

«Это большая проблема, которая сейчас, может, и не затрагивает среднестатистического гражданина, но выстрелит в следующем десятилетии, – говорит Грант Маккензи, доцент кафедры пространственных данных в Университете Макгилла в Канаде, не участвовавший в этой работе. – Представьте себе мир, в котором правительство штата или актёр могут реалистично манипулировать изображениями, чтобы показать, что в каком-то месте либо ничего нет, либо там другой объект. Я не знаю, что можно с этим сделать, как это остановить».

Несколько грубо обработанных спутниковых изображений уже распространились в социальных сетях, включая фотографию, на которой якобы изображена Индия, освещённая во время индуистского фестиваля Дивали, который, по-видимому, был подправлен вручную. Возможно, это всего лишь вопрос времени, когда гораздо более сложные спутниковые снимки дипфейк будут использоваться, например, для сокрытия оружейных установок или ложного оправдания военных действий.

Габриэль Лим, исследователь из Центра Шоренштейна Гарвардской школы Кеннеди (США), который специализируется на манипулировании средствами массовой информации, утверждает, что карты можно использовать для введения в заблуждение и без использования AI. Так, она указывает на изображения, распространённые в интернете, предполагающие, что Александрии Окасио-Кортес не было там, где она утверждала, что была во время взятия бунтующими массами Капитолия 6 января. «Никакой причудливой технологии, но она может достичь аналогичных целей», – говорит Лим.

Манипулируемые аэрофотоснимки могут также иметь коммерческое значение, учитывая, что такие изображения чрезвычайно ценны для цифрового картографирования, отслеживания погодных систем и направления инвестиций.

Уже и разведка США признала, что манипулирование спутниковыми снимками представляет собой растущую угрозу. «Противник может использовать поддельную или манипулируемую информацию, чтобы повлиять на наше понимание мира», – говорит представитель Национального агентства геопространственной разведки, входящего в состав Пентагона, которое контролирует сбор, анализ и распространение геопространственной информации.

Судебно-медицинский анализ может помочь идентифицировать поддельные изображения, но рост числа автоматизированных подделок может потребовать новых подходов. Программное обеспечение может распознавать явные признаки манипуляций, такие как визуальные артефакты или изменения данных в файле. Но AI может научиться удалять такие сигналы, создавая игру в кошки-мышки между фальсификаторами и их разоблачителями.

«Важность знания, проверки и доверия к нашим источникам только возрастает, и технологии играют большую роль в достижении этой цели», – говорит пресс-секретарь Национального агентства геопространственной разведки.

Обнаружение изображений, манипулируемых с помощью AI, стало важной областью научных, промышленных и правительственных исследований. Крупные технологические компании, такие как Facebook, которые обеспокоены распространением дезинформации, поддерживают усилия по автоматизации идентификации дипфейкового видео.

Чжао из Вашингтонского университета планирует изучить способы автоматической идентификации спутниковых снимков дипфейк. Он говорит, что изучение того, как ландшафты меняются с течением времени, может помочь выявить всякие подозрительные процессы. «Пространственно-временные паттерны будут действительно важны», – говорит он.

Однако Чжао отмечает, что даже если у правительства есть технологии, необходимые для обнаружения таких подделок, общественность может в любой момент быть застигнута врасплох. «Спутниковое изображение, которое широко распространено в социальных сетях, может стать причиной больших проблем», – говорит он.


Подписывайтесь на журнал «Вестник ГЛОНАСС» и навигационный канал на TamTam

По материалам Wired

Короткая ссылка:  vestnik-glonass.ru/~BXHuY
20.03.2024
Сотрудники Научно-исследовательского института прикладной механики и электродинамики (НИИ ПМЭ) МАИ разработали высокочастностный ионный двигатель с электродами из углерод-углеродного композиционного материала. Новинку предполагается использовать в низкоорбитальных малы спутниках навигации, связи и дистанционного зондирования Земли.
18.03.2024
Холдинг «Росэлектроника» начал выпуск линейки электронных и электротехнических модулей управления для легких дронов, наземных, подводных и надводных беспилотников. Об этом сообщает Ростех.
15.03.2024
Ученые Сибирского федерального университета разработали высокоточную систему на базе ГЛОНАСС для мониторинга опасных объектов инфраструктуры, сообщили в пресс-службе университета.
14.03.2024
Картограф из компании «Яндекс» Анна Ананьева опубликовала исследование «Навигация в Арктике. Спутниковые стратегии повышения безопасности на море».

СТАТЬИ ГЛОНАСС

Необходим поиск отечественных специалистов в области кибербезопасности сельского хозяйства
Перспективы реализации дорожной карты одного из направлений Национальной технологической инициативы (НТИ) в области сельского хозяйства, по просьбе журнала «Вестник ГЛОНАСС», оценил эксперт в навигационно-информационной сфере Семён Видный. В современных, быстроизменяющихся условиях особого решения требуют вопросы безопасности (направление SafeNet), тем более на таком значимом для государства агросекторе. В этом направлении на данный момент – огромное количество профессиональных участников. Но большинство из них используют иностранные наработки, что в настоящий момент и на перспективу неприемлемо. Также все профессионалы никогда не занимались этим специфическим сектором экономики – сельским хозяйством. Так что здесь придётся ещё поискать участников.
Аграриям предстоит работать в одной системе координат
Как известно, основой современного цифрового агрокомплекса является картогорафирование. Семён Видный, эксперт в области применения современных навигационно-информационных технологий в сельском хозяйстве поделился с читателями журнала «Вестник ГЛОНАСС» с кругом решаемых проблем при обработке массивов картографических данных. Таким образом, выяснилось, что все используют данные в различных системах координат, но пытаются укладывать их на одну картографическую основу и, соответственно, получают нестыковки и ошибки. Всё это приводит к тому, что используемые данные из Роскадастра, из Центров химизации и от высокоточных источников (данные дистанционного зондирования Земли, данные с беспилотников и высокоточных навигационных или геодезических приборов) не состыковываются друг с другом и только вводят в заблуждение сельхозтоваропроизводителей и собственников сельхозземель. И это также отражается на отношениях со смежными землепользователями.