Дипфейковые карты могут реально нарушить ваше видение мира

В своей статье профессор Вашингтонского университета Бо Чжао использовал методы искусственного интеллекта, аналогичные тем, которые использовались для создания так называемых «дипфейков» (deepfake, реалистичная манипуляция аудио- и видеоматериалами с помощью искусственного интеллекта, прим. Редакции) для изменения спутниковых изображений нескольких городов. Профессор и его коллеги поменяли местами изображения Сиэтла и Пекина, чтобы показать здания, которых нет в Сиэтле, а также удалить некоторые строения и заменить их зеленью в Пекине.

Был использован алгоритм под названием CycleGAN для манипулирования спутниковыми фотографиями. Алгоритм, разработанный исследователями из Калифорнийского университета в Беркли, широко используется для фальсификации изображений. Он обучает искусственную нейронную сеть распознавать ключевые характеристики определённых изображений, такие как стиль живописи или особенности на карте. Затем другой алгоритм помогает улучшить производительность первого, пытаясь определить, когда изображение было обработано.

Как и в случае с видеоклипами дипфейк, которые якобы показывают людей в компрометирующих их ситуациях, такие изображения могут вводить в заблуждение правительства или распространяться в социальных сетях, сеять дезинформацию или сомнения в реальной визуальной информации.

«Это большая проблема, которая сейчас, может, и не затрагивает среднестатистического гражданина, но выстрелит в следующем десятилетии, – говорит Грант Маккензи, доцент кафедры пространственных данных в Университете Макгилла в Канаде, не участвовавший в этой работе. – Представьте себе мир, в котором правительство штата или актёр могут реалистично манипулировать изображениями, чтобы показать, что в каком-то месте либо ничего нет, либо там другой объект. Я не знаю, что можно с этим сделать, как это остановить».

Несколько грубо обработанных спутниковых изображений уже распространились в социальных сетях, включая фотографию, на которой якобы изображена Индия, освещённая во время индуистского фестиваля Дивали, который, по-видимому, был подправлен вручную. Возможно, это всего лишь вопрос времени, когда гораздо более сложные спутниковые снимки дипфейк будут использоваться, например, для сокрытия оружейных установок или ложного оправдания военных действий.

Габриэль Лим, исследователь из Центра Шоренштейна Гарвардской школы Кеннеди (США), который специализируется на манипулировании средствами массовой информации, утверждает, что карты можно использовать для введения в заблуждение и без использования AI. Так, она указывает на изображения, распространённые в интернете, предполагающие, что Александрии Окасио-Кортес не было там, где она утверждала, что была во время взятия бунтующими массами Капитолия 6 января. «Никакой причудливой технологии, но она может достичь аналогичных целей», – говорит Лим.

Манипулируемые аэрофотоснимки могут также иметь коммерческое значение, учитывая, что такие изображения чрезвычайно ценны для цифрового картографирования, отслеживания погодных систем и направления инвестиций.

Уже и разведка США признала, что манипулирование спутниковыми снимками представляет собой растущую угрозу. «Противник может использовать поддельную или манипулируемую информацию, чтобы повлиять на наше понимание мира», – говорит представитель Национального агентства геопространственной разведки, входящего в состав Пентагона, которое контролирует сбор, анализ и распространение геопространственной информации.

Судебно-медицинский анализ может помочь идентифицировать поддельные изображения, но рост числа автоматизированных подделок может потребовать новых подходов. Программное обеспечение может распознавать явные признаки манипуляций, такие как визуальные артефакты или изменения данных в файле. Но AI может научиться удалять такие сигналы, создавая игру в кошки-мышки между фальсификаторами и их разоблачителями.

«Важность знания, проверки и доверия к нашим источникам только возрастает, и технологии играют большую роль в достижении этой цели», – говорит пресс-секретарь Национального агентства геопространственной разведки.

Обнаружение изображений, манипулируемых с помощью AI, стало важной областью научных, промышленных и правительственных исследований. Крупные технологические компании, такие как Facebook, которые обеспокоены распространением дезинформации, поддерживают усилия по автоматизации идентификации дипфейкового видео.

Чжао из Вашингтонского университета планирует изучить способы автоматической идентификации спутниковых снимков дипфейк. Он говорит, что изучение того, как ландшафты меняются с течением времени, может помочь выявить всякие подозрительные процессы. «Пространственно-временные паттерны будут действительно важны», – говорит он.

Однако Чжао отмечает, что даже если у правительства есть технологии, необходимые для обнаружения таких подделок, общественность может в любой момент быть застигнута врасплох. «Спутниковое изображение, которое широко распространено в социальных сетях, может стать причиной больших проблем», – говорит он.

Подписывайтесь на журнал «Вестник ГЛОНАСС» и навигационный канал на TamTam

По материалам Wired