Пентагон: попытка «накинуть узду» на автономное оружие

Обеспокоенные тем, как искусственный интеллект может быть использован для составления списков целей или оперативных планов, законодатели хотят расширить ограничения на автономное оружие, чтобы решить вопросы планирования миссий и выбора целей. Версия законопроекта о национальной обороне на 2027 год, предложенная Комитетом по вооружённым силам Палаты представителей, обязывает Пентагон пересмотреть директиву 3000.09, чтобы она охватывала деятельность по планированию миссий.

В случае одобрения это станет «большим изменением», — сказал Брайан Кларк из Института Хадсона. Эта мера входит в число нескольких законопроектов, рассматриваемых Конгрессом, которые направлены на решение проблем, связанных с развивающимся искусственным интеллектом и смежными возможностями, включая законопроект, посвящённый орбитальным центрам обработки данных, и ещё один, который предусматривает создание нового боевого командования для надзора за автономными и роботизированными системами.

Согласно плану, включённому в поправку к законопроекту, представленную Палатой представителей, Пентагон должен будет разработать или пересмотреть руководящие принципы для «систем, использующих искусственный интеллект и предназначенных для поддержки, рекомендации или существенного влияния на оперативные решения, связанные с применением силы, включая системы, используемые для оперативного планирования, разработки целей, вооружения или рекомендаций по ведению боевых действий», — говорится в заявлении подкомитета по кибербезопасности, информационным технологиям и инновациям Комитета по вооружённым силам Палаты представителей.

В докладе Исследовательской службы Конгресса США за 2025 год «Политика США в отношении летальных автономных систем вооружения» рассматривалась Директива 3000.09, и отмечалось, что этот документ посвящён тому, как операторы могут принимать решения о выборе цели и поражении цели, используя автономную систему вооружения. Директива, впервые опубликованная в 2012 году, в последний раз обновлялась в 2023 году.

Операция «Эпическая ярость» только что завершилась, и вопрос о том, как принимаются эти решения, вновь оказался в центре внимания.

«Во время войны в Иране [ведомство] активно использовало системы поддержки принятия решений на основе ИИ, например, для планирования ударов, и это говорит о том, что теперь необходимо разработать систему управления и для таких систем», — сказал Кларк, директор Центра оборонных концепций и технологий Хадсонского университета. По словам Кларка, планировщики больше не «предлагают цепочку поражения, чтобы что-то взорвать, что довольно просто. Теперь [они] просят систему решить, какие именно средства следует использовать для атаки этих целей, а затем определить, какие средства следует использовать для атаки этих целей, и построить цепочки поражения, чтобы это осуществить».

По его словам, проблемы сложны, поскольку традиционные процессы включают в себя множество планировщиков с широким спектром знаний, по своей сути сложную группу со встроенными механизмами сдержек и противовесов. Искусственный интеллект, напротив, может учитывать эти факторы, но понять, как принимается решение, практически невозможно — это, образно говоря, «чёрный ящик», сказал Кларк.

Отставной генерал-лейтенант ВВС Билл Бендер, бывший начальник информационного отдела ВВС, считает важным парламентский надзор за развитием технологий ИИ.

Использование ИИ в системах планирования миссий и целей «как минимум требует законодательного контроля», — сказал Бендер. Пентагон и Конгресс должны объединить усилия для разработки взвешенного и продуманного подхода к внедрению инструментов ИИ, обеспечив при этом, чтобы механизмы контроля не ограничивали ИИ без необходимости, что может привести к упущенным возможностям.

Подписывайтесь на журнал «Вестник ГЛОНАСС» и навигационный Telegram-канал

По материалам открытых источников