Смертоносных роботов не остановить

Исследователи из Университета Баффало предупреждают, что «общество вошло в состояние, когда летальные автономные системы становятся реальностью, причём жутковатой».

Профессор Стивен Хокинг неоднократно предупреждал, что искусственный интеллект в конце концов захочет проявить свою волю, которая вступит в конфликт с интересами человечества, и тогда мы получим мощнейшее автономное оружие, действующее по своему желанию.

Разработка роботов-убийц прописана в бюджете Пентагона отдельной строкой. Неправительственные организации, наподобие Human Rights Watch, уже работают над тем, чтобы остановить этот процесс.

Они требуют, чтобы производство смертоносных автономных систем не доводилось до стадии конечного продукта. 

«Прежде люди сами присутствовали на поле боя, чтобы нажать на курок, - говорит Теро Карпи, профессор Университета Баффало. – Но что будет, когда эта роль ляжет на плечи автономных роботов? Из-за их сложности мы даже не сможет отследить, почему в той или иной ситуации принимается то или иное решение».

Исследователи утверждают, что ключевым моментом становится внедрение в машины этического кода.

«Автономные автомобили действуют согласно правилам дорожного движения и, исходя из них, понимают, когда нужно остановиться, повернуть, уступить дорогу или продолжить движение. Но автономное оружие должно ещё и делать разницу между другом и врагом и, что ещё важнее, понимать, когда они меняются ролями, например в случае окружения. Робот не отличит солдата от мирного жителя, человека от машины, жизнь от смерти», пишут авторы доклада.

«Мы не должны фокусироваться на том, что могут наши технологии, - сказал проф. Капри. – Наш приоритет – идеологические, культурные и политические мотивации, которые управляют этими технологиями».

«Мы потратили кучу времени, изучая историю, - сказал проф. Стивен Хокинг. – Возможно, давайте честно в этом признаемся, мы изучали историю человеческой тупости».