Геннадий Красников: верификация ИИ – тяжёлая работа

Президент РАН академик Г.Я. Красников в интервью программе «Чёрные дыры. Белые пятна» высказал своё мнение о внедрении ИИ в современную науку и жизнь людей.

Он отметил, в частности, что «методы машинного обучения или искусственный интеллект – это инструмент. Для того чтобы исследователь, учёный мог бы более эффективно работать. Сегодня, в связи с развитием вычислительной техники, микроэлектроники, мы видим, как всё интенсифицируется. И действительно, IT-технологии, методы машинного обучения входят не только в жизнь наших исследователей, но и в жизнь каждого человека.

И здесь динамика, прогноз, который мы видим, говорит нам, что с каждым годом влияние машинного обучения на нашу жизнь будет существенно возрастать. Не только для исследователей, но и в жизни простого нашего обывателя.

Яркий пример: работа Большого коллайдера. Большой международный проект – его запускают, он получают колоссальные базы данных по столкновениям элементарных частиц, потом год идёт обработка суперкомпьютерами, ищут определённые корреляции… конечно, сегодня методы машинного обучения стали везде использоваться, в создании новых материалов, новых лекарств, новых подходов к лечению. Новые направления науки – и физика, и микроэлектроника – массово используют эти методы.

Если внедрять в нашу жизнь, нашу практику беспилотный транспорт, роботов – если там не использовать определённые требования к доверенности к информационной системы, к этике, то, конечно, это может иметь отрицательные последствия. Большую опасность несёт то, что методы машинного обучения могут генерировать образы, что мы видим – всё больше случается мошенничеств, когда можно воссоздать образ родного человека, голос, и мошенники всё больше этим активно пользуются.

Мы постоянно ставим вопрос, что нам не только важен ИИ, нам важен доверенный ИИ, потому что когда неконтролируемым образом создаются фреймворки, которые используются для создания определённого программного продукта для ИИ, то там могут быть уязвимости. И этими уязвимостями могут пользоваться нехорошие люди, во благо для себя и в ущерб нашему населению. Поэтому мы всегда говорим, что надо паузу взять и главное, чтобы было доверие. Это тяжёлая работа, иногда не справляются, чтобы все проверить коды на предмет уязвимости, и мы тоже ставим вопрос, что должен быть определённый порядок, помимо определённого кодекса, нужно ограничивать количество программ. В области беспилотья у американцев, например, есть 60% базовых программ, которыми все пользуются. А когда каждая компания пытается создать, пусть и на открытых кодах, свой программный продукт в этой области, то его очень сложно проверить на доверенность.

Представьте себе, что у вас какой-нибудь самолёт с автопилотом и кто-то перехватил его управление, то это большая опасность».