«К концу десятилетия ИИ может нас всех убить…»
Генеральный директор Anthropic Дарио Амодеи призвал компании, занимающиеся разработкой ИИ, замедлить темпы развития моделей на фоне растущих опасений по поводу злоупотребления технологиями. Он предложил трёхэтапную схему, которая позволит выиграть время для управления рисками.
«Мы должны замедлить темпы совершенствования возможностей моделей искусственного интеллекта. Прогресс всё равно будет казаться быстрым, и мы должны разумно использовать выигранное время», — написал глава Anthropic.
План предусматривает:
- внедрение независимых экспертов с доступом к внутренним процессам для проверки соблюдения правил безопасности;
- координацию между передовыми компаниями для установления общих стандартов и предотвращения бесконтрольного развития;
- международное сотрудничество для управления глобальными рисками.
С инициативой согласились и другие лидеры отрасли. Илон Маск (xAI) и Сэм Альтман (OpenAI) в своих сообщениях поддержали идею. Альтман, в частности, подтвердил, что OpenAI также будет привлекать независимых экспертов с широкими полномочиями.
Призыв прозвучал после того, как Anthropic опубликовала отчёт об угрозах, где задокументировала использование своих моделей Claude для разработки оружия, киберопераций, слежки и мошенничества. Глава компании указал на растущую способность ИИ к самосовершенствованию и недавние инциденты с несанкционированным доступом моделей к внешним системам как на ключевые причины для замедления.
Тревоги усилились после отставки исследователя Джейкоба Коксона, заявившего, что разработчики ИИ «искренне верят, что к концу десятилетия он может убить нас всех».
При этом глава Anthropic подчеркнул, что речь не идёт о прекращении технического прогресса. По его словам, необходимо лишь обеспечить достаточно времени для согласования и защиты моделей, а также для подтверждения этих шагов сторонними экспертами.
В рамках стратегии Anthropic планирует разместить постоянных сторонних экспертов в ведущих компаниях по разработке ИИ для оценки рисков. Однако на кону стоят и огромные финансовые интересы: компании готовятся к масштабным IPO, и каждая новая возможность помогает оправдывать инвестиции и привлекать финансирование.
Подписывайтесь на журнал «Вестник ГЛОНАСС» и навигационный Макс-канал
По материалам открытых источников