Греф: чат-боты – вещь небезопасная

Как сообщает ТАСС, использование российскими компаниями открытых моделей искусственного интеллекта (ИИ), в частности отправка запросов без большого количества конфиденциальных данных, может привести к блокировке от поставщика модели ИИ. Об этом заявил глава Сбербанка Герман Греф на ежегодной технологической конференции Сбера «Гигаконф-2026».

«Antropic выпустил отчёт о том, кто и как использовал claude, и в том числе там более 80 раз упоминаются российские компании, некоторые из них даже названы. Нужно понимать, что это использование открытых моделей с отправлением своих данных [компаний], – сказал он. – Даже через запросы, когда вы не отправляете большой объём конфиденциальных данных туда, но делитесь своими замыслами – всё это агрегируется, и поставщик модели всё видит и будет решать, кого блокировать».

Греф подчеркнул, что данные модели искусственного интеллекта ни в коем случае нельзя интегрировать в критические процессы компании. «Я уже не говорю о том, что у нас по закону запрещена кроссграничная поставка данных», - отметил глава Сбербанка.

Следующими моделями ИИ будут объявлены AGI (Artificial General Intelligence – система, обладающая универсальным интеллектом на уровне человека). Однако в будущем не будет «монстра», который заменит человеческий разум, полагает Греф.

Греф высказал мнение, что сейчас все идёт к тому, чтобы ИИ стал рациональным дополнением человеческих способностей.

«Следующей проблемой уже будет не столько AGI и как правильно назвать следующее достижение человечества в области искусственного интеллекта, а то, как эффективно скомпилировать <...> человека и искусственный интеллект. Очень часто сейчас говорят про иммерсивность искусственного интеллекта, то есть тогда, когда человек сможет нативно использовать в своей сложной когнитивной деятельности все возможности искусственного интеллекта. Вот это, мне кажется, будет колоссальным прорывом», - сказал он.

По слова Грефа, этот прорыв точно не произойдет на рубеже двадцатых годов, а произойдет на рубеже от тридцатых до сороковых годов.

Основной причиной отставания российских моделей искусственного интеллекта (ИИ) от китайских являются неравные условия, в частности наличие ограничения в мощностях.

«Мы пока отстаём, и я боюсь, это отставание будет сохраняться. Вопрос, каким оно будет? Сегодня мы видим наше отставание, по всем оценкам, от китайских моделей примерно 6 месяцев. Причина этого отставания только в одном – мы находимся в неравных условиях с китайскими компаниями, у которых фактически сегодня нет никаких ограничений в мощностях. По всем остальным [параметрам] я считаю, мы ничем не уступаем», - сказал он.

По его словам, побеждает тот, кто может делать большое количество экспериментов параллельно, что в свою очередь требует большого количества мощностей.

«Китайцы, они не просто так уступают американцам, на те же самые полгода, потому что у американцев ещё больше мощностей для проведения экспериментов», - отметил Греф.

При этом замглавы администрации президента РФ Максим Орешкин обратил внимание, что интенсивный путь наращивания количества параметров моделей ИИ, улучшение качества приводит к определённым пределам. «Да, у нас прогресс здесь продолжается. Каждая следующая модель – лучше предыдущей. Но на самом деле гораздо важнее становится то, как ты эту модель используешь, как ты встраиваешь в конкретную реальность», - сказал он.

Орешкин подчеркнул, что внутренние качества пользователя становятся гораздо более важными, чем качество модели ИИ. «Не так важно отставание модели, гораздо важнее становится ваша внутренняя готовность и понимание того, что вы внедряете, как вы внедряете», - отметил Орешкин.