Социальные сети и «гниение мозга»

Фраза «гниение мозга» стала широко использоваться для описания того, как бесконечный поток контента, не требующего значительных усилий для вовлечения, может негативно влиять на когнитивные способности человека. Постоянное потребление онлайн-информации приводит к снижению концентрации, ухудшению памяти и ослаблению способности к критическому мышлению и социальному анализу.

Группа учёных из университетов Техас и Индианы в рамках исследования поигралась с большими языковыми моделями (LLM).

Первая группа LLM потребляла самые популярные посты в соцсетях, вторая читала только длинные, осмысленные, непопулярные тексты из той же соцсети.

В итоге, у LLM, потребляющих популярный контент:

·      Качество рассуждений ухудшилось на 23%;

·      Долгосрочная память упала на 30%;

·      Снизился самоконтроль;

·      Увеличились грубость, нарциссизм и психопатия;

·      Пропуск мыслей: целые цепочки рассуждений пропускались, а процесс саботировался.

Попытки «вылечить» последствия через загрузку полезного контента уже имели слабый эффект. Люди обучаются одинаковым образом, а социальная сеть отображает мнения большинства людей. Хотя частичное, но неполное исцеление наблюдалось: настройка инструкций по масштабированию и предварительная подготовка к очистке данных улучшают сниженные когнитивные способности, но не могут восстановить базовые возможности.

Контролируемые эксперименты проводились на реальных ресурсах Twitter/X, создавая ненужные и обратно контролируемые наборы данных с помощью двух ортогональных операционализаций: M1 (степень вовлечённости) и M2 (семантическое качество), с согласованной шкалой токенов и обучающими операциями в разных условиях.

В результате была предложена гипотеза о «гниении мозга»: постоянное воздействие нежелательного веб-текста вызывает стойкое снижение когнитивных способностей в больших языковых моделях (LLM).

Плюс к тому, исследователи из Нью-Йоркского университета обнаружили, что экстремистские голоса доминируют в социальных сетях, создавая иллюзорное представление о том, что среднестатистический человек чрезвычайно радикален в своих взглядах.

А это значит, если соцсети становятся основным источником информации для человека, у него формируется искажённое восприятие реальности и ухудшаются навыки критического анализа.

По мере того, как большие языковые модели будут масштабироваться и обрабатывать всё большие объёмы веб-данных, для предотвращения кумулятивного ущерба потребуется тщательный отбор и контроль качества.

Подписывайтесь на журнал «Вестник ГЛОНАСС» и навигационный Telegram-канал

По материалам открытых источников