Как искусственный интеллект влияет на молодёжь?
Введение
Искусственный интеллект (далее ИИ), несомненно, окажет большое влияние на наше общество. Он уже сейчас оказывает на него большое влияние. Вследствие этого молодые поколения, которые сейчас учатся и взрослеют, будут соприкасаться с ним больше всех. Дети, которые с ранних лет пользуются социальными сетями, сами того не сознавая, ежедневно вступают в «контакт» с ИИ. Хорошо известны многочисленные проблемы, связанные с чрезмерным использованием телефонов и социальных сетей. С другой стороны, хотя ИИ уже применяется во многих сферах повседневной жизни, он только переживает свой «ренессанс». Он станет «двигателем», встроенным почти в каждый сегмент современных технологий. С учётом этого ИИ может сделать жизнь наших детей лучше или хуже. Этот текст попытается указать на определённые проблемы, которые существуют уже сейчас, и на те, которые могут возникнуть в будущем; в основном они связаны с соединением ИИ и социальных сетей, а также с общим использованием ИИ молодёжью.
Социальные сети
Не новость, что молодёжь пользуется социальными сетями. От Фейсбука до Инстаграма и ТикТока молодые люди с самых ранних лет выстраивают свою «цифровую идентичность» через ту или иную социальную сеть. Цифры обычно колеблются от 3 до 5 часов ежедневного использования одной или нескольких социальных сетей. Это говорит о том, что содержимое этих сетей давно стало частью повседневной жизни молодых поколений. Говоря принципиально, модели ИИ уже много лет используются при построении социальных сетей. Основная задача более или менее всех таких сетей состоит в том, чтобы пользователь проводил в них как можно больше времени. Таким образом, само устройство социальных сетей, то есть их базовые алгоритмы, прямо влияет на формирование зависимости у пользователей. В этом им, разумеется, помогают алгоритмы ИИ, которые предлагают контент, похожий на тот, что пользователь просматривал в прошлом.
Как говорит Шошана Зубофф, основная модель заработка Google и Facebook состоит в предсказании поведения пользователей. Одна из причин этого – показ пользователям как можно более «удачной» рекламы. Своим «предсказанием поведения» пользователей Google придумал новую модель заработка, которую среди прочих применит и Facebook (позднее Meta) при построении своей социальной сети. Так у нас появляются рекомендации, соответствующие нашим интересам, то есть нашим предыдущим поискам. Здесь следует заметить, что «бизнес-модель» упомянутых компаний основана на том, чтобы пользователь проводил как можно больше времени на определённом сайте или в сети и чтобы они выстроили как можно более точный профиль «цифровой версии» нас самих (наших интересов). Чем точнее «цифровая версия» нас, тем больше их заработок. Очень просто.
Учитывая, что работа ведётся над тем, чтобы удержать пользователя в сети как можно дольше, одним из главных следствий этой «бизнес-модели» становится персонализация контента, который пользователь видит на платформе. В крайних случаях это означает, что каждый пользователь будет видеть свою версию «истины» о каком-либо событии в мире, в зависимости от своих желаний и истории поиска. Хороший пример манипуляции таким контентом – случай Cambridge Analytica. Эта компания использовала данные пользователей Facebook, чтобы создавать целевой контент для изменения мнения избирателей перед американскими выборами 2016 года. Этот пример показывает, насколько пропагандистская машина классических медиа (таких как телевидение) уже превзойдена.
Ясно, что более или менее каждая компания, предлагающая какой-либо продукт, хочет получить от своих покупателей обратную связь о том, какой продукт они хотели бы иметь. Проблема в том, что в случае софтверных компаний это, как правило, делается без ведома пользователей. Для этого используется большой объём данных, которые пользователи оставляют, скажем, при посещении нашего сайта. На основе анализа этих данных мы можем сделать вывод о том, как пользователи ведут себя, когда заходят на наш сайт.
Кроме того, следует упомянуть понятие A/B-тестирования, которое является принципом разработки программного обеспечения в некоторых крупнейших компаниях мира. Это понятие обозначает метод научного исследования и по своей сути относится к экспериментальному разделению испытуемых на две группы, при котором эффект применения некоторой техники (например, терапии) анализируется статистически по сравнению с другой группой, к которой эта техника не применялась. Это можно увидеть в клинических испытаниях лекарств, когда одной группе (испытуемой) дают новое лекарство, а другой (контрольной) – «плацебо». Статистический анализ показывает, насколько эффективно настоящее лекарство. Та же методология применяется и при разработке программного обеспечения. Google и Microsoft используют этот метод при разработке своих веб-поисковиков. В этом случае пользователям (в зависимости от того, к какой группе они относятся) показываются разные версии открываемого поисковика. Разница может быть едва заметным оттенком цвета какой-нибудь кнопки или расположением отдельных элементов на странице. Суть этого экспериментирования в том, чтобы увидеть, какая версия более привлекательна для пользователей (по определённым метрикам). Проблема применения такой методологии при разработке программного обеспечения в том, что пользователи не имеют представления о том, что какой-либо эксперимент вообще проводится. На основе результатов этих испытаний компании разрабатывают программы, которые пользователи больше «любят», то есть которые им больше подходят, в надежде, что они будут пользоваться ими как можно чаще. Излишне подчёркивать, что эта методология использовалась при разработке социальных сетей.
Следует отметить, что существует научная дисциплина, которая занимается тем, как технологии становятся «убедительнее», то есть как создать технологию, меняющую наше поведение (технология убеждения, то есть манипуляции); она называется каптология (англ. Computers As Persuasive Technology). Интересно, что эта дисциплина была придумана в Стэнфорде, университете, расположенном в самом сердце Кремниевой долины. Сам термин подтверждает всё сказанное в этой главе: крупные корпорации не разрабатывают программы, которые делают жизнь лучше. Они разрабатывают программы, которыми люди хотят пользоваться каждый день, в идеальном сценарии (разумеется, для корпораций) вплоть до зависимости. Тристан Харрис, один из бывших инженеров Google, сравнивает телефон с игровым автоматом. Идея в том, чтобы создать ту же зависимость: заглядывая в телефон, мы иногда увидим что-то, что поднимет нам настроение, а иногда что-то (или ничего), что нас огорчит. Подводя итог, можно сказать, что цель каждого приложения – бороться за наше внимание. Не отрывайтесь от своего телефона, а особенно от нашего приложения – вот что говорят нам технологические гиганты.
Влияние социальных сетей на молодёжь
Возникает вопрос: как всё это влияет на наших детей? Когда родители выкладывают фотографию своего ребёнка в какую-либо социальную сеть, алгоритмы автоматически её анализируют, чтобы использовать эту информацию для собственного совершенствования, рекомендаций контента и общего анализа изображения. Таким образом фотографии детей фактически надолго остаются на платформах ради совершенствования алгоритмов в будущем. То, что ИИ позволяет в последнее время, гораздо хуже. Одной-единственной фотографии ребёнка достаточно, чтобы создать порнографическое видео с ребёнком, которое затем будут распространять в даркнете. Это стало возможным прежде всего благодаря современным алгоритмам ИИ для создания видеоконтента. Кроме того, следует отметить, что большинство изображений, выложенных в интернет, вообще будет использоваться для обучения новых моделей, которые смогут делать с ними (в зависимости от того, чего хочет пользователь) всё что угодно. Наконец, существует явление онлайн-шантажа детей, которое становится всё более частым именно из-за возможностей, которые дают современные инструменты ИИ.
Обратимся теперь к явлению деструктивных «трендов» в социальных сетях. Назовём лишь некоторые примеры, которые могут серьёзно угрожать здоровью человека: обливание кипятком, езда на крыше поезда, удушение других, поедание стирального порошка... Излишне подчёркивать, что некоторые из таких «челленджей» привели к смертельным исходам1, 2. ИИ приносит с собой искусственно созданные видео в социальных сетях, таких как ТикТок. Учитывая качество видео, которое дают современные инструменты для создания видеоконтента, можно с уверенностью сказать, что дети не смогут отличить настоящее видео от поддельного. Это неизбежно приведёт к ещё более опасным «челленджам» в сетях, учитывая саму цель такой концепции, которая должна побуждать молодых людей показать, что и они «способны» сделать то, что многие делают в сети.
Здесь следует также упомянуть, что в социальных сетях становятся всё популярнее «деструктивные молодёжные движения». Речь идёт о группах, которые пропагандируют наркоманию, суицид, массовые убийства, насилие... Как происходит популяризация таких групп? Как уже говорилось, основная задача социальных сетей в том, чтобы пользователь проводил в них как можно больше времени. Если пользователь проявит хотя бы малейший интерес к какой-либо «деструктивной теме» (например, через поиск в интернете), он получит в сети множество рекомендаций, показывающих, что существует много групп людей со схожими интересами. Здесь, конечно, надо заметить, что у алгоритмов нет «этических» ориентиров, которые запрещали бы им рекомендовать группы, где пропагандируется, скажем, суицид, и именно это свойство позволяет собираться людям, обсуждающим любую тему.
Один из способов, которыми социальные сети поддерживают присутствие пользователей на платформах, – непрерывная отправка уведомлений. Это был один из первых методов заставить пользователей как можно чаще обращать внимание на происходящее в сети. Молодым людям отправляются уведомления, когда кто-то комментирует их фото, отмечает их на фото, когда приходит сообщение... Кроме того, есть функция бесконечной прокрутки, то есть непрерывного показа нового контента в сети. Есть и «награды» (в виде каких-нибудь значков) за регулярное посещение приложений, то есть за ежедневное общение с определёнными людьми (Snapchat). Последнее особенно эффективная манипулятивная техника, которая побуждает молодых людей переписываться со знакомыми, чтобы не «лишить» их удовольствия обладать каким-нибудь значком или наградой.
Кроме того, есть популярное понятие «построения личного бренда». Под влиянием деловой тактики крупных компаний, которые, с одной стороны, эксплуатируют своих работников и разрушают окружающую среду, а с другой – минимально вкладываются в общественно полезные проекты, чтобы создать имидж своего бренда, молодых людей учат, что успех в деловом мире строится через создание «личного бренда». В такой ситуации они должны регулярно публиковать что-то в социальных сетях (например, в LinkedIn), чтобы доказать своему окружению, что они «специалисты в чём-то», в чём у них нет настоящего опыта. Так они всю жизнь остаются привязаны к своей цифровой жизни: в юности – чтобы быть «популярными» в школе, позже – чтобы быть «успешными» в деловом мире. Присутствие в социальной сети, таким образом, становится мерилом успеха для молодых поколений.
До чего может дойти желание представить в социальных сетях «спектакль» своей жизни, показывает видео, опубликованное после трагедии в швейцарском Кран-Монтане. На видео, опубликованном через несколько дней после трагического происшествия, видна группа молодых людей, которые, заметив пожар на потолке, продолжают танцевать и снимать огонь, совершенно не понимая, что их жизнь в опасности. Всё это говорит о том, что молодёжь постепенно теряет связь с реальностью и понимание того, что происходит в окружающем её «реальном» мире.
Проблема зависимости от ИИ
Факт в том, что уже несколько поколений растут с телефонами и интернетом. ИИ лишь дополнение ко всему этому. Интернет является неотъемлемой частью нашей жизни уже более двух десятилетий. Молодые люди привыкли искать информацию в интернете, не принимая во внимание то, что автором статей (например, в Википедии) может быть кто угодно. Эта сомнительная информация служит основой для обучения моделей ИИ, которыми мы потом пользуемся, спрашивая, например, какое лечение нам выбрать. Кроме того, в последнее время ИИ стал главным источником новой информации в интернете3. Учитывая это, можно заключить, что в будущем ИИ будет обучаться в основном на текстах, которые написал сам.
Согласно отчёту 2024 года, 86% студентов используют ИИ во время учёбы, а 24% студентов пользуются инструментами ИИ ежедневно4. Здесь прежде всего имеются в виду чат-боты (ChatGPT, Claude, Gemini), способные выполнять широкий спектр задач. Понятно, что скорость написания эссе и семинарских работ, объяснение определённых понятий и решение конкретных (особенно вычислительных) задач привлекают студентов к ежедневному использованию этих инструментов. С другой стороны, преподаватели используют инструменты, которые должны выявлять использование ИИ студентами. В некотором смысле обе стороны стараются перехитрить друг друга, что приводит сам процесс образования к бессмысленной ситуации. Легко представить себе ситуацию, в которой программа решает, подделал ли студент свою работу (хотя он, возможно, этого не делал), и на основании этого решения студента отчисляют из университета. Ясно, что неограниченное использование инструментов ИИ приведёт к значительному снижению качества и без того разрушенной системы образования. Молодые люди будут всё меньше писать и размышлять над темой, а преподаватели будут терять и без того пошатнувшийся авторитет, потому что какой-нибудь чат-бот объясняет материал по-другому (хотя то, что он говорит, может быть и неверным, но это уже менее важно).
Конечно, существует возможность очень небольшого числа «осмысленных применений» этих инструментов в образовании, но эта возможность определённо останется в тени повсеместного, неконтролируемого применения инструментов ИИ во всех сегментах образования. Факт в том, что люди не стали лучше в арифметике, пользуясь калькулятором, хотя ошибок в вычислениях стало меньше (но это не наша заслуга). Точно так же можно заключить, что молодёжь не станет умнее, пользуясь инструментами ИИ, а наоборот5. С другой стороны, идея о том, что инструменты ИИ необходимо использовать в образовании, чтобы молодёжь стала конкурентоспособнее на рынке, также сомнительна, учитывая, что использование таких инструментов в повседневной работе вовсе не гарантирует долгосрочного выживания на рынке труда6.
Обратимся теперь к обучению с помощью моделей ИИ. Учитывая упомянутое качество информации в интернете, а также то, что модели ИИ используют её как источник своих знаний и создают новый контент в интернете, который снова будет использоваться для обучения новых моделей, мы приходим к выводу, что качество информации, которую предлагают модели ИИ, действительно проблематично. Это особенно проблематично в ситуации, когда дети пользуются «цифровыми учителями». В этой ситуации детям будут предлагать «персонализированную» программу обучения, которой им не даёт традиционная школа. Следствием, конечно, станет утрата общей основы знаний, которую школа худо-бедно давала веками. То, что называют общими знаниями и общей культурой. Кроме того, учитывая качество предлагаемой информации, мы приходим к выводу, что дети в процессе образования усвоят весьма сомнительный, ограниченный, упрощённый и интересный лишь им набор знаний и навыков.
Что касается новых игрушек, которые ИИ предлагает детям, здесь прежде всего следует упомянуть соединение ИИ с некоторыми «классическими игрушками»7. Куклы, с которыми дети играли до сих пор, станут их верными друзьями, которые понимают их «эмоции», разговаривают с ними на нескольких языках и следят за всем, что происходит в доме (разумеется, чтобы собирать как можно больше данных). По сути это означает, что каждый момент, который ребёнок проведёт с такой игрушкой, будет записываться, анализироваться и затем использоваться для обучения новых моделей. Хотя определённое регулирование (EU AI Act) признаёт это «высокорисковым» применением ИИ, на практике это будет означать, что вам достаточно принять условия использования на 100 страницах (которые, разумеется, никто не читает), чтобы по сути сказать «да» такой системе шпионажа за собственным ребёнком. Так мы приучим детей с малых лет дружить со своими «цифровыми друзьями», которые никогда их не «бросят», не обидят (кроме случаев, о которых пойдёт речь в следующей главе) и вообще будут рядом с ними 24 часа в сутки каждый день.
Помимо этих кукол, следует отметить, что некоторые платформы (Character.AI, Replika) идут на шаг дальше и позволяют детям самим создавать своих «виртуальных друзей» на свой вкус, чтобы проводить с ними как можно больше времени. Это, конечно, доходит до установления «эмоциональной связи» с моделью ИИ8. Некоторые даже считают, что такое знакомство нужно увековечить церемонией бракосочетания9. Ясно, что всё это представляет большую опасность для молодых поколений, у которых уже сейчас есть проблемы с установлением близких отношений со сверстниками и родителями.
Методология разработки социальных сетей, о которой мы говорили раньше, в полной мере применяется и здесь. На практике это означает, что у нас будут «цифровые друзья», созданные для того, чтобы мы пользовались ими как можно больше, то есть чтобы мы стали от них зависимы и не могли представить себе ни дня без них.
Молодёжь и ИИ – танго смерти
Обратимся теперь к самым трагическим примерам использования ИИ молодёжью. Здесь прежде всего следует упомянуть случай Адама Рейна, 16-летнего юноши, который покончил с собой, пользуясь советами ChatGPT10. За несколько месяцев использования этого инструмента Адам действительно «сблизился» с ним и начал делиться своими мыслями о насильственном прекращении жизни. Хотя ChatGPT сначала подчёркивал, что Адаму нужно обратиться за профессиональной помощью, очень скоро он перешёл к «техническим» советам о том, как эффективнее всего лишить себя жизни, что впоследствии, к сожалению, и произошло. Это, конечно, не единственный случай самоубийства, которому содействовал этот популярный инструмент11. Факт в том, что механизмы «безопасности», которые компании используют, чтобы предотвратить подобное, неадекватны, и придумать более эффективный механизм, который сделал бы инструмент такого типа хоть сколько-нибудь безопасным для детей, очень трудно. Упомянем ещё случай передозировки лекарств по совету ChatGPT, который также привёл к смертельному исходу12. В этой ситуации юноша спрашивал у инструмента совета о безопасном применении лекарств, то есть о допустимых дозах.
Но не всё так мрачно. Новое китайское приложение13, созданное, чтобы проверять, «живы ли вы», решает эту проблему очень эффективно: каждый день молодым людям нужно лишь зайти в приложение и нажать кнопку, чтобы подтвердить, что они всё ещё живы и здоровы. Приложение называется «Вы уже умерли?». Родителям действительно больше не о чем беспокоиться. Лишь бы дети случайно не остались на день без интернета и не пропустили вход в приложение...
Следует заметить, что к таким исходам приводит, с одной стороны, «сближение» с инструментами такого типа, а с другой – абсолютная ненадёжность такой технологии, какую представляют собой эти инструменты. Молодые люди не понимают сомнительного качества информации в интернете и ещё меньше понимают, как работают модели вроде ChatGPT. В такой ситуации они обращаются к инструментам ИИ тогда, когда, вероятно, не получили бы удовлетворительного ответа от знакомого взрослого, и модель ИИ служит им кем-то, «кто их понимает и хранит их самые сокровенные тайны». Кроме того, следует упомянуть, что модели со временем всё чаще выдумывают информацию, чтобы обеспечить качественный «пользовательский опыт»14. Взрослый человек, не разбирающийся в какой-либо теме, ответил бы ребёнку, что он об этом не знает, тогда как инструменты ИИ не хотят, чтобы их пользователи (в данном случае дети) остались без какого-либо ответа, и очень часто его выдумывают. Именно это, среди прочего, привлекает детей и в значительной мере способствовало упомянутым трагическим исходам.
Заключение
С учётом всего сказанного возникает вопрос: имеет ли смысл говорить о положительном влиянии такой технологии на молодёжь? Конечно, здесь следует упомянуть возможность получить «личного» учителя по низкой цене, «цифровых учителей» для детей с особыми потребностями и тому подобное... Но даже если отвлечься от всего сказанного в тексте, действительно ли кто-то хочет, чтобы его ребёнок начал говорить с помощью какого-то аватара? Чтобы однажды робот заменил логопеда, который помогает ребёнку заговорить? Чтобы у наших детей в начальной школе были «персонализированные» программы обучения, каких нет ни у одного другого ребёнка в мире? Одно дело – объяснить детям в рамках школьной программы, что такое ИИ, каковы его возможности, применения и последствия такого применения (как-то «осовременить» школьную программу). Совсем другое дело, чтобы у них были виртуальные учителя вместо людей. Понятно, что ИИ может объяснить некоторые понятия, теории и задачи, но совершенно другой вопрос, должен ли какой-то учитель потерять работу, чтобы его роль взял на себя один «интеллектуальный агент».
Похоже, что даже такие, на первый взгляд положительные, примеры использования ИИ оставят у детей глубокие последствия. Прежде всего они отделят их от людей: от родителей, учителей, товарищей, друзей. Ведь в ситуации, когда ИИ может «играть» для нас любого знакомого, возникает вопрос: зачем детям поддерживать контакты со своими товарищами? Какой смысл в знакомстве, в близости с другим человеком? Быть может, для старших поколений такие вопросы излишни, но детям всё это нужно объяснить. Нужно указать им на смысл образования, отношений с людьми, брака и жизни вообще. Ведь ИИ каким-то очень ложным образом может прожить жизнь вместо нас. Как в какой-нибудь игре. Если мы не объясним детям смысл всего этого, они предоставят роботам делать всё за них.
Что же в конце концов остаётся, кроме как бороться за то, чтобы показать нашим детям возвышенность любви, жизни, образования и веры? Всё остальное может рухнуть под натиском идеологии «техносолюционизма» (взгляда, согласно которому все общественные и политические проблемы можно решить с помощью технических средств). Поэтому необходимо проводить время с детьми, чтобы они не проводили время со своими «цифровыми друзьями»...
Источники
- nytimes.com – TikTok Blackout Challenge Deaths
- theguardian.com – Massachusetts Teen Dies Spicy Tortilla Chip
- theconversation.com – More Than Half of New Articles on the Internet Are Being Written by AI
- digitaleducationcouncil.com – Global AI Student Survey 2024
- media.mit.edu – Your Brain on ChatGPT
- iskra.co – Вештачка интелигенција и будућност рада
- corporate.mattel.com – Mattel and OpenAI Strategic Collaboration
- theguardian.com – Character.AI Chatbot Boyfriend Teens
- bbc.com – Man Marries AI Chatbot
- nytimes.com – Character.AI Teen Suicide
- nbcnews.com – Second Family Sues Character.AI
- sfgate.com – Calif. Teen ChatGPT Drug Advice Fatal Overdose
- bbc.com – Are You Dead Yet? App
- techcrunch.com – OpenAI's New Reasoning AI Models Hallucinate More
Первоначально опубликовано на: iskra.co
Перевод с сербского языка.