Более 80 процентов молодых людей в возрасте от 15 до 24 лет по всему миру проводят время в интернете. В странах с низким уровнем дохода именно молодежь составляет самую многочисленную группу пользователей сети. Но вместе с доступом к информации она получает и полный цифровой набор неприятностей: дезинформацию, онлайн-травлю, слежку, манипуляции и риски, связанные с искусственным интеллектом.
ООН предупредила, что основной удар от кризиса информационной среды принимает на себя молодое поколение. В новой аналитической записке, опубликованной в преддверии Международного дня молодежи, который отмечается 12 августа, организация призвала страны, технологические компании, рекламодателей, СМИ и исследователей поставить защиту детей в число главных приоритетов.
При этом решать проблему без участия самой молодежи в ООН считают бессмысленным. Дети и молодые люди должны участвовать в разработке законов, исследованиях и обсуждении правил цифровой среды, а не узнавать о готовых решениях постфактум.
В июле Генеральный секретарь ООН Антониу Гутерриш предложил принять «Глобальное обязательство по безопасности детей в сфере ИИ». Развивающиеся технологии он сравнил с непроверенными лекарствами и потребовал усилить контроль за их внедрением.
– Ни один ребенок не должен быть подопытным кроликом для нерегулируемого ИИ… Когда пострадал ребенок, ответом никогда не должно быть: «это все алгоритм», – заявил Антониу Гутерриш в июле на первом Глобальном диалоге по вопросам управления ИИ.
Авторы доклада подчеркивают, что угрозы в интернете нельзя списать на случайность или неизбежную плату за технический прогресс. Они стали следствием бизнес-моделей, которые зарабатывают на внимании пользователей и их личных данных, а также решений, изначально заложенных в дизайн цифровых платформ.
Особенно уязвимы дети, чьи привычки, личность и социальные связи еще формируются. Алгоритмы могут вызывать зависимость, а «лутбоксы» и другие цифровые уловки подталкивают пользователей снова и снова возвращаться на платформу. Интернет в таких случаях работает не как полезный инструмент, а как автомат, который постоянно просит еще минуту внимания и немного денег.
Ситуацию осложняет быстрое развитие искусственного интеллекта. Регулирование не успевает за технологиями, а уже существующие угрозы становятся серьезнее. Речь идет о дипфейках, сгенерированном контенте и эксплуатации с использованием ИИ.
Отдельно в докладе упоминаются скрытые рекламные технологии, созданные для увеличения расходов пользователей в интернете.
Дети и молодые люди выступают не только потенциальными жертвами цифровых угроз. Они создают контент, защищают права человека и организуют молодежные движения.
Однако те же платформы, которые помогают таким движениям развиваться, превращают их лидеров в мишени для кибербуллинга и слежки. Особенно часто с этим сталкиваются девушки, представители меньшинств и активисты.
– Дети и молодежь входят в число тех, кто больше всего страдает от сегодняшнего кризиса информации, и одновременно тех, кто лучше всего способен помочь в его разрешении, – заявила Шарлотта Скэддан, старший советник ООН по вопросам целостности информации. – Защита молодежи и привлечение ее к диалогу – это не взаимоисключающие цели. Нам необходимо делать и то, и другое.
Правительства и общественные организации все чаще обсуждают безопасность детей при разработке законов о навязчивом дизайне, таргетированной рекламе, модерации контента и конфиденциальности. Но по мере распространения ИИ времени на встраивание прав ребенка в новые стандарты остается все меньше.
ООН предлагает:
странам необходимо сформировать законодательную базу;
технологическим компаниям – внедрить встроенные механизмы защиты детей;
рекламодателям – ставить права ребенка выше прибыли;
СМИ – создавать качественный контент для молодой аудитории;
специалистам – устранять пробелы в данных, особенно в странах Глобального Юга.
ООН продолжает работу над регулированием искусственного интеллекта через Глобальный диалог и Независимую международную научную группу по ИИ. Этот орган создан для оценки возможностей и рисков технологии.
– По мере того как цифровые технологии и информационная среда продолжают развиваться, текущий момент дает нам возможность перейти от декларации принципов к практическим действиям, – говорится в докладе.