Искусственный интеллект (ИИ) не просто меняет наш мир – он его революционизирует. Об этом заявил Генеральный секретарь ООН, выступая на министерском заседании Совета Безопасности по вопросам искусственного интеллекта. Генеральный секретарь напомнил, что в июле 2023 года он уже предупреждал Совет о скорости развития ИИ, подчеркнув, что темпы этого прогресса будут только расти.
Он отметил, что современные модели ИИ становятся все более мощными, универсальными и доступными. Задачи, которые раньше требовали многолетнего опыта, теперь выполняются за считанные мгновения. Однако столь стремительный рост технологий «опережает нашу способность регулировать их», что вызывает вопросы об ответственности, равенстве, безопасности и сохранении человеческого контроля.
«ИИ без человеческого контроля оставит мир “слепым” – особенно в вопросах глобального мира и безопасности», – предупредил глава ООН.
При этом, по его словам, инструменты ИИ уже приносят пользу в странах, страдающих от конфликтов и нестабильности, например в сфере разминирования или для прогнозирования голода.
Однако ИИ также представляет угрозу для глобальной стабильности. Генеральный секретарь выразил обеспокоенность использованием ИИ в военных целях.
«Недавние конфликты стали полигоном для тестирования военных применений ИИ», – отметил он, добавив, что такие системы, как автономное наблюдение за границами и предиктивная полиция, поднимают фундаментальные вопросы о правах человека и верховенстве закона. По его словам, гонка вооружений в области ИИ создает предпосылки для просчетов и ошибок.
«Самое важное – ИИ разрушает фундаментальный принцип человеческого контроля над использованием силы», – подчеркнул Генеральный секретарь. Он также предупредил о катастрофических последствиях внедрения ИИ в управление ядерным оружием, которое «мы должны предотвратить любой ценой».
Кроме того, ИИ представляет угрозу информационной добросовестности. Глава ООН отметил, что с помощью технологий создаются реалистичные «дипфейки», которые могут «провоцировать дипломатические кризисы, подрывать стабильность и основы общества». Он подчеркнул, что эти инструменты могут использоваться для манипулирования общественным мнением и распространения дезинформации.
Еще одним важным аспектом является экологический след ИИ. Генеральный секретарь обратил внимание на высокое энергопотребление центров обработки данных и конкуренцию за редкие ресурсы, что вызывает геополитическое напряжение.
«Беспрецедентные вызовы требуют беспрецедентного глобального сотрудничества» – заявил Генсек. Он отметил усилия ООН по выработке универсальной стратегии, включая две резолюции Генеральной Ассамблеи по вопросам сотрудничества и регулирования ИИ, создание консультативного орган по ИИ и принятие Глобального цифрового договора.
«Наши следующие шаги будут решающими – и выбор, который мы сделаем сегодня, определит наше будущее»,– подчеркнул Гутерриш. ИИ, как отметил Генеральный секретарь, может либо служить на благо человечества, либо стать источником нестабильности и угроз.
Он призвал государства-члены незамедлительно создать Международную научную панель по вопросам ИИ и начать Глобальный диалог по регулированию ИИ. Глава ООН также вновь обратился к мировому сообществу с призывом запретить автономное оружие к 2026 году.
Она привлекла внимание к таким негативным сторонам, как алгоритмическая предвзятость, дезинформация и использование автономных систем. «Но нам многое еще предстоит понять о масштабах этих опасных явлений и их последствиях», – отметила докладчица. Эти проблемы можно преодолеть только через глобальное сотрудничество, сказала она.
На заседании Совбеза также выступил Ян Лекун, известный ученый, который отвечает за внедрение технологии ИИ в компании Meta, владеющей Facebook и Instagram. Он отметил, что в ближайшие десятилетия ИИ станет повсеместным: виртуальные помощники на базе умных устройств будут сопровождать людей в повседневной жизни, предоставляя мгновенный доступ к информации на любом языке.
Лекун также подчеркнул, что будущее ИИ неразрывно связано с открытостью технологий. Он обратил внимание на успех открытой модели Llama от Meta, которая с момента запуска в 2023 году была скачана 650 миллионов раз, став основой для десятков тысяч приложений в самых разных областях – от сельского хозяйства до здравоохранения.
Ян Лекун сравнил влияние ИИ с изобретением печатного станка, назвав его возможным катализатором «новой эпохи Просвещения». Он призвал международное сообщество объединить усилия для разработки открытых ИИ-моделей, которые станут общим ресурсом человечества и двигателем глобального прогресса.
