Верховный комиссар ООН по правам человека Фолькер Тюрк в понедельник призвал государства и компании срочно принять меры, чтобы эффективное регулирование искусственного интеллекта не отставало от стремительных темпов развития технологий и связанных с ними беспрецедентных рисков.
«Мы находимся на пороге необратимых изменений, которые затронут не только нас, но и будущие поколения», – говорится в письме, адресованном правительствам и разработчикам.
Экзистенциальные риски
«Нынешняя гонка, связанная с созданием все более мощных систем ИИ, означает качественный скачок в сторону усиления экзистенциальных рисков для всех аспектов нашей жизни. Сбои в работе автономных систем ИИ, не говоря уже о системах, намеренно спроектированных для таких целей, могут привести к перебоям в предоставлении жизненно важных услуг, нарушить коммуникации, дестабилизировать критически важную инфраструктуру и нанести удар по самим основам демократических институтов», – написал Тюрк.
По его словам, люди могут лишиться доступа к чистой воде, отоплению и финансовым услугам, в то время как автономный ИИ уже ускоряет темпы и расширяет масштабы войн, ослабляя защитные механизмы, которые предотвращают применение оружия массового уничтожения.
Верховный комиссар подчеркнул, что для обеспечения регулирования искусственного интеллекта остается мало времени, и отметил, что будущее во многом будет зависеть от осознанных решений, принимаемых уже сейчас в отношении того, как ИИ разрабатывается, используется и регулируется.
«Вред, причиняемый ИИ, – не гипотеза, он уже ощущается и это происходит прямо сейчас, – добавил Тюрк. – Основные услуги автоматизируются таким образом, что люди, и без того находящиеся на периферии общества, оказываются в еще худшей ситуации. Растущий спрос на данные и появление мощных инструментов слежки подрывают право на неприкосновенность частной жизни в масштабах, которые потенциально могут иметь необратимые последствия. Дезинформационные кампании с использованием ИИ уже искажают общественные дискуссии, подрывают социальную сплоченность и по-новому, зачастую скрытно, ослабляют демократические институты».
Ответственность за последствия
Верховный комиссар заявил, что компании, находящиеся на передовой разработок систем ИИ, несут ответственность за немедленное снижение рисков.
«Необходимо разработать надежные процедуры проверок в области прав человека с учетом согласованных стандартов безопасности, внедрить их во всем секторе и постоянно совершенствовать. За соблюдением этих стандартов должен осуществляться независимый внутренний контроль, обладающий необходимой автономностью, чтобы повысить прозрачность и подотчетность», – написал он.
Главный правозащитник ООН также подчеркнул, что государства, на территории которых расположены ведущие компании, разрабатывающие ИИ, несут особую ответственность за то, чтобы требовать от этих компаний должного поведения и привлекать их к ответственности в случае невыполнения требований. Он призвал государства обеспечить независимую и технически компетентную проверку возможностей автономных систем ИИ с предоставлением доступа к моделям, документации и средам для тестирования, а также сделать обязательными проверки в области прав человека.
Тюрк призвал срочно мобилизовать усилия на многосторонних площадках, чтобы выработать практические шаги, основанные на международных нормах в области прав человека.
«Ни одна страна не может самостоятельно регулировать эту технологию. Ни одна компания не должна иметь возможность в одиночку решать, с какими рисками мир должен смириться. Ни один человек не должен быть вынужден отказываться от своих прав в обмен на обещания технологического прогресса», – заявил он.
«Поколение, которое сейчас вступает во взрослую жизнь, столкнется с последствиями решений, принимаемых по этому вопросу, не имея возможности участвовать в их согласовании. Мы обязаны этому поколению обеспечить, чтобы такие решения принимались открыто, с учетом их прав и с той осторожностью, которой требует масштаб задачи», – подчеркнул Верховный комиссар.