Особое внимание в проекте закона «Об искусственном интеллекте» уделено вопросам безопасности. Системы ИИ будут классифицированы по степени риска – от минимального до высокого. Системы высокого риска будут отнесены к объекту критически важной информационно-коммуникационной инфраструктуры. Это позволит обеспечить контроль их безопасности.
Также законопроект делит системы с ИИ на помощников, полуавтономные системы и полностью автономные алгоритмы. Последние будут запрещены на территории Республики Казахстан.
Кроме того, проектом запрещаются некоторые практики использования искусственного интеллекта, например:
– использование ИИ, влияющего на поведение людей без их осознанного согласия;
– использование ИИ, которое намеренно пользуется уязвимостями людей: возраст, инвалидность, социальное положение;
– оценка или классификация людей по их социальному поведению или характеристикам (социальный скоринг);
– использование ИИ для анализа эмоций людей без их согласия;
– использование ИИ для распознавания лиц в общественных местах в режиме реального времени за исключением случаев, разрешённых законом;
– создание и распространение результатов деятельности ИИ, которые запрещены законодательством.
Существенным элементом регулирования является возмещение вреда, причинённого системами ИИ. Закон предусматривает, что в случае причинения ущерба пользователям ответственность за это несут владельцы и операторы систем ИИ. Страхование ответственности за вред, причинённый ИИ, предлагается как добровольная мера, но оно может стать важным элементом защиты прав граждан.
Эти и другие позиции соответствуют международным стандартам защиты прав человека в условиях нового технологического общества.