Глава государства подписал Закон РК «Об искусственном интеллекте», ставший первым подобным документом в Центральной Азии.
Принятие законодательной основы для безопасного и эффективного развития технологий искусственного интеллекта является новым этапом цифровой трансформации Казахстана. Основная цель закона заключается в определении правовых рамок в обеспечении развития искусственного интеллекта и стимулирование его внедрения в различных областях для улучшения качества жизни человека и повышения эффективности экономики.
Инициатива по разработке закона была впервые озвучена Главой государства на форуме Digital Bridge 2023, на котором Президент поручил разработать современную нормативную базу, регулирующую использование ИИ. Глава государства неоднократно за последние два года подчеркивал необходимость развития технологий ИИ в качестве стратегического приоритета государственной политики. Не было исключением и Послание народу Казахстана, звучавшее как – «Казахстан в эпоху искусственного интеллекта: актуальные задачи и их решения через цифровую трансформацию» — представленное в сентябре этого года.
Таким образом, назрела срочная необходимость, в целях повсеместного внедрения высоких технологий получить законодательную основу, регулирующую обязанности, права и ответственность всех участников процесса.
На данный момент количество стран, принявших аналогичные законы составляют единицы, среди которых лидеры технологического прогресса, такие как — Европейский Союз, Канада и Сингапур. Казахстан же стал первым в регионе, кто закрепил на законодательном уровне принципы этичного, прозрачного и ответственного применения ИИ, и главное приоритета благополучия человека, свободы воли в принятии им решений.
Что регулирует Закон:
Закон является базовым документом, устанавливающим единую правовую основу для использования технологий и систем ИИ в Казахстане. Он состоит из 7 глав и 28 статей
Документ закрепляет основные понятия, такие как – «искусственный интеллект», «модель искусственного интеллекта», «библиотека данных» и «национальная платформа ИИ».
Определены законом цели и задачи государственного регулирования. Целями государственного регулирования общественных отношений в сфере искусственного интеллекта являются обеспечение развития искусственного интеллекта и стимулирование его внедрения в различных областях для улучшения качества жизни человека и повышения эффективности экономики.
Закреплены права и обязанности государственных органов, разработчиков, пользователей и владельцев систем ИИ, достаточно подробно для базового документа расписан правовой режим систем искусственного интеллекта. Таким образом, государство переходит к регламентации уже имеющихся в стране и возникающих в связи с мировым технологическим прогрессом новшеств с одной большой, но благой целью – защитить права граждан, при этом, оставив пространство для стимулирования развития новых технологий во всех сферах общественной жизни.
Закон об ИИ устанавливает классификацию систем и меры безопасности
Законом устанавливается классификация систем ИИ по трем критериям.
Во-первых, по степени риска. Системы подразделяются на минимальной степени риска, нарушение функционирования которых оказывает незначительное влияние. Средней степени риска, нарушение которых может привести к снижению эффективности и нанесению ущерба и высокой степени риска, нарушение которых способно вызвать чрезвычайную ситуацию социального или техногенного характера, повлиять на оборону, безопасность и жизнедеятельность граждан.
Во-вторых, по уровню автономности. Системы выделяются низкой автономности, при которых решения носят рекомендательный характер и окончательное решение принимает человек. Средней автономности, при которых допускается корректировка решений человеком и высокой автономности, при которых вмешательство или отмена решения человеком исключены либо технически невозможны.
В-третьих, по режиму использования. Определяются открытые системы, допускающие свободное использование и модификацию. Закрытые системы, доступ к архитектуре которых ограничен владельцем и локальные системы, функционирующие в пределах инфраструктуры владельца без подключения к сетям общего пользования.
Закон запрещает создание и применение ИИ, обладающего манипулятивными, дискриминационными или опасными функциями, включая социальный скоринг, скрытое воздействие или сбор персональных данных без согласия.
Для повышения доверия к технологиям государственные органы будут формировать перечни доверенных систем высокой степени риска. Включение в них возможно только после прохождения аудита систем, осуществленного в соответствии с правилами проведения аудита информационных систем.
О защите авторских прав и ответственность за использование технологий
Законом установлено требование об обеспечении прозрачности использования систем искусственного интеллекта. Все результаты работы ИИ – тексты, изображения, аудио- и видеоматериалы – подлежат обязательной маркировке в машиночитаемой форме. Требование включено в закон в целях обеспечения возможности восприятия пользователем информации без применения методов, затрудняющих такое восприятие, а также в целях предотвращения распространения недостоверной информации и злоупотреблений.
Особое внимание уделено авторским правам. Произведения, созданные с использованием ИИ, подлежат охране авторским правом только при наличии творческого вклада человека. Текстовые запросы, являющиеся результатом интеллектуальной деятельности пользователя, также признаются объектами авторского права. При этом, использование произведений для обучения моделей ИИ не считается «свободным использованием» в образовательных или научных целях – такое применение допускается лишь при отсутствии прямого запрета со стороны автора или правообладателя, выраженного в машиночитаемой форме.
Законом предусмотрены механизмы управления рисками – владельцы систем обязаны выявлять, анализировать, прогнозировать и принимать меры по управлению рисками, предназначенные для предупреждения и устранение выявленных рисков.
Отдельное внимание уделено национальной платформе ИИ, которая становится ключевой инфраструктурой для разработки моделей, использования вычислительных мощностей, опытной эксплуатации программных продуктов и моделей, в течение ограниченного периода времени. Предоставление доступа к вычислительным ресурсам осуществляется оператором национальной платформы искусственного интеллекта в соответствии с правилами, утвержденными уполномоченным органом.
Кроме того, документ предусматривает нормы о возмещении вреда, причиненного системами ИИ, определенном в соответствии с требованиями Гражданского кодекса РК.
Человек выше алгоритма
Ключевой принцип принятого Закона «Об Искусственном интеллекте»– технологии должны служить во благо людей. ИИ рассматривается только как инструмент поддержки принятия решений, за окончательное решение отвечает человек. Решения, принимаемые системой, не могут заменять свободу воли человека там, где это установлено законом. Пользователь имеет право знать о применении ИИ и возражать против автоматизированной обработки своих данных. Закон обеспечивает защиту персональной информации и запрещает ее использование без согласия владельца.
Закон об ИИ – не ограничение технологий
Важно подчеркнуть, что Закон не регулирует сами технологии ИИ, его задача — создать нормативную базу для ответственного и безопасного развития ИИ, определить принципы и этические ориентиры, чтобы технологии служили во благо человеку и обществу.
Документ носит рамочный характер, в связи с тем, что ИИ — новая и стремительно развивающаяся область. В законе закреплены ключевые понятия, принципы применения и базовые процедуры, обеспечивающие прозрачные и понятные правила для всех участников рынка.
Принятие данного Закона закрепляет за Казахстаном статус первой страны в регионе, установившей правовые основы регулирования ИИ при абсолютном приоритете защиты прав человека. Формирование правовой среды — является новым шагом не только для Казахстана, но и для всего мира.
Наша общая цель — развивать технологии без излишних ограничений, обеспечивая баланс между инновациями, безопасностью и защитой интересов граждан[1].
