Минцифры хотят защитить права человека при автоматизированном принятии решений

Министерство цифрового развития вынесло на общественное обсуждение законопроект, регулирующий сферу искусственного интеллекта (ИИ). Документ вводит комплексные правила работы технологий, затрагивающих права граждан, и определяет ответственность всех участников этого процесса — от разработчиков до пользователей.

Ключевым нововведением станет механизм защиты прав человека при автоматизированном принятии решений. Согласно тексту проекта, граждане получат право оспаривать во внесудебном порядке решения, вынесенные государственными органами или госкомпаниями с использованием систем ИИ. В случае если применение нейросетей повлекло за собой причинение вреда, пострадавший сможет рассчитывать на компенсацию. Выплаты будут производиться по общим правилам, предусмотренным гражданским законодательством.

Законопроект предъявляет строгие требования к разработчикам и операторам систем. В частности, создатели моделей ИИ обязуются исключать любые дискриминационные алгоритмы и блокировать возможность генерации противоправного контента. Операторы, в свою очередь, должны проводить обязательное тестирование систем на безопасность и уведомлять пользователей о существующих ограничениях. Владельцы сервисов наделяются функцией оперативного реагирования для предотвращения неправомерного использования технологий. Ответственность за противоправный результат будет распределяться между разработчиком, оператором системы, владельцем сервиса и самим пользователем пропорционально степени вины каждого.

Отдельное внимание в документе уделено идентификации контента, созданного нейросетями. Все аудиовизуальные материалы, сгенерированные с помощью ИИ, должны иметь специальную маркировку-предупреждение. Для крупных социальных платформ вводится обязанность проверять наличие такой маркировки, а в случае ее отсутствия — маркировать или удалять подобный контент самостоятельно.

Регулирование будет строиться на риск-ориентированном подходе: чем значительнее влияние системы ИИ на жизнь человека и общества, тем жестче требования к ней предъявляются. Кроме того, законопроект вводит понятия «суверенной», «национальной» и «доверенной» моделей ИИ. Под эти категории попадают модели, все этапы разработки и обучения которых осуществляются на территории РФ исключительно силами российских граждан и юридических лиц. Обучение таких моделей должно производиться с использованием наборов данных, сформированных также в России отечественными специалистами и компаниями.

В Министерстве цифрового развития отметили, что планируется ввести документ в действие с 1 сентября 2027 года. По мнению авторов, закон установит прозрачные и понятные правила игры для разработчиков, бизнеса и государства, а также позволит защитить граждан от скрытых манипуляций и дискриминационных алгоритмов, которые могут быть заложены в работу искусственного интеллекта.