Европейский парламент одобрил новый законопроект, цель которого — сделать применение искусственного интеллекта более безопасным и прозрачным.
Искусственный интеллект (ИИ) — это область компьютерных наук, которая занимается созданием интеллектуальных агентов, то есть систем, способных рассуждать, обучаться и действовать автономно. Исследования в области ИИ достигли значительных успехов в разработке эффективных методов для решения широкого спектра задач.
Депутаты Европарламента одобрили новые правила и руководящие принципы для обеспечения этического и ориентированного на человека развития искусственного интеллекта (ИИ) в Европе. Комитет по вопросам внутреннего рынка и Комитет по вопросам гражданских свобод проголосовали за проект переговорного мандата 84 голосами «за», 7 «против» и 12 «воздержались». Целью поправок, внесенных депутатами Европарламента, является установление правил, которые гарантируют надзор, безопасность, прозрачность, прослеживаемость, недискриминацию и экологичность систем искусственного интеллекта. Определение ИИ должно быть технологически нейтральным и применяться как к нынешним, так и к будущим системам ИИ.
Основная цель Закона об ИИ
Один из ведущих депутатов Европарламента, румын Драгош Тудораке, подчеркнул важность этого закона, заявив, что он, вероятно, будет наиболее важным законодательным актом в нынешнем составе парламента. Он подчеркнул, что это первый в своем роде закон в мире, который позволяет Европейскому Союзу взять на себя инициативу в создании человекоцентричных, надежных и безопасных практик в сфере ИИ.
Регламент использует риск-ориентированный подход и накладывает обязательства на поставщиков и пользователей в зависимости от уровня риска, связанного с системой ИИ. Системы ИИ, которые представляют неприемлемый риск для безопасности людей, будут строго запрещены. Это касается систем, которые используют подсознательные или манипулятивные методы, эксплуатируют уязвимые места или участвуют в социальном оценивании на основе личных характеристик и поведения.
Депутаты Европарламента внесли значительные изменения в предложенный список, который теперь включает запрет на навязчивое и дискриминационное использование систем ИИ. Примеры таких запретов включают системы удаленной биометрической идентификации в реальном времени в общественных местах, за исключением правоохранительных целей при наличии судебного разрешения на совершение тяжких преступлений. Запрещается также биометрическая категоризация на основе чувствительных характеристик, системы предиктивной полицейской деятельности, системы распознавания эмоций в различных ситуациях и неизбирательное снятие биометрических данных для баз данных распознавания лиц.
Классификация сфер высокого риска была расширена депутатами Европарламента, чтобы охватить вред здоровью, безопасности, основным правам, окружающей среде, а также системы ИИ, влияющие на избирателей в политических кампаниях, и рекомендательные системы, используемые платформами социальных сетей с более чем 45 миллионами пользователей.
Что касается ИИ общего назначения, то поставщики базовых моделей, таких как GPT, будут обязаны обеспечить надежную защиту фундаментальных прав, здоровья, безопасности, окружающей среды, демократии и верховенства права. Они должны будут оценивать и уменьшать риски, соблюдать требования по дизайну, информации и защите окружающей среды, а также будут вынуждены зарегистрироваться в базе данных ЕС.
Модели генеративных фондов будут подлежать дополнительным мерам прозрачности, таким как раскрытие информации о том, что контент был создан с помощью ИИ, предотвращение создания незаконного контента и публикация резюме, защищенных авторским правом данных, используемых для обучения.
Для поддержки инноваций в сфере ИИ были добавлены исключения для исследовательской деятельности и компонентов искусственного интеллекта, предоставляемых по лицензиям с открытым исходным кодом. Новый закон также способствует созданию регуляторных песочниц — контролируемых сред, где государственные органы могут тестировать ИИ перед его развертыванием.
Роль Управления ЕС по искусственному интеллекту
Евродепутаты стремятся расширить права граждан, позволив им подавать жалобы на системы ИИ и получать разъяснения относительно решений, принятых системами ИИ с высокой степенью риска, которые существенно влияют на их права. Роль Управления ЕС по ИИ будет реформирована таким образом, чтобы контролировать выполнение правил в сфере искусственного интеллекта.
Проект переговорного мандата требует одобрения всего парламента, прежде чем переговоры с Советом ЕС могут начаться. Ожидается, что голосование состоится во время сессии 12-15 июня 2023 года.
Категории систем искусственного интеллекта
Закон определяет три категории систем искусственного интеллекта (ИИ):
- высокого риска;
- неприемлемы;
- низкого риска.
Системы ИИ с высокой степенью риска — это те, которые представляют значительный риск для безопасности человека, фундаментальных прав или демократии.
Неприемлемые системы ИИ — это те, которые считаются вредными по своей сути, например, системы, используемые для социального скоринга или массового наблюдения.
Системы ИИ с низким уровнем риска — это системы, которые не представляют значительного риска и поэтому не подлежат такому же уровню регулирования.
Закон требует, чтобы системы ИИ с высокой степенью риска проходили строгий процесс оценки, прежде чем их можно будет использовать. Этот процесс оценки учитывает потенциальные риски и преимущества системы, а также меры, которые были приняты для уменьшения рисков. Закон также требует, чтобы системы ИИ с высокой степенью риска были прозрачными, чтобы пользователи могли понимать, как они работают, и принимать обоснованные решения относительно использования.
Закон является значительным шагом вперед в регулировании ИИ. Это первый закон в мире, который устанавливает всеобъемлющие границы для разработки и использования ИИ. Ожидается, что закон окажет значительное влияние на развитие ИИ в ЕС и, вероятно, ему последуют другие страны мира.
Ключевых положения закона об искусственном интеллекте
Системы ИИ с высокой степенью риска должны пройти строгий процесс оценки, прежде чем их можно будет использовать. Этот процесс оценки учитывает потенциальные риски и преимущества системы, а также меры, которые были приняты для уменьшения рисков.
Системы ИИ с высокой степенью риска должны быть прозрачными, чтобы пользователи могли понимать, как они работают, и принимать обоснованные решения о том, стоит ли их использовать. Эта прозрачность достигается различными способами, например, предоставлением информации об алгоритмах системы и наборах данных.
Компании, которые разрабатывают или используют системы ИИ с высокой степенью риска, должны соблюдать ряд обязательств. Например, принимать меры для снижения рисков и обеспечивать ответственное использование систем. Компании, которые не соблюдают эти обязательства, могут быть оштрафованы на сумму до 20 миллионов евро или 4% от их глобального годового оборота.
Ожидается, что закон об ИИ окажет значительное влияние на развитие и использование ИИ в ЕС. Закон об ИИ, вероятно, приведет к разработке более прозрачных и ответственных систем ИИ, но также может затруднить разработку и использование компаниями систем ИИ с высокой степенью риска, которые представляют значительный риск для безопасности человека, фундаментальных прав или демократии.
Однако, закон об ИИ столкнулся с оппозицией с и стороны крупных американских технологических компаний, которые доминируют в сфере ИИ. Это может привести к усилению трансатлантических конфликтов вокруг технологии ИИ. По мере того, как генеративные модели ИИ, такие как ChatGPT, приобретают популярность, глобальные публичные дебаты об ИИ обостряются. В то время как администрация президента США Байдена неохотно предлагает новые законы, вместо этого сосредотачиваясь на добровольном сотрудничестве с индустрией и более строгом соблюдении существующих законов против мошенничества и нарушения приватности, законодательство ЕС демонстрирует противоположный подход.
Отношение к регулированию ИИ во всем мире различается, и правительства стран пытаются понять последствия влияния этой технологии. Великобритания пока придерживается относительно сдержанного подхода, тогда как итальянское агентство по защите данных в апреле 2023 года временно запретило доступ к ChatGPT на территории страны, но впоследствии все же возобновило этот доступ .
Мнения экспертов относительно нового Закона
Мнения экспертов относительно нового закона разделились. Некоторые эксперты считают закон необходимым и важным шагом на пути к обеспечению ответственного использования ИИ. Они утверждают, что нормы закона будут служить предохранителем против злоупотреблений ИИ, таких как дискриминационные практики и социальный скоринг, и в конечном итоге защитят людей и общество.
С другой стороны , некоторые эксперты считают, что закон об ИИ является чрезмерно ограничительным и будет препятствовать инновациям в секторе ИИ. Они утверждают, что регулирование создаст дополнительные препятствия для бизнеса в разработке и внедрении продуктов и услуг с искусственным интеллектом, что потенциально будет тормозить технологический прогресс.
Тимнит Гебру, бывший соруководитель команды Google по ИИ, отметил: «Закон об ИИ — это хорошее начало, но этого недостаточно. Нам нужен полный запрет на использование ИИ для социального скоринга и других вредных применений. Мы также должны обеспечить подотчетность систем ИИ перед общественностью. Закон об ИИ — это шаг в правильном направлении, но его недостаточно, чтобы защитить нас от опасностей, связанных с ИИ».
Клара Монтиэль, исследовательница Института Ады Лавлейс, аналитического центра, занимающегося вопросами политики в сфере ИИ, отметила: «Закон об ИИ является важным шагом вперед. Закон об ИИ является знаковым законодательным актом, который установит глобальный стандарт регулирования ИИ. Он амбициозен по своим масштабам и охватывает широкий спектр систем ИИ, от распознавания лиц до социального скоринга. Закон также содержит сильные гарантии соблюдения фундаментальных прав, таких как неприкосновенность частной жизни и недискриминация. Однако есть определенные опасения, что закон об ИИ может быть слишком обременительным для бизнеса и может сдерживать инновации. Важно найти баланс между защитой фундаментальных прав и обеспечением возможности использования ИИ на благо общества».
Настоящее влияние закона об ИИ еще предстоит определить, поскольку реализация закона об ИИ и последствия разворачиваются со временем. Тем не менее, очевидно, что закон об ИИ является важной вехой в регулировании ИИ. Он, несомненно, повлияет на использование ИИ в Европе и сможет служить образцом для других стран мира, когда страны будут рассматривать собственные регуляторные границы в сфере ИИ.
Європарламент / авторское право / закон / интеллектуальная собственность / искусственный интеллект
