Європейський парламент схвалив новий законопроект, мета якого — зробити застосування штучного інтелекту безпечнішим та прозорішим.
Штучний інтелект (ШІ) – це галузь комп’ютерних наук, яка займається створенням інтелектуальних агентів, тобто систем, здатних міркувати, навчатися і діяти автономно. Дослідження в галузі ШІ досягли значних успіхів у розробці ефективних методів для вирішення широкого спектру завдань.
Депутати Європарламенту схвалили нові правила та керівні принципи для забезпечення етичного та орієнтованого на людину розвитку штучного інтелекту (ШІ) в Європі. Комітет з питань внутрішнього ринку та Комітет з питань громадянських свобод проголосували за проект переговорного мандату 84 голосами “за”, 7 “проти” та 12 “утрималися”. Метою поправок, внесених депутатами Європарламенту, є встановлення правил, які гарантують нагляд, безпеку, прозорість, простежуваність, недискримінацію та екологічність систем штучного інтелекту. Визначення ШІ має бути технологічно нейтральним і застосовуватися як до нинішніх, так і до майбутніх систем ШІ.
Основна мета Закону про ШІ
Один з провідних депутатів Європарламенту, румун Драгош Тудораке, підкреслив важливість цього закону, заявивши, що він, ймовірно, буде найбільш важливим законодавчим актом у нинішньому складі парламенту. Він підкреслив, що це перший у своєму роді закон у світі, який дозволяє Європейському Союзу взяти на себе ініціативу у створенні людиноцентричних, надійних і безпечних практик у сфері ШІ.
Регламент використовує ризико-орієнтований підхід і накладає зобов’язання на постачальників і користувачів залежно від рівня ризику, пов’язаного з системою ШІ. Системи ШІ, які становлять неприйнятний ризик для безпеки людей, будуть суворо заборонені. Це стосується систем, які використовують підсвідомі або маніпулятивні методи, експлуатують вразливі місця або беруть участь у соціальному оцінюванні на основі особистих характеристик і поведінки.
Депутати Європарламенту внесли значні зміни до запропонованого списку, який тепер включає заборону на нав’язливе та дискримінаційне використання систем ШІ. Приклади таких заборон включають системи віддаленої біометричної ідентифікації в реальному часі в громадських місцях, за винятком правоохоронних цілей за наявності судового дозволу на вчинення тяжких злочинів. Забороняється також біометрична категоризація на основі чутливих характеристик, системи предиктивної поліцейської діяльності, системи розпізнавання емоцій у різних ситуаціях і невибіркове зняття біометричних даних для баз даних розпізнавання облич.
Класифікація сфер високого ризику була розширена депутатами Європарламенту, щоб охопити шкоду здоров’ю, безпеці, основним правам, навколишньому середовищу, а також системи ШІ, що впливають на виборців у політичних кампаніях, і рекомендаційні системи, що використовуються платформами соціальних мереж з більш ніж 45 мільйонами користувачів.
Що стосується ШІ загального призначення, то постачальники базових моделей, таких як GPT, будуть зобов’язані забезпечити надійний захист фундаментальних прав, здоров’я, безпеки, навколишнього середовища, демократії та верховенства права. Вони повинні будуть оцінювати та зменшувати ризики, дотримуватися вимог щодо дизайну, інформації та захисту навколишнього середовища, а також будуть змушені зареєструватися в базі даних ЄС.
Моделі генеративних фондів підлягатимуть додатковим заходам прозорості, таким як розкриття інформації про те, що контент був створений за допомогою ШІ, запобігання створенню незаконного контенту та публікація резюме, захищених авторським правом даних, що використовуються для навчання.
Для підтримки інновацій у сфері ШІ були додані винятки для дослідницької діяльності та компонентів штучного інтелекту, що надаються за ліцензіями з відкритим вихідним кодом. Новий закон також сприяє створенню регуляторних пісочниць – контрольованих середовищ, де державні органи можуть тестувати ШІ перед його розгортанням.
Роль Управління ЄС зі штучного інтелекту
Євродепутати прагнуть розширити права громадян, дозволивши їм подавати скарги на системи ШІ та отримувати роз’яснення щодо рішень, ухвалених системами ШІ з високим ступенем ризику, які суттєво впливають на їх права. Роль Управління ЄС зі ШІ буде реформована таким чином, щоб контролювати виконання правил у сфері штучного інтелекту.
Проєкт переговорного мандата потребує схвалення всього парламенту, перш ніж переговори з Радою ЄС можуть розпочатися. Очікується, що голосування відбудеться під час сесії 12-15 червня 2023 року.
Категорії систем штучного інтелекту
Закон визначає три категорії систем штучного інтелекту (ШІ):
- високоризикові;
- неприйнятні;
- низькоризикові.
Системи ШІ з високим ступенем ризику – це ті, що становлять значний ризик для безпеки людини, фундаментальних прав або демократії.
Неприйнятні системи ШІ – це ті, які вважаються шкідливими за своєю суттю, наприклад, системи, які використовуються для соціального скорингу або масового спостереження.
Системи ШІ з низьким рівнем ризику – це системи, які не становлять значного ризику і тому не підлягають такому ж рівню регулювання.
Закон вимагає, щоб системи ШІ з високим ступенем ризику проходили суворий процес оцінки, перш ніж їх можна буде використовувати. Цей процес оцінки враховує потенційні ризики та переваги системи, а також заходи, які були вжиті для зменшення ризиків. Закон також вимагає, щоб системи ШІ з високим ступенем ризику були прозорими, щоб користувачі могли розуміти, як вони працюють, і приймати обґрунтовані рішення щодо використання.
Закон є значним кроком вперед у регулюванні ШІ. Це перший закон у світі, який встановлює всеосяжні межі для розробки та використання ШІ. Очікується, що закон матиме значний вплив на розвиток ШІ в ЄС і, ймовірно, його наслідуватимуть інші країни світу.
Ключові положення закону про штучний інтелект
Системи ШІ з високим ступенем ризику повинні пройти суворий процес оцінки, перш ніж їх можна буде використовувати. Цей процес оцінки враховує потенційні ризики та переваги системи, а також заходи, які були вжиті для зменшення ризиків.
Системи ШІ з високим ступенем ризику повинні бути прозорими, щоб користувачі могли розуміти, як вони працюють, і приймати обґрунтовані рішення про те, чи варто їх використовувати. Ця прозорість досягається різними способами, наприклад, наданням інформації про алгоритми системи та набори даних.
Компанії, які розробляють або використовують системи ШІ з високим ступенем ризику, повинні дотримуватися низки зобов’язань. Наприклад, вживати заходів для зниження ризиків і забезпечувати відповідальне використання систем. Компанії, які не дотримуються цих зобов’язань, можуть бути оштрафовані на суму до 20 мільйонів євро або 4% від їх глобального річного обороту.
Очікується, що закон про ШІ матиме значний вплив на розвиток і використання ШІ в ЄС. Закон про ШІ, ймовірно, призведе до розробки більш прозорих і відповідальних систем ШІ, але також може ускладнити розробку та використання компаніями систем ШІ з високим ступенем ризику, які становлять значний ризик для безпеки людини, фундаментальних прав або демократії.
Однак, закон про ШІ зіткнувся з опозицією зі сторони великих американських технологічних компаній, які домінують у сфері ШІ. Це може призвести до посилення трансатлантичних конфліктів навколо технології ШІ. У міру того, як генеративні моделі ШІ, такі як ChatGPT, набувають популярності, глобальні публічні дебати про ШІ загострюються. У той час як адміністрація президента США Байдена неохоче пропонує нові закони, натомість зосереджуючись на добровільній співпраці з індустрією та більш суворому дотриманні існуючих законів проти шахрайства та порушення приватності, законодавство ЄС демонструє протилежний підхід.
Ставлення до регулювання ШІ в усьому світі різниться, і уряди країн намагаються зрозуміти наслідки впливу цієї технології. Великобританія поки що дотримується відносно стриманого підходу, тоді як італійське агентство із захисту даних у квітні 2023 року тимчасово заборонило доступ до ChatGPT на території країни, але згодом все ж відновило цей доступ.
Думки експертів щодо нового Закону
Думки експертів щодо нового закону розділилися. Деякі експерти вважають закон необхідним і важливим кроком на шляху до забезпечення відповідального використання ШІ. Вони стверджують, що норми закону слугуватимуть запобіжником проти зловживань ШІ, таких як дискримінаційні практики та соціальний скоринг, і в кінцевому підсумку захистять людей та суспільство.
З іншої сторони, деякі експерти вважають, що закон про ШІ є надмірно обмежувальним і перешкоджатиме інноваціям у секторі ШІ. Вони стверджують, що регулювання створить додаткові перешкоди для бізнесу в розробці та впровадженні продуктів і послуг зі штучним інтелектом, що потенційно гальмуватиме технологічний прогрес.
Тімніт Гебру, колишній співкерівник команди Google з ШІ, зазначив: “Закон про ШІ – це хороший початок, але цього недостатньо. Нам потрібна повна заборона на використання ШІ для соціального скорингу та інших шкідливих застосувань. Ми також повинні забезпечити підзвітність систем ШІ перед громадськістю. Закон про ШІ – це крок у правильному напрямку, але його недостатньо, щоб захистити нас від небезпек, пов’язаних зі ШІ”.
Клара Монтіель, дослідниця Інституту Ади Лавлейс, аналітичного центру, що займається питаннями політики у сфері ШІ, зазначила: “Закон про ШІ є важливим кроком уперед. Закон про ШІ є знаковим законодавчим актом, який встановить глобальний стандарт регулювання ШІ. Він амбітний за своїми масштабами і охоплює широкий спектр систем ШІ, від розпізнавання облич до соціального скорингу. Закон також містить сильні гарантії дотримання фундаментальних прав, таких як недоторканність приватного життя та недискримінація. Однак є певні побоювання, що закон про ШІ може бути надто обтяжливим для бізнесу і може стримувати інновації. Важливо знайти баланс між захистом фундаментальних прав і забезпеченням можливості використання ШІ на благо суспільства”.
Справжній вплив закону про ШІ ще належить визначити, оскільки реалізація закону про ШІ та наслідки розгортаються з часом. Тим не менш, очевидно, що закон про ШІ є важливою віхою в регулюванні ШІ. Він, безсумнівно, вплине на використання ШІ в Європі та зможе слугувати зразком для інших країн світу, коли країни розглядатимуть власні регуляторні межі у сфері ШІ.
Європарламент / інтелектуальна власність / авторське право / закон / штучний інтелект
