У 2025 році регулювання штучного інтелекту зазнає значних змін, причому особлива увага приділяється застосункам, орієнтованим на споживача. Компанії, що використовують чат-боти зі штучним інтелектом, автоматизовані системи прийняття рішень і генеративні технології, повинні підготуватися до дедалі складнішого і жорсткішого регуляторного середовища.

‍

Еволюція системи штучного інтелекту у 2025 році

Зміна нормативної парадигми

2025 рік знаменує собою кінець епохи "Дикого Заходу" в розвитку штучного інтелекту. Європейський закон про ШІ набув чинності 1 серпня 2024 року, а його основні положення почали діяти протягом 2025 року: зобов'язання щодо грамотності в галузі ШІ набули чинності 2 лютого 2025 року, а правила управління та зобов'язання щодо моделей GPAI - 2 серпня 2025 року.

‍

Трирівневий регуляторний підхід

Нові регуляторні акти дотримуються трирівневого підходу до оцінки ризиків:

‍

1. Системи штучного інтелекту для критичної інфраструктури: додатки в охороні здоров'я, транспорті, енергетиці та на фінансових ринках тепер вимагають сертифікації перед розгортанням, постійного моніторингу та значущого людського нагляду.

2. Застосування штучного інтелекту, орієнтоване на споживача: додатки, які безпосередньо взаємодіють зі споживачами, повинні надавати чіткі повідомлення про використання штучного інтелекту, зберігати вичерпні аудиторські сліди та впроваджувати протоколи виявлення упередженості.

3. ШІ загального призначення: загальні системи також вимагають реєстрації, базового тестування безпеки та розкриття методології навчання.

‍

Правила Каліфорнійського піонерського руху

SB 243: Захист від чат-ботів-"хижаків

Законопроект 243 Сенату Каліфорнії, внесений сенатором Стівом Паділла, виник у відповідь на трагічне самогубство Сьюелла Сетцера, 14-річного хлопчика з Флориди, який наклав на себе руки після того, як зав'язав емоційні стосунки з чат-ботом.

‍

SB 243 Основні вимоги:

• Заборона систем винагород, які заохочують компульсивне вживання
• Впровадження протоколів для виявлення та реагування на суїцидальні думки
• Нагадування кожні три години, що чат-бот не є людиною
• Щорічна звітність до Бюро запобігання самогубствам
• Обов'язковий незалежний аудит з публічними результатами

Законодавство передбачає приватний позов з відшкодуванням фактичних або передбачених законом збитків у розмірі 1000 доларів США за кожне порушення, залежно від того, яка сума є більшою.

SB 420: Каліфорнійський білль про права штучного інтелекту

SB 420 має на меті створити нормативно-правову базу, яка гарантуватиме, що системи штучного інтелекту поважають права людини, сприяють справедливості, прозорості та підзвітності. Законодавство регулює розробку та впровадження "автоматизованих систем прийняття рішень з високим ступенем ризику", вимагаючи проведення оцінки впливу для визначення мети, використання даних і потенціалу упередженості.

‍

Зобов'язання щодо інформування споживачів: Згідно з SB 420, особи, які підпадають під дію автоматизованих систем прийняття рішень, повинні знати, коли інструмент використовується для прийняття рішень щодо них, отримувати детальну інформацію про систему та, якщо це технічно можливо, мати можливість оскаржити ці рішення в судовому порядку.

‍

Національний тренд: вимоги до розкриття інформації про чат-ботів

Широка законодавча діяльність

Алабама, Гаваї, Іллінойс, Мен і Массачусетс у 2025 році запровадили законодавство, згідно з яким неповідомлення про взаємодію споживачів із чат-ботами зі штучним інтелектом вважатиметься порушенням Закону про недобросовісні або оманливі дії чи практики (UDAP), що призведе до розслідування з боку Генерального прокурора та можливих приватних судових позовів.

Приклади державного регулювання (США)

‍

Гаваї (HB 639): Кваліфікує як недобросовісне або оманливе використання чат-ботів зі штучним інтелектом, здатних імітувати людську поведінку, без попереднього повідомлення про це споживачам у чіткий і наочний спосіб. Малі підприємства, які несвідомо використовують чат-боти зі штучним інтелектом, звільняються від цього закону, якщо вони не отримують чітких повідомлень.

‍

Іллінойс (HB 3021): Внесе зміни до Закону про шахрайство щодо споживачів та оманливу ділову практику, щоб вимагати чіткого повідомлення, коли споживачі спілкуються з чат-ботами, агентами штучного інтелекту або аватарами, які можуть змусити споживачів повірити, що вони спілкуються з людьми.

‍

Існуюча правова база

‍

Каліфорнійський закон про ботів-піонерів (2019)

Каліфорнія прийняла перший закон про розкриття інформації про ботів (Cal. Bus. & Prof. Code § 17940-17942), який вимагає розкриття інформації, коли боти використовуються для "свідомого обману" людини для бізнес-транзакцій або впливу на вибори.

‍

Комплексний підхід штату Юта

Закон штату Юта про політику щодо штучного інтелекту, який набуде чинності 1 травня 2024 року, вимагає від ботів, що взаємодіють зі споживачами, "на вимогу" повідомляти, що споживачі взаємодіють з "генеративним штучним інтелектом, а не з людиною".

‍

‍

Правозастосування та санкції

‍

Каліфорнійська заявка на реєстрацію

У 2022 році користувачі додатку для схуднення Noom подали до суду на компанію за нібито порушення каліфорнійського закону про розкриття інформації про ботів, стверджуючи, що Noom неправдиво стверджував, що користувачі отримуватимуть індивідуальні плани від тренерів-людей, тоді як насправді це були автоматизовані боти. Сторони досягли мирової угоди на суму 56 мільйонів доларів.

Федеральний нагляд

FTC видала рекомендації, які вимагають від компаній "бути прозорими щодо природи інструментів, з якими взаємодіють користувачі", і застерігає від використання автоматизованих інструментів для обману людей.

‍

Регуляторні зміни в ЄС

Вимоги Закону про штучне інтелект

Відповідно до Закону ЄС про штучний інтелект, з серпня 2026 року провайдери ШІ повинні інформувати користувачів, коли вони взаємодіють зі штучним інтелектом, за винятком випадків, коли це очевидно. Контент, створений штучним інтелектом, повинен мати чітке маркування в машинозчитуваній формі, за винятком незначних модифікацій.

‍

Наслідки для компаній та комплаєнс

‍

Широка сфера застосування

Навіть компанії, які не вважають себе компаніями, що займаються штучним інтелектом, можуть використовувати чат-ботів за умови регулювання. Чат-боти проникають у сферу обслуговування клієнтів, охорони здоров'я, банківської справи, освіти, маркетингу та розваг.

Проблеми впровадження

Компанії повинні орієнтуватися у фрагментованому регуляторному середовищі з різними вимогами в різних юрисдикціях. Відсутність федерального преференційного права означає, що компанії повинні відповідати різним вимогам у різних штатах.

‍

Комплаєнс-стратегії для компаній

1. Аудит та оцінка існуючих систем

• Повна інвентаризація всіх використовуваних систем штучного інтелекту та чат-ботів
• Класифікація рівнів ризику для кожної системи
• Оцінка відповідності чинному законодавству

2. Впровадження прозорого розкриття інформації

• Чіткі та помітні сповіщення, коли споживачі взаємодіють зі штучним інтелектом
• Проста та зрозуміла мова
• Стратегічне позиціонування розкриття інформації в інтерфейсі користувача

3. Розробка протоколів безпеки

• Системи виявлення шкідливого контенту або упередженості
• Протоколи ескалації для ситуацій підвищеного ризику
• Безперервний моніторинг продуктивності системи

4. Навчання та внутрішнє управління

• Навчання персоналу щодо регуляторних вимог
• Міжфункціональні комітети з управління ШІ
• Регулярне оновлення політик компанії

Майбутнє споживчого регулювання у сфері штучного інтелекту

‍

Нові тенденції

Державні законодавці розглядають різноманітні законодавчі акти у сфері ШІ, і до 2025 року будуть прийняті сотні нормативно-правових актів, включаючи комплексні закони про захист прав споживачів, галузеві нормативні акти та правила щодо чат-ботів.

‍

Конкурентний вплив

Організації, які надають пріоритет управлінню штучним інтелектом, отримають конкурентну перевагу, оскільки проактивний комплаєнс - це ключ до розкриття повного потенціалу штучного інтелекту та уникнення правових пасток.

‍

Висновок

Регуляторний ландшафт для додатків штучного інтелекту, орієнтованих на споживача, стрімко розвивається, і Каліфорнія лідирує в цьому напрямку, прийнявши комплексне законодавство, що стосується як безпеки чат-ботів (SB 243), так і прозорості більш широких рішень у сфері штучного інтелекту (SB 420).

‍

Така розрізненість нормативних актів на рівні штатів створює проблеми з дотриманням вимог для компаній, що працюють у кількох юрисдикціях, а відсутність федеральних преференцій означає, що компаніям доводиться орієнтуватися на мінливі вимоги.

‍

Акцент на прозорості, правах нагляду за дотриманням прав людини та захисті вразливих верств населення свідчить про перехід до більш директивного управління штучним інтелектом, яке ставить на перше місце захист прав споживачів, а не гнучкість в інноваціях.

‍

FAQ - поширені запитання щодо регулювання споживання штучного інтелекту

‍

Що таке додатки ШІ, орієнтовані на споживача?

Програми штучного інтелекту, орієнтовані на споживача, - це системи штучного інтелекту, які безпосередньо взаємодіють зі споживачами, зокрема чат-боти для обслуговування клієнтів, віртуальні асистенти, рекомендаційні системи та розмовний ШІ, що використовуються в таких галузях, як електронна комерція, охорона здоров'я, фінансові послуги та розваги.

‍

Які основні вимоги до розкриття інформації для чат-ботів зі штучним інтелектом?

‍

Основні вимоги включають в себе:

‍

• Чітке та видиме сповіщення про те, що користувач взаємодіє з ШІ-системою
• Проактивне розкриття інформації для регульованих секторів
• Інформація про природу та можливості системи штучного інтелекту
• Право вимагати втручання людини, коли це технічно можливо

Чи застосовується SB 243 Каліфорнії до всіх чат-ботів?

Ні, SB 243 стосується саме "чат-ботів-компаньйонів" - систем штучного інтелекту з природним мовним інтерфейсом, які надають адаптивні, схожі на людські відповіді і здатні задовольняти соціальні потреби користувачів. Не всі чат-боти для обслуговування клієнтів обов'язково підпадають під це визначення.

‍

Які санкції передбачені за недотримання вимог?

Санкції різняться залежно від штату, але можуть включати в себе наступне:

• Цивільні штрафи до $20 000 за порушення (Колорадо)
• Відшкодування збитків у розмірі $1,000 за кожне порушення або фактичну шкоду (Каліфорнія SB 243)
• Штрафи до $50 000 (Іллінойс)
• Приватні позови та судові заборони

Як компанія може підготуватися до комплаєнсу?

Компанії повинні:

1. Проведення повного аудиту всіх використовуваних систем штучного інтелекту
2. Впровадження чіткого та прозорого розкриття інформації
3. Розробка протоколів безпеки та моніторингу
4. Навчити персонал регуляторним вимогам
5. Створіть внутрішні комітети з управління ШІ

Чи впливає Європейський закон про штучний інтелект на неєвропейські компанії?

Так, Закон про штучний інтелект застосовується до будь-якої системи штучного інтелекту, що обслуговує користувачів у ЄС, незалежно від того, де базується компанія. З серпня 2026 року провайдери повинні будуть інформувати користувачів, коли вони взаємодіють зі штучним інтелектом, якщо це не є очевидним.

‍

Що станеться, якщо моя компанія працює в декількох штатах США?

Компанії повинні дотримуватися законів кожного штату, в якому вони працюють. Наразі не існує федерального преференційного права, тому необхідно розробляти стратегії комплаєнсу на рівні декількох штатів, які б відповідали найсуворішим вимогам.

‍

Чи має малий бізнес винятки з правил щодо штучного інтелекту?

Деякі нормативно-правові акти передбачають винятки або знижені вимоги для малого бізнесу. Наприклад, закон Гаваїв HB 639 звільняє малі підприємства, які несвідомо використовують чат-боти зі штучним інтелектом, за умови, що вони дотримуються вимог після отримання відповідного повідомлення.

‍

Джерела та довідкові посилання:

‍

• Закон ЄС про штучний інтелект Офіційна інформація
• Законопроект Сенату Каліфорнії 243
• Законопроект Сенату Каліфорнії 420
• Посібник FTC зі штучного інтелекту
• IAPP US State AI Legislation Tracker