Відносини між штучним інтелектом і демократією не є ані лінійними, ані односпрямованими, а радше являють собою переплетення конфліктуючих сил, які одночасно зміцнюють і підривають основи демократичного процесу.

‍

Трансформація громадської агори

Штучний інтелект докорінно змінив публічний простір, у якому відбуваються демократичні дебати. Ці зміни виходять далеко за межі простої проблеми дезінформації. Ми є свідками фрагментації колективного інформаційного досвіду, який історично був фундаментальною передумовою сучасних демократій.

‍

Коли різні громадяни живуть у кардинально різних інформаційних реальностях, структурованих рекомендаційними алгоритмами, втрачається спільна основа, необхідна для демократичного діалогу.

‍

Парадоксально, але в той час як штучний інтелект збільшив кількість доступних джерел інформації, він також підірвав здатність демократичних суспільств досягати консенсусу щодо того, що є "фактом". Ця епістемічна ерозія становить глибший і підступніший виклик, ніж просто поширення фейкових новин.

‍

Дилема влади та компетенції

Демократії стикаються з фундаментальною дилемою: рішення щодо ШІ вимагають надзвичайно специфічних технічних знань, але довірити ці рішення виключно експертам означає вилучити їх з демократичного процесу. Таким чином, існує невирішене протиріччя між демократичним принципом (рішення приймаються громадянами і для громадян) і потребою в спеціальних знаннях.

‍

Ця напруга посилюється тим, що дедалі складніші системи штучного інтелекту є непрозорими не лише для пересічних громадян, а й іноді для самих експертів, які їх розробляють. Як може функціонувати демократичний контроль, коли інструменти, якими мають керувати, виходять за межі людського розуміння?

‍

Політичне мікротаргетування та виборчі процеси

Політичне мікротаргетування за допомогою ШІ стає дедалі складнішим у сучасних кампаніях. Системи штучного інтелекту аналізують величезні масиви даних про виборців, щоб створювати високо персоналізовані політичні повідомлення. Справедлива безпека

‍

Дослідження показують, що політична реклама, згенерована штучним інтелектом, значно переконливіша за загальний контент, оскільки вона орієнтована на особистість. PubMedNih

‍

Масштаби та ефективність ШІ дозволяють кампаніям генерувати персоналізований контент для мільйонів виборців одночасно, що робить мікротаргетинг набагато більш здійсненним та економічно ефективним, ніж будь-коли раніше. Політичний маркетологCSET

‍

Нещодавні дослідження показують, що інструменти виборчих кампаній на основі штучного інтелекту можуть виявляти психологічні вразливості виборців і створювати повідомлення, які експлуатують ці характеристики. OUPAcademicTechInformed

‍

Занепокоєння щодо демократії є суттєвими:

• Потенціал для маніпуляцій демонструють дослідження, які показують, як мікротаргетинг може використовувати психологічні вразливості OUPAcademicTechInformed
• ШІ може сприяти поляризації, показуючи виборцям насамперед контент, який відповідає їхнім існуючим поглядам Lse
• Виборці зазвичай не знають, що отримують персоналізований політичний контент SFGateTechInformed
• Добре фінансовані кампанії можуть використовувати більш складні інструменти ШІ, що потенційно створює нерівний політичний вплив SFGateBrennancenter

Системи голосування та виборча інфраструктура також зазнають впливу ШІ, як позитивного, так і негативного:

• ШІ може підвищити безпеку виборів шляхом виявлення аномалій та моніторингу інфраструктури на предмет потенційного втручання R StreetInstituteBrookings
• Адміністрування виборів може бути більш ефективним завдяки ШІ, який спрощує такі процеси, як перевірка реєстрації виборців CisaBrookings
• Однак ШІ також створює ризики, такі як більш витончені фішингові атаки, дезінформаційні фейки на виборах та масштабні автоматизовані дезінформаційні кампанії Sophos News + 3

‍

Демократична участь та громадянська активність

ШІ пропонує як можливості, так і виклики для демократичної участі:

Позитивні наслідки

• Покращений доступ до громадської інформації: інструменти штучного інтелекту можуть спростити складну державну інформацію IeeeBrookings
• Покращення надання державних послуг: системи зі штучним інтелектом можуть аналізувати громадські дані, щоб допомогти урядам ефективніше реагувати на потреби громадян Nextcity + 2
• Розширені інструменти участі: такі платформи, як Pol.is, використовують ШІ для аналізу громадської думки у великих масштабах ECNLBrookings
• Зменшення бар'єрів для участі: послуги перекладу зі штучним інтелектом можуть сприяти багатомовній громадянській участі ECNLBrookings

Негативний вплив

• Маніпулювання інформацією: контент, створений штучним інтелектом, може бути використаний для поширення дезінформації BrennancenterBrookings
• Посилення існуючих упереджень: системи штучного інтелекту, навчені на упереджених даних, можуть увічнити та посилити нерівність у громадянській участі BrennancenterBrookings
• Зменшення людської активності: надмірна залежність від алгоритмічного прийняття рішень в управлінні може зменшити людське судження та підзвітність
• Поглиблення цифрового розриву: нерівний доступ до громадянських технологій зі штучним інтелектом може поглибити існуючі розриви в участі Aiworldtoday + 2

‍

Реструктуризація владних відносин

ШІ не просто змінює способи демократичних дебатів, але й докорінно реструктуризує владні відносини в суспільстві. Контроль над інфраструктурою штучного інтелекту тепер є формою влади, порівнянною, якщо не вищою, ніж та, яку традиційно здійснюють демократичні інститути, такі як парламенти.

‍

Ми є свідками переходу повноважень щодо прийняття рішень від державних інституцій, які перебувають під демократичним контролем, до приватних структур, які діють за іншою логікою. Ця міграція влади часто відбувається непомітно, через поступове делегування рішень автоматизованим системам, які діють відповідно до параметрів, що не завжди є прозорими або встановленими демократичним шляхом.

‍

Переосмислення демократичної участі

Штучний інтелект трансформує саму концепцію демократичної участі. З одного боку, він пропонує інструменти для більш прямих і партисипативних форм демократії, з іншого - створює нові когнітивні та технологічні бар'єри для доступу. У цьому процесі також переосмислюється цінність індивідуальної думки: як у контексті зростаючої алгоритмічної персоналізації відрізнити справді особисті уподобання від тих, що індуковані рекомендаційними системами, в контексті зростаючої алгоритмічної персоналізації?

‍

Ця амбівалентність також проявляється в системах обговорення за допомогою штучного інтелекту: вони можуть зробити складні процеси прийняття рішень більш доступними, але вони також ризикують спростити питання, які потребують більш глибокого громадського осмислення.

‍

Метаморфози демократичних інститутів

Традиційні демократичні інститути, створені в доцифрову епоху, намагаються пристосуватися до швидкості, нав'язаної технологічними інноваціями. Ця часова асинхронність між швидким розвитком ШІ та повільнішим темпом демократичних процесів створює вакуум в управлінні, який ризикує бути заповненим недемократичними механізмами ухвалення рішень.

‍

Виклик полягає не просто в регулюванні ШІ через існуючі інститути, а в переосмисленні цих інститутів, щоб зробити їх відповідними до епохи, в якій штучний інтелект стає все більш центральним елементом соціальних, економічних і політичних процесів.

‍

Нова концепція громадянства в епоху штучного інтелекту

Щоб відповісти на ці виклики, необхідно розробити нову концепцію демократичного громадянства, яка б включала усвідомлення ролі ШІ. Це передбачає подолання як наївного технооптимізму, який вбачає в ШІ лише можливість для вдосконалення демократії, так і песимізму, який вбачає в ньому лише загрозу.

‍

Натомість це вимагає розвитку громадянської грамотності, яка включає здатність критично оцінювати вплив алгоритмів, свідомо брати участь у дебатах щодо складних технологічних питань, а також вимагати прозорості та підзвітності від тих, хто розробляє та впроваджує системи штучного інтелекту, що мають значний соціальний вплив.

‍

Зрештою, відносини між ШІ і демократією не визначаються самою технологією, а залежать від нашої колективної здатності уявляти і конструювати інститути, норми і практики, які дозволять спрямувати технологічний розвиток на зміцнення, а не на ерозію фундаментальних демократичних цінностей.

‍

Часті запитання про штучний інтелект і демократію

‍

Як ШІ може посилити демократичну участь?

ШІ може посилити демократичну участь, роблячи урядову інформацію більш доступною, уможливлюючи багатомовну участь, широкомасштабний аналіз громадської думки та персоналізуючи досвід громадянської активності. Наприклад, перекладацькі послуги з використанням штучного інтелекту можуть дозволити мовним меншинам повніше брати участь у демократичних процесах, ECNL, а інструменти аналізу даних можуть допомогти урядам виявити та усунути нерівність у наданні державних послуг. Nextcity + 2

‍

Які ризики ШІ для демократичних систем викликають найбільше занепокоєння?

До найбільш значущих ризиків належать: поширення переконливої дезінформації та глибоких фейків, які підривають загальновідомі факти; маніпуляції за допомогою мікротаргетованого політичного контенту; алгоритмічні упередження OUPAcademicMediaengagement, які виключають певні групи з демократичних процесів; а також вразливість виборчої інфраструктури в плані безпеки. Sage Journals + 5 Дослідження показують, що ці ризики не просто теоретичні - дослідження документують переконливу силу політичного контенту, створеного штучним інтелектом і адаптованого до індивідуальних психологічних профілів. PubMed + 2

‍

Як уряди можуть регулювати ШІ в політичних кампаніях?

Ефективні регуляторні підходи включають: обов'язкове розкриття політичного контенту, створеного за допомогою АІ; обмеження на типи персональних даних, які можуть бути використані для політичного мікротаргетингу; незалежні механізми нагляду за системами АІ для виборчих кампаній; а також просвітницькі ініціативи, спрямовані на підвищення обізнаності виборців про методи переконання за допомогою АІ. PBS + 4 Закон ЄС про АІ є прикладом нормативно-правової бази, що ґрунтується на оцінці ризиків і конкретно стосується використання АІ в демократичних процесах. Європа + 2

‍

Яку роль повинні відігравати громадяни в управлінні ШІ?

Громадяни повинні мати широкі можливості для формування управління ШІ за допомогою механізмів участі, таких як збори громадян, громадські консультації та безперервні процеси залучення зацікавлених сторін. Дослідження Брукінгса показують, що залучення різних зацікавлених сторін протягом усього життєвого циклу ШІ призводить до створення більш надійних систем, які краще відображають суспільні цінності. Adalovelaceinstitute + 13 Успішні моделі, такі як Кемденська хартія даних, демонструють, як участь громадян може створити етичні рамки для використання ШІ в державних службах. ОЕСР

‍

Як захистити виборчу інфраструктуру від загроз, пов'язаних зі штучним інтелектом?

Стратегії захисту включають: впровадження надійних заходів кібербезпеки, таких як багатофакторна автентифікація; навчання працівників виборчих комісій розпізнавати спроби фішингу з використанням штучного інтелекту; розробку систем для виявлення та протидії дезінформації про голосування, що генерується штучним інтелектом; запровадження Sophos News процесів перевірки офіційних повідомлень про вибори; створення резервних систем для критично важливої виборчої інфраструктури. ABC News + 2 Агентство з кібербезпеки та безпеки інфраструктури (CISA) надає конкретні рекомендації для членів виборчих комісій щодо зменшення ризиків, пов'язаних зі штучним інтелектом. CisaCisa

‍

Як ШІ може змінити відносини між громадянами та урядом?

ШІ може трансформувати відносини між громадянами та урядом, надаючи більш персоналізовані державні послуги, створюючи нові канали для громадянської участі, автоматизуючи певні державні функції, а також потенційно змінюючи динаміку влади в демократичних системах. EffOECD Напрямок цієї трансформації значною мірою залежить від вибору уряду, чи буде ШІ впроваджуватися у спосіб, що підвищує демократичну підзвітність, чи концентрує владу в технічних системах з обмеженим наглядом. ScienceDirect + 2

Яка міжнародна співпраця необхідна для управління НА в демократичних умовах?

Міжнародне співробітництво має важливе значення для встановлення спільних стандартів, запобігання фрагментації регулювання, подолання транскордонних наслідків ШІ та сприяння дотриманню демократичних цінностей у розвитку ШІ. ОЕСР + 2 Принципи ОЕСР у сфері штучного інтелекту представляють собою модель міжнародної координації, забезпечуючи загальну основу, прийняту 47 юрисдикціями в усьому світі, забезпечуючи при цьому гнучкість для національної імплементації. OecdBrookings

‍

Як ми можемо зробити так, щоб ШІ приносив користь демократії, а не підривав її?

Забезпечення того, щоб ШІ приносив користь демократії, вимагає: проактивних ціннісно-орієнтованих систем управління; значущих вимог до прозорості та підзвітності; підходів до розробки та регулювання ШІ, що передбачають широку участь; інвестицій у цифрову грамотність; захисту фундаментальних прав у застосуванні ШІ; механізмів притягнення до відповідальності систем ШІ та їхніх розробників. Ефективність + 4

Факти свідчать про те, що випереджувальні підходи до управління є більш ефективними, ніж реактивне регулювання. OecdBrookings

‍

Висновок

Штучний інтелект створює як значні можливості, так і виклики для глобальних демократичних систем. Наш комплексний огляд дозволяє зробити кілька ключових висновків:

1. Технологічна еволюція триває: інструменти штучного інтелекту для створення і поширення дезінформації стають все більш витонченими і доступними, що вимагає постійної пильності та адаптивного реагування. Діалогово-політичний
2. Вплив залежить від контексту: вплив дезінформації, підсиленої штучним інтелектом, суттєво варіюється залежно від соціального, політичного та медійного контексту, причому деякі суспільства виявляються більш стійкими, ніж інші. The Washington Post + 2
3. Рішення вимагають співпраці: ефективні відповіді на дезінформацію про ШІ вимагають багатосторонньої співпраці між технологічними компаніями, урядами, громадянським суспільством і громадянами. Acigjournal + 4
4. Людське судження залишається важливим: незважаючи на прогрес у системах виявлення ШІ, людське критичне мислення та медіаграмотність залишаються найкращим захистом від витонченої дезінформації. VtAARP
5. Необхідно розуміти, що, окрім технологічних рішень, боротьба з дезінформацією, підсиленою штучним інтелектом, вимагає подолання базової соціальної поляризації, викликів медіа-екосистеми та прогалин у громадянській освіті. Тейлор іФренсісПрирода