Деякі нещодавні дослідження висвітлили цікавий феномен: існує "двосторонній" зв'язок між упередженнями, присутніми в моделях штучного інтелекту, і упередженнями людського мислення.

‍

Ця взаємодія створює механізм, який має тенденцію посилювати когнітивні викривлення в обох напрямках.

‍

Це дослідження показує, що системи штучного інтелекту не лише успадковують людські упередження з навчальних даних, але й при впровадженні можуть посилювати їх, впливаючи на процеси прийняття рішень. Це створює цикл, який, якщо ним не керувати належним чином, ризикує поступово посилити початкові упередження.

‍

Це явище особливо помітне у таких важливих секторах, як:

• Охорона здоров'я та медична діагностика
• Процеси відбору персоналу
• Системи розпізнавання облич та аналіз ризиків

У цих сферах невеликі початкові упередження можуть посилюватися через повторні взаємодії між людьми-операторами та автоматизованими системами, поступово перетворюючись на значні відмінності в результатах.

‍

Витоки упереджень

У людській думці

Людський розум природно використовує "мисленнєві ярлики", які можуть вносити систематичні помилки в наші судження. Теорія "подвійного мислення"розрізняє

• Швидке та інтуїтивне мислення (схильне до стереотипів)
• Повільне та рефлексивне мислення (здатне виправляти упередження)

Наприклад, у медицині лікарі схильні надавати занадто великої ваги початковим гіпотезам, нехтуючи протилежними доказами. Це явище, яке називається "упередженням підтвердження", відтворюється і посилюється системами штучного інтелекту, навченими на історичних діагностичних даних.

‍

У моделях штучного інтелекту

Моделі машинного навчання увічнюють упередження переважно трьома шляхами:

1. Незбалансовані дані про навчання, що відображають історичну нерівність
2. Вибір характеристик, що включають захищені ознаки (такі як стать або етнічна приналежність)
3. Петлі зворотного зв'язку, що виникають внаслідок взаємодії з уже спотвореними людськими рішеннями

Один дослідження UCL 2024 року показало, що системи розпізнавання облич, навчені на емоційних судженнях людей, успадкували 4,7-відсоткову тенденцію позначати обличчя як "сумні", а потім посилили цю тенденцію до 11,3 відсотка при подальшій взаємодії з користувачами.

‍

Як вони підсилюють один одного

Аналіз даних рекрутингових платформ показує, що кожен цикл співпраці людини та алгоритму збільшує гендерну упередженість на 8-14% завдяки механізмам зворотного зв'язку, що взаємно підсилюють один одного.

Коли HR-фахівці отримують від ШІ списки кандидатів, на яких вже вплинули історичні упередження, їхня подальша взаємодія (наприклад, вибір запитань на співбесіді або оцінювання результатів роботи) посилює викривлені уявлення про модель.

Мета-аналіз 47 досліджень, проведений у 2025 році, показав, що три раунди співпраці людини та АІ збільшили демографічні диспропорції в 1,7-2,3 рази в таких сферах, як охорона здоров'я, кредитування та освіта.

‍

Стратегії вимірювання та пом'якшення упереджень

Кількісна оцінка за допомогою машинного навчання

Система вимірювання упереджень, запропонована Донгом та ін. (2024), дозволяє виявляти упередження без потреби в ярликах "абсолютної істини", аналізуючи розбіжності в моделях прийняття рішень між захищеними групами.

‍

Когнітивні втручання

Методика "алгоритмічного дзеркала", розроблена дослідниками UCL, зменшила гендерну упередженість у рішеннях про просування по службі на 41%, показавши менеджерам, як би виглядав їхній історичний вибір, якби він був зроблений системою штучного інтелекту.

Особливо перспективними виявилися навчальні протоколи, які чергують допомогу з боку експерта та самостійне прийняття рішень, що дозволило знизити ефект перенесення упередження з 17% до 6% у клінічних діагностичних дослідженнях.

‍

Наслідки для суспільства

Організації, які впроваджують системи штучного інтелекту без урахування взаємодії з людськими упередженнями, стикаються з підвищеними юридичними та операційними ризиками.

Аналіз справ про дискримінацію на робочому місці показує, що процеси найму за допомогою ШІ збільшують шанси позивачів на успіх на 28% порівняно з традиційними справами, які ведуть люди, оскільки сліди алгоритмічних рішень надають чіткіші докази неспівмірного впливу.

‍

На шляху до штучного інтелекту, який поважає свободу та ефективність

Взаємозв'язок між алгоритмічними викривленнями та обмеженням свободи вибору вимагає від нас переосмислення технологічного розвитку з точки зору індивідуальної відповідальності та забезпечення ефективності ринку. Вкрай важливо, щоб ШІ став інструментом розширення можливостей, а не їх обмеження.

Перспективні напрямки включають:

• Ринкові рішення, які стимулюють розробку неупереджених алгоритмів
• Більша прозорість в автоматизованих процесах прийняття рішень
• Дерегуляція сприяє конкуренції між різними технологічними рішеннями

Лише завдяки відповідальному саморегулюванню галузі в поєднанні зі свободою вибору для користувачів ми можемо гарантувати, що технологічні інновації залишатимуться рушієм процвітання та можливостей для всіх, хто готовий випробувати свої навички на практиці.

‍