Деякі нещодавні дослідження висвітлили цікавий феномен: існує "двосторонній" зв'язок між упередженнями, присутніми в моделях штучного інтелекту, і упередженнями людського мислення.
Ця взаємодія створює механізм, який має тенденцію посилювати когнітивні викривлення в обох напрямках.
Це дослідження показує, що системи штучного інтелекту не лише успадковують людські упередження з навчальних даних, але й при впровадженні можуть посилювати їх, впливаючи на процеси прийняття рішень. Це створює цикл, який, якщо ним не керувати належним чином, ризикує поступово посилити початкові упередження.
Це явище особливо помітне у таких важливих секторах, як:
У цих сферах невеликі початкові упередження можуть посилюватися через повторні взаємодії між людьми-операторами та автоматизованими системами, поступово перетворюючись на значні відмінності в результатах.
Людський розум природно використовує "мисленнєві ярлики", які можуть вносити систематичні помилки в наші судження. Теорія "подвійного мислення"розрізняє
Наприклад, у медицині лікарі схильні надавати занадто великої ваги початковим гіпотезам, нехтуючи протилежними доказами. Це явище, яке називається "упередженням підтвердження", відтворюється і посилюється системами штучного інтелекту, навченими на історичних діагностичних даних.
Моделі машинного навчання увічнюють упередження переважно трьома шляхами:
Один дослідження UCL 2024 року показало, що системи розпізнавання облич, навчені на емоційних судженнях людей, успадкували 4,7-відсоткову тенденцію позначати обличчя як "сумні", а потім посилили цю тенденцію до 11,3 відсотка при подальшій взаємодії з користувачами.
Аналіз даних рекрутингових платформ показує, що кожен цикл співпраці людини та алгоритму збільшує гендерну упередженість на 8-14% завдяки механізмам зворотного зв'язку, що взаємно підсилюють один одного.
Коли HR-фахівці отримують від ШІ списки кандидатів, на яких вже вплинули історичні упередження, їхня подальша взаємодія (наприклад, вибір питань для співбесіди або оцінювання результатів роботи) посилює упередженість моделі.
Мета-аналіз 47 досліджень, проведений у 2025 році, показав, що три раунди співпраці людини та АІ збільшили демографічні диспропорції в 1,7-2,3 рази в таких сферах, як охорона здоров'я, кредитування та освіта.
Система вимірювання упереджень, запропонована Донгом та ін. (2024), дозволяє виявляти упередження без потреби в ярликах "абсолютної істини", аналізуючи розбіжності в моделях прийняття рішень між захищеними групами.
Методика "алгоритмічного дзеркала", розроблена дослідниками UCL, зменшила гендерну упередженість у рішеннях про просування по службі на 41%, показавши менеджерам, як би виглядав їхній історичний вибір, якби він був зроблений системою штучного інтелекту.
Особливо перспективними виявилися навчальні протоколи, які чергують допомогу з боку експерта та самостійне прийняття рішень, що дозволило знизити ефект перенесення упередження з 17% до 6% у клінічних діагностичних дослідженнях.
Організації, які впроваджують системи штучного інтелекту без урахування взаємодії з людськими упередженнями, стикаються з підвищеними юридичними та операційними ризиками.
Аналіз справ про дискримінацію на робочому місці показує, що процеси найму за допомогою ШІ збільшують шанси позивачів на успіх на 28% порівняно з традиційними справами, які ведуть люди, оскільки сліди алгоритмічних рішень надають чіткіші докази неспівмірного впливу.
Взаємозв'язок між алгоритмічними викривленнями та обмеженням свободи вибору вимагає від нас переосмислення технологічного розвитку з точки зору індивідуальної відповідальності та забезпечення ефективності ринку. Вкрай важливо, щоб ШІ став інструментом розширення можливостей, а не їх обмеження.
Перспективні напрямки включають:
Лише завдяки відповідальному саморегулюванню галузі в поєднанні зі свободою вибору для користувачів ми можемо гарантувати, що технологічні інновації і надалі залишатимуться рушієм процвітання та можливостей для всіх тих, хто готовий випробувати свої навички.
.svg)
.svg)
.svg)
.jpeg)
.jpeg)
.jpeg)