Критичний аналіз реальних кейсів використання LLM: між обіцянками та реальністю

Поки тривають дебати про реальну цінність великих мовних моделей (ВММ), важливо критично розглянути реальні приклади їхнього використання компаніями. Цей аналіз має на меті розглянути конкретні застосування ВММ у різних галузях, критично оцінивши їхню реальну цінність, обмеження та потенціал.

‍

Електронна комерція та роздрібна торгівля: цілеспрямована оптимізація чи надмірний інжиніринг?

У секторі роздрібної торгівлі та електронної комерції магістри права використовуються для виконання різноманітних завдань:

• Внутрішні асистенти та покращення робочого процесу: Instacart розробив асистента зі штучним інтелектом під назвою Ava для підтримки команд у написанні, перевірці та налагодженні коду, покращення комунікації та створення внутрішніх інструментів. Попри всю свою багатообіцяючу перспективність, виникає питання, чи пропонують ці асистенти значно більшу цінність, ніж більш традиційні та менш складні інструменти для співпраці.
• Модерація та безпека контенту: Whatnot використовує LLM для покращення модерації мультимодального контенту, захисту від шахрайства та виявлення порушень у пропозиціях. Zillow використовує LLM для виявлення дискримінаційного контенту в оголошеннях про нерухомість. Ці випадки представляють конкретні програми, де LLM може запропонувати реальну цінність, але вимагає точних систем перевірки, щоб уникнути помилкових спрацьовувань і негативних результатів.
• Видобування та класифікація інформації: OLX створив асистента зі штучним інтелектом Prosus для визначення посадових обов'язків в оголошеннях, а Walmart розробив систему для вилучення атрибутів товару з PDF-файлів. Ці кейси демонструють корисність LLM в автоматизації повторюваних завдань, які в іншому випадку вимагали б значної ручної праці.
• Створення креативного контенту: StitchFix поєднує алгоритмічно згенерований текст з наглядом людини, щоб спростити створення рекламних заголовків та описів товарів. Instacart генерує зображення продуктів харчування. Ці програми викликають питання щодо оригінальності створеного контенту та потенційної гомогенізації рекламної мови.
• Покращення пошуку: Leboncoin, Mercado Libre та Faire використовують LLM для покращення релевантності пошуку, тоді як Amazon застосовує LLM для розуміння зв'язків на основі здорового глузду та надання більш релевантних рекомендацій щодо товарів. Ці випадки представляють сферу, де додана вартість LLM є потенційно значною, але обчислювальна складність і пов'язані з нею витрати енергії можуть не виправдати поступове покращення порівняно з існуючими пошуковими алгоритмами.

Фінтех та банківська справа: навігація між вартісними та регуляторними ризиками

‍

У фінансовому секторі LLM застосовується з обережністю, враховуючи чутливий характер даних і суворі регуляторні вимоги:

• Класифікація та тегування даних: Grab використовує LLM для управління даними, класифікації об'єктів, ідентифікації конфіденційної інформації та присвоєння відповідних тегів. Цей варіант використання є особливо цікавим, оскільки він вирішує критично важливу проблему для фінансових установ, але вимагає суворих механізмів контролю, щоб уникнути помилок класифікації.
• Створення звітів про фінансові злочини: SumUp створює структуровані описи для звітів про фінансове шахрайство та відмивання грошей. Ця програма, хоча й обіцяє зменшити ручну роботу, викликає занепокоєння щодо здатності магістрів права належним чином працювати з юридично чутливими темами без людського нагляду.
• Підтримка фінансових запитів: Digits пропонує запити, пов'язані з банківськими операціями. Цей приклад використання показує, як магістри права можуть допомагати професіоналам, не замінюючи їх, що є потенційно більш раціональним підходом, ніж повна автоматизація.

Технологія: Автоматизація та сервіс

‍

У технологічному секторі LLM широко використовується для покращення внутрішніх робочих процесів та взаємодії з користувачами:

• Управління інцидентами та безпека: за даними security.googleblog.com, Google використовує LLM для надання резюме інцидентів безпеки та конфіденційності для різних одержувачів, включаючи керівників, менеджерів та партнерські команди. Такий підхід економить час менеджерів і підвищує якість звітів про інциденти. Microsoft використовує LLM для діагностики виробничих інцидентів, а Meta розробила систему аналізу першопричин за допомогою штучного інтелекту. Incident.io створює звіти про інциденти з програмним забезпеченням. Ці кейси демонструють цінність LLM у прискоренні критично важливих процесів, але ставлять під сумнів їхню надійність у ситуаціях з високими ставками.
• Допомога у програмуванні: GitHub Copilot пропонує пропозиції щодо коду та автоматичне завершення, а Replit розробив LLM для ремонту коду. NVIDIA використовує LLM для виявлення вразливостей програмного забезпечення. Ці інструменти підвищують продуктивність розробників, але також можуть поширювати неефективні або небезпечні шаблони коду, якщо їх використовувати некритично.
• Запити до даних і внутрішній пошук: Honeycomb допомагає користувачам писати запити до даних, Pinterest перетворює запити користувачів на SQL-запити. Ці кейси показують, як LLM можуть демократизувати доступ до даних, але також можуть призвести до неправильної інтерпретації або неефективності без глибокого розуміння базових структур даних.
• Класифікація та управління запитами на підтримку: GoDaddy класифікує запити на підтримку, щоб покращити якість обслуговування клієнтів. Dropbox узагальнює та відповідає на запитання про файли. Ці кейси демонструють потенціал LLM у покращенні обслуговування клієнтів, але викликають занепокоєння щодо якості та точності отриманих відповідей.

Поставки та мобільність: операційна ефективність та кастомізація

‍

У секторі надання послуг та мобільності LLM використовуються для підвищення операційної ефективності та покращення користувацького досвіду:

• Тестування та технічна підтримка: Uber використовує LLM для тестування мобільних додатків за допомогою DragonCrawl і створив Genie, другого пілота зі штучним інтелектом, який відповідає на запитання служби підтримки. Ці інструменти можуть значно скоротити час, витрачений на тестування і підтримку, але не можуть охопити складні проблеми або граничні випадки так, як це зробила б людина-тестувальник.
• Вилучення та співставлення інформації про товар: DoorDash вилучає інформацію про товар з даних про SKU, а Delivery Hero співставляє свій інвентар з товарами конкурентів. Ці кейси показують, як LLM можуть автоматизувати складні процеси зіставлення даних, але без належного контролю можуть призвести до упередженості або неправильної інтерпретації.
• Розмовний пошук і релевантність: Picnic покращує релевантність пошуку для списків товарів, а Swiggy впровадив нейронний пошук, щоб допомогти користувачам знаходити продукти харчування і товари в діалоговому режимі. Ці кейси ілюструють, як LLM можуть зробити пошукові інтерфейси більш інтуїтивно зрозумілими, але також можуть створювати "бульбашки фільтрів", які обмежують пошук нових продуктів.
• Автоматизація підтримки: DoorDash створив чат-бот підтримки на основі LLM, який отримує інформацію з бази знань, щоб генерувати відповіді, які швидко вирішують проблеми. Цей підхід може покращити час реагування, але вимагає надійних засобів захисту для вирішення складних або емоційно забарвлених ситуацій.

Соціальні мережі, медіа та B2C: персоналізований контент та взаємодія

‍

У соціальних мережах та B2C-сервісах LLM використовують для створення персоналізованого контенту та покращення взаємодії:

• Аналіз і модерація контенту: Yelp оновив свою систему модерації контенту за допомогою LLM для виявлення загроз, переслідувань, непристойності, особистих нападів або мови ворожнечі. LinkedIn аналізує різний контент на платформі, щоб отримати інформацію про навички. Ці випадки демонструють потенціал LLM у підвищенні якості контенту, але викликають занепокоєння щодо цензури та потенційного обмеження свободи вираження поглядів.
• Створення освітнього контенту та маркетинг: Duolingo використовує LLM, щоб допомогти дизайнерам створювати релевантні вправи, а Nextdoor використовує LLM для створення привабливих об'єктів електронної пошти. Ці програми можуть підвищити ефективність, але також можуть призвести до надмірної стандартизації контенту.
• Багатомовний переклад і спілкування: Roblox використовує кастомізовану багатомовну модель, що дозволяє користувачам безперешкодно спілкуватися рідною мовою. Цей додаток демонструє потенціал LLM у подоланні мовних бар'єрів, але може вносити культурні нюанси в переклади.
• Взаємодія з медіаконтентом: Vimeo дозволяє користувачам спілкуватися з відео за допомогою системи запитань і відповідей на основі RAG, яка може узагальнювати відеоконтент, посилатися на ключові моменти і пропонувати додаткові запитання. Цей додаток демонструє, як LLM може трансформувати спосіб взаємодії з мультимедійним контентом, але викликає питання щодо вірності згенерованих інтерпретацій.

Критичне оцінювання: реальна цінність проти слідування за трендом

Як зазначає Чітра Сундарам (Chitra Sundaram), директор практики управління даними в Cleartelligence, Inc., "Магістри права є пожирачами ресурсів. Навчання та запуск цих моделей вимагає величезних обчислювальних потужностей, що призводить до значного вуглецевого сліду. Сталі ІТ - це оптимізація використання ресурсів, мінімізація відходів та вибір правильного розміру рішення". Це спостереження особливо актуальне при аналізі представлених прикладів використання.

‍

Аналізуючи ці випадки використання, можна зробити кілька важливих висновків:

1. Додаткове значення проти складності

‍

Багато застосувань LLM пропонують поступові покращення порівняно з існуючими рішеннями, але зі значно вищими обчислювальними, енергетичними та імплементаційними витратами. Як зазначає Чітра Сундарам, "Використання LLM для обчислення простого середнього - це все одно, що використовувати базуку для пострілу в муху" (paste-2.txt). Вкрай важливо оцінити, чи виправдовує додана вартість таку складність, особливо з огляду на це:

• Потреба в надійних системах моніторингу
• Енергетичні витрати та вплив на навколишнє середовище
• Складність обслуговування та оновлення
• Вимоги до спеціалізованих навичок

2. Залежність від людського нагляду

‍

Більшість успішних прикладів використання підтримують підхід "людина в циклі", де LLMs допомагають, а не повністю замінюють людське втручання. Це свідчить про наступне:

• Повна автоматизація через LLM залишається проблематичною
• Основна цінність полягає в посиленні людських здібностей, а не в їх заміні
• Ефективність залежить від якості людино-машинної взаємодії

3. Специфіка домену проти універсальних додатків

‍

Найбільш переконливими прикладами використання є ті, де LLM були адаптовані та оптимізовані для конкретних галузей, а знання з цих галузей були вбудовані в них:

• Точне налаштування на основі галузевих даних
• Інтеграція з існуючими системами та джерелами знань
• Обмежувачі та контекстно-залежні обмеження

4. Інтеграція з існуючими технологіями

Найефективніші кейси не використовують LLM ізольовано, а доповнюють його:

• Системи відновлення та архівування даних (RAG)
• Спеціалізовані алгоритми та існуючі робочі процеси
• Механізми перевірки та контролю

Як підкреслює приклад використання Google, інтеграція LLM в робочі процеси інцидентів, пов'язаних з безпекою і конфіденційністю, дозволяє "прискорити реагування на інциденти за допомогою генеративного штучного інтелекту", при цьому згенеровані резюме адаптуються до різних аудиторій, гарантуючи, що відповідна інформація потрапляє до потрібних людей у найбільш корисному для них форматі.

‍

Висновок: Прагматичний підхід до магістерських програм

Чітра Сундарам пропонує просвітницьку перспективу, коли каже: "Шлях до сталого аналізу полягає у виборі правильного інструменту для роботи, а не просто в гонитві за останніми трендами. Він полягає в інвестуванні у кваліфікованих аналітиків і надійному управлінні даними. Це означає, що сталий розвиток має стати ключовим пріоритетом".

‍

Аналіз цих реальних кейсів використання підтверджує, що LLM - це не чудодійне рішення, а потужний інструмент, який, при стратегічному застосуванні до конкретних проблем, може принести значну користь. Організації повинні це зробити:

1. Виявлення конкретних проблем, де обробка природної мови має суттєву перевагу над традиційними підходами
2. Почніть з пілотних проектів, які можуть швидко і вимірювано продемонструвати цінність
3. Інтеграція LLM з існуючими системами, а не повна заміна робочих процесів
4. Підтримувати механізми людського нагляду, особливо для критично важливих застосувань
5. Систематично оцінюйте співвідношення витрат і вигод, враховуючи не лише покращення продуктивності, але й витрати на енергію, технічне обслуговування та модернізацію

Компанії, які процвітають в епоху LLM, не обов'язково є тими, хто впроваджує їх найширше, але тими, хто застосовує їх найбільш стратегічно, балансуючи між інноваціями та прагматизмом, а також критично оцінюючи реальну цінність, що генерується за межами галасу.

‍