Що ми маємо на увазі під впровадженням AI
Підключити готовий чат-бот до сайту нескладно, але такий бот відповідає загальними фразами і може вигадати те, чого у вас немає. Повноцінне впровадження — це коли AI працює з вашими даними, дотримується ваших правил і вбудований у процес, де його результатом хтось користується.
Технічно це зазвичай поєднання кількох частин: мовна модель через API, ваша база знань, логіка, яка вирішує, що і коли передати моделі, інтерфейс для користувача та контроль якості відповідей.
Де AI приносить користь, а де ні
Найсильніша сторона мовних моделей — робота з текстом: відповідати на типові питання, шукати в документах, стискати й структурувати інформацію, сортувати звернення. Вони добре знімають рутину з людей, які щодня роблять одне й те саме.
Гірше AI справляється там, де помилка дорого коштує і немає людини для перевірки: точні розрахунки, юридично значущі відповіді, рішення про гроші клієнта. У таких місцях ми або залишаємо людину в процесі, або радимо не використовувати AI взагалі. Для прогнозів на основі числових даних краще підходять класичні ML-моделі.
Як асистент відповідає за вашими документами
Більшість корисних асистентів працює за підходом, який називають RAG. Спершу система шукає у вашій базі знань фрагменти, що стосуються питання, а потім передає їх мовній моделі разом із запитом. Модель формує відповідь саме на основі знайденого, а не з загальної пам’яті.
Плюс такого підходу — відповіді спираються на актуальні дані, а оновлення бази знань одразу змінює відповіді без перенавчання моделі. Мінус — якість залежить від того, наскільки добре впорядковані ваші документи. Застарілі чи суперечливі інструкції дають суперечливі відповіді.
Готові моделі через API чи власний сервер
Моделі через API (OpenAI, Claude, Gemini та інші). Плюси: найвища якість відповідей, швидкий старт, не потрібно власне обладнання. Мінуси: плата за кожен запит, дані передаються зовнішньому провайдеру, залежність від його умов і цін.
Відкриті моделі на власному сервері. Плюси: дані не виходять за межі вашої інфраструктури, немає плати за запит. Мінуси: потрібні потужні сервери з відеокартами, налаштування й підтримка, а якість на складних задачах часто нижча.
Часто розумний варіант — почати з API для перевірки ідеї, а рішення про власний сервер ухвалювати, коли зрозумілі обсяги та вимоги до даних.
Ризики, про які ми говоримо відкрито
- Вигадані відповіді. Мовна модель може впевнено написати неправду. Ми зменшуємо ризик обмеженням тем, відповідями лише за джерелами і посиланнями на документ, з якого взято інформацію, але повністю прибрати його неможливо.
- Конфіденційність. Персональні та комерційні дані, які йдуть у запит, треба контролювати. Вирішуємо, що можна передавати, а що маскувати чи обробляти локально.
- Витрати. Вартість запитів зростає разом з кількістю користувачів і довжиною контексту. Закладаємо обмеження та стежимо за витратами з першого дня.
- Зміни в моделях. Провайдери оновлюють і виводять з обігу моделі. Тому архітектуру будуємо так, щоб модель можна було замінити без переписування продукту.
Типові помилки при впровадженні AI
Почати з технології, а не з задачі. «Давайте додамо AI» без конкретного процесу зазвичай закінчується чат-ботом, яким ніхто не користується.
Не перевіряти якість систематично. Якщо тестувати асистента кількома випадковими питаннями, слабкі місця виявлять уже клієнти. Потрібен постійний набір перевірок.
Залишити користувача наодинці з ботом. Коли асистент не знає відповіді, людина має швидко потрапити до оператора, інакше AI лише дратує.
Забути про базу знань. Асистент відповідає настільки добре, наскільки актуальні документи. Хтось у компанії має відповідати за їхнє оновлення.
Що підготувати для старту
- опис процесу, який хочете покращити, і приклади реальних питань, звернень або документів;
- базу знань: інструкції, умови, каталог, відповіді на часті питання — навіть якщо вона поки розкидана по файлах;
- вимоги до даних: що можна передавати зовнішнім сервісам, а що ні;
- людину, яка перевірятиме відповіді на етапі тестування і скаже, де AI помиляється.
Як оцінюємо результат
Перед запуском складаємо набір перевірочних питань з правильними відповідями і вимірюємо, скільки з них AI вирішує коректно. Цей самий набір проганяємо після кожної зміни.
Після запуску дивимося на бізнес-показники: яку частку звернень асистент закриває без людини, скільки часу оператори витрачають на відповідь, як часто користувачі просять з’єднати з людиною. Якщо функція не дає помітного ефекту, краще це визнати й переробити, ніж платити за неї просто так. Окремо стежимо за вартістю запитів на одне вирішене звернення.
Що впливає на вартість
- Тип функції: пошук за змістом, асистент, обробка документів чи кілька сценаріїв разом.
- Обсяг і стан бази знань: чи готові документи, чи їх треба зібрати, очистити й структурувати.
- Інтеграції: підключення до CRM, каталогу, служби підтримки, внутрішніх систем.
- Вимоги до даних: зовнішні моделі через API чи розгортання на власному сервері.
- Навантаження: кількість користувачів і запитів, від чого залежать і поточні витрати на модель.
Часті запитання
Чи замінить AI наших операторів? Найчастіше ні. Він бере на себе типові питання та готує чернетки, а складні випадки залишаються людям. Так оператори встигають більше і працюють з тим, що справді потребує уваги.
Чи навчатиметься модель на наших даних? У більшості проєктів модель не перенавчається, а отримує ваші дані як контекст для конкретної відповіді. Умови використання даних різняться в провайдерів, і ми обираємо налаштування, які відповідають вашим вимогам.
Чи можна додати AI в наявний продукт? Так, це найпоширеніший сценарій. Ми вбудовуємо функцію у ваш сайт, сервіс чи застосунок через API, не переписуючи продукт.
Як швидко можна побачити результат? Пробна версія на ваших даних дозволяє досить рано оцінити, чи працює ідея, до того як вкладатися в повне впровадження.
Чому Promodex
Promodex на ринку з 2015 року, за плечима 750+ проєктів. Серед робіт у портфоліо, пов’язаних з цим напрямом, — Zoomerang. Для впровадження AI важливо, що в нас власна команда розробників, дизайнерів і маркетологів: ми робимо не лише підключення до моделі, а й інтерфейс, інтеграції з вашими системами та подальшу підтримку. Ми чесно кажемо, де AI доречний, а де простіше й надійніше обійтися без нього.
