Галюцинація як робочий термін, а не страшилка

Галюцинація в роботі з ШІ означає правдоподібну відповідь без опори на факти, які ви дали системі: текст виглядає фахово, а джерела у вході не було.

Коротко

Галюцинація є робочим терміном для класу ризику, а не страшилкою з новин і не діагнозом "модель зʼїхала з глузду".
Найдорожчі вигадки для ФОП стосуються наявності на складі, ціни з прайсу, трек-номера Нової Пошти і фраз на кшталт "ми вже все оформили".
Модель заповнює дірку у фактах звʼязною мовою, бо навчена на правдоподібність, а про ваш склад вона нічого не знає.
Вигадку ловлять звіркою з джерелом, пошуком нових сутностей у відповіді і вимогою показати фрагмент вашого входу.
Лідери ставлять правило "без джерела клієнту не відправляємо". Відстаючі команди сварять бренд чату після інциденту з оплатою в monobank.

Коли менеджер копіює з ChatGPT повідомлення клієнту з "треком", якого в кабінеті Нової Пошти ніколи не було, на кону вже стоїть не абстрактна помилка ШІ, а година спілкування з підтримкою перевізника, нерви клієнта і репутація ФОП. У Learn to Earn Global на кейс-днях ми розкладаємо галюцинацію саме так: як клас ризику всередині процесу, а не як привід шукати ідеальну модель без жодної вигадки. Нижче я даю визначення, яке тримаю поруч із касою, Excel і Telegram, і протокол, яким сам зупиняю відповідь до відправки.

Що означає галюцинація в робочому дні

Галюцинація в роботі з ШІ означає правдоподібний вихід без опори на надані факти. Текст виглядає як відповідь фахівця. Всередині немає джерела, яке ви дали системі. Це визначення я повторюю власникам навмисно сухо, без містики і без розмов про нейромережу, яка зʼїхала. Якщо ви шукали, що таке галюцинація ШІ людською мовою, тримайте саме цю формулу.

Для українського ФОП найдорожчі випадки рідко стосуються філософії. Вони стосуються наявності на складі, ціни з прайсу, трек-номера, умов повернення, гарантії і обіцяного строку. Модель уміє зібрати речення, яке звучить як статус відправлення. Кабінет перевізника вона відкрити не може, поки ви самі не підклали номер або інтеграцію.

Різниця з помилкою переносу цифри теж заслуговує на окреме речення. Якщо у вході було "450 грн", а у виході стало "540", це збій уваги до наданих даних. Галюцинація у вузькому сенсі стається тоді, коли факту у вході взагалі не було, а форма факту все одно зʼявилась. Обидва випадки ловить один і той самий протокол читання: числа, імена, обіцянки клієнту, юридичні формулювання, звірка з джерелом. Витрачати нараду на суперечку, який саме тип помилки трапився, шкода часу. Викреслюйте з тексту все, чого не можете підтвердити за тридцять секунд.

Сцена з треком, якого не існувало Клієнт у Telegram питає статус замовлення. Менеджер пише в ChatGPT: "Напиши клієнту, що відправили, і встав трек". Реального треку у вході немає. Модель видає ввічливе повідомлення з номером, схожим на формат Нової Пошти. Людина копіює текст клієнту. Через годину відправлення не знаходиться ні в застосунку, ні на гарячій лінії, бо номера в кабінеті ніколи не існувало.

Це класична галюцинація: вигадка у формі факту. Історія про те, як ШІ придумав трек Нової Пошти, є типовим інцидентом при дірявому вході, а не рідкісним казусом із соцмереж. Я бачив, як після такого випадку команда тиждень сварила "дурний ChatGPT" і ще тиждень шукала кращу нейромережу. Дірка сиділа в процесі: задачу на факт поставили системі, якій факту не дали.

Правильний контур виглядає інакше. Спочатку номер ТТН з кабінету. Потім модель лише формулює текст навколо вже підтвердженого номера. Якщо номера ще немає, чесна відповідь клієнту звучить так: "Заберу трек із кабінету і одразу напишу". Це повільніше за один клік і набагато дешевше за годину розбирання з вигаданим треком.

Чому ChatGPT вигадує факти

Систему навчили продовжувати текст так, щоб він виглядав звʼязним, повним і корисним для читача. Якщо запит вимагає номер, а номера у вході немає, найімовірнішим продовженням стає рядок, схожий на номер, а не чесна тиша. Модель не відчуває сорому перед вашим клієнтом і не тримає в голові ваш склад. Вона тримає статистику мови.

Без явної заборони і без вимоги "якщо даних немає, скажи, що їх немає" дірка у фактах заповнюється правдоподібністю. Тому боротьба з вигадкою починається з інструкції і з гігієни даних. Лайка на бренд чату і мрія про ідеальну модель без помилок змінюють мало.

У Learn to Earn Global ми навмисно показуємо два скріни поруч: вигаданий трек і відповідь "спочатку візьму номер з кабінету". Люди запамʼятовують сцену швидше за слайд із визначенням. Сором за вигадку, спійману до відправки, ми з менеджера знімаємо. Відповідає процес, який заохочує копіювати перший абзац моделі в клієнтський Telegram без звірки.

Як зловити вигадку моделі на практиці

Перший спосіб називається звіркою з джерелом. Якщо був файл, рядок Excel або екран кабінету Нової Пошти, у виході має стояти точне повторення числа чи номера. Якщо джерела не було, будь-який новий факт у відповіді підозрілий за визначенням.

Другий спосіб полягає в пошуку нових сутностей. Зʼявилось імʼя постачальника, якого ви не згадували? Зʼявилась сертифікація, якої немає на сайті? Зʼявилась обіцянка "сьогодні до 18:00" без вашого слова? Усе це кандидати на галюцинацію.

Третій спосіб є прямою вимогою: покажи, з якого фрагмента мого входу ти це взяла. Якщо модель на ваш текст не вказує, ви зупиняєтесь і клієнту нічого не відправляєте. Цей прийом безпомилковою систему не робить. Він робить вихід читабельним для людини з таймером на тридцять секунд.

Я сам читаю чернетки саме так: спочатку підкреслюю всі числа і імена, потім звіряю їх із джерелом, потім дивлюсь на обіцянки строку і умови повернення. Тон відповіді перевіряю останнім. Тон рідко створює інцидент. Вигаданий факт створює.

Наявність, прайс і вечірній сервіс У таблиці Excel лежить три одиниці товару. Менеджер питає модель без файлу: "Чи є товар X для клієнта з Одеси?". Відповідь приходить рівним тоном: "Так, товар є в достатній кількості, можемо відправити завтра". Впевненість максимальна, опора на факт нульова. Клієнт оплачує через monobank. Уранці товару на складі бракує. Далі йдуть вибачення, повернення, компенсація доставкою і ризик поганого відгуку. Галюцинація тут коштує логістики і довіри.

Прайс дає інший відтінок тієї самої проблеми. У чаті лежить старий файл цін. Нові ціни власник озвучив голосом на нараді в понеділок, а файл ніхто не оновив. Модель чесно цитує старий прайс і виглядає правою, хоча компанія вже продає за іншими цифрами. Це розрив між джерелом у системі і реальністю бізнесу, а не вигадка з повітря. Корисніше питати, яке джерело істини ми підклали і хто відповідає за його оновлення, ніж чому модель дурна. Перевірка джерела включає свіжість файлу, дату зміни в Excel і згоду власника процесу.

Окремо стоїть вечірній сервіс. Власник хоче, щоб хтось відповідав клієнтам після 21:00, і ставить автоматичну відповідь без підключення до залишків. Бот гарно вітається і повідомляє, що товар є в наявності. Уранці менеджер бачить оплату в monobank за позицію, якої фізично немає. Злого умислу тут немає. Є галюцинація, вбудована в процес: систему попросили говорити про факт, якого в контурі даних нема. Ліки сидять у забороні автовідповіді про наявність або в живому джерелі залишків перед будь-яким текстом клієнту, а не в дорожчій підписці.

Інструкція, політика команди і питання вендору На рівні інструкції до моделі допомагають жорсткі формулювання: використовуй лише факти з блоку ДАНІ; якщо факту немає, напиши НЕМАЄ ДАНИХ і постав уточнювальне питання людині; трек-номери, ціни, залишки, дати відправки, гарантії та умови повернення вигадувати заборонено. Додайте негативний приклад: так писати не можна, будь-який трек без поля, скопійованого з кабінету Нової Пошти. Такі правила помітно знижують частоту вигадок, і до нуля вони її не знижують. Саме тому перевірка джерела очима людини лишається обовʼязковою для всіх клієнтських фактів.

Для керівника галюцинація є темою політики команди, а не лише особистої техніки. Правило "без джерела клієнту не відправляємо" коштує дешевше за будь-який зовнішній курс. Правило "номер ТТН тільки з кабінету Нової Пошти" знімає цілий клас інцидентів. На пʼятнадцятихвилинній зустрічі достатньо двох скрінів і одного робочого речення в інструкцію чату.

Інвестору і замовнику вендора цей термін потрібен, щоб не купити красиве демо без логів і без режиму "не знаю". Спитайте прямо: як система реагує, коли в базі знань немає відповіді? Чи вміє вона сказати, що даних бракує? Чи є слід, з якого фрагмента документа зібрано твердження? В AISync Global на пілотах ми бачимо одну й ту саму розвилку. Якщо вендор соромиться слова "галюцинація" і обіцяє нуль помилок назавжди, це червоний прапорець сильніший за окрему вигадану ціну в тестовому чаті. Чесний контур визнає вигадку як клас ризику і ставить ворота людини перед клієнтом, платежем і відправкою.

Лідери і відстаючі команди дивляться на одну й ту саму чернетку по-різному. Лідери шукають у тексті факти без джерела і зупиняють відправку. Відстаючі оцінюють ввічливість тону і швидкість відповіді. Після інциденту перші оновлюють інструкцію і джерело істини. Другі міняють бренд чату і повторюють ту саму дірку наступного тижня.

Що робити далі

Візьміть одну живу відповідь клієнту за цей тиждень і підкресліть усі числа, імена, треки і обіцянки строку. Звірте їх з Excel, прайсом або кабінетом Нової Пошти. Допишіть в інструкцію чату три рядки: лише факти з блоку ДАНІ; якщо даних немає, писати НЕМАЄ ДАНИХ; ТТН, ціни, залишки і гарантії вигадувати заборонено. На нараді відділу домовтесь про одне речення: без джерела клієнту не відправляємо. Забороніть автовідповіді про наявність після 21:00, якщо живого джерела залишків немає. На демо вендора поставте три питання: що робить система без відповіді в базі, чи є лог фрагмента, де стоїть людина перед клієнтом і платежем. Це текст треку "Мова ШІ" про галюцинацію як робочий термін. Його мета дати команді спільну мову до розмови про інструкції, перевірку відповіді і межі застосування, без страшилок і без обіцянки нуля помилок.