Щотижня я бачу ту саму логіку: «токени подешевшали вдесятеро, відеогенерація коштує копійки, тепер автоматизація точно вигідна». Це найпоширеніша помилка в розрахунках, які мені показують. Ціна генерації є найпомітнішою, але майже ніколи не найбільшою статтею витрат. Вигідність автоматизації визначається не тим, скільки коштує запит до моделі, а тим, скільки коштує прийнятий результат, той, за який ви готові відповідати перед клієнтом, регулятором або власною командою.
Розберемо, з чого ця повна вартість складається насправді.
Перше: дані. Модель працює з тим, що ви їй дали. Щоб автоматизація видавала корисний результат, дані треба зібрати, почистити, структурувати, оновлювати і тримати доступними. У більшості компаній, з якими я працював, саме тут ховається перший неврахований бюджет: тижні роботи на те, щоб внутрішня база знань, CRM або архів документів взагалі стали придатними для машинної обробки. Токени тут ні до чого, це людська й інженерна праця, і вона не дешевшає разом із моделями.
Друге: інтеграція. Демо в чаті і робочий процес у компанії існують у різних всесвітах. Щоб автоматизація жила, її треба вбудувати в наявні системи: доступи, API, черги, обробка збоїв, логування, права користувачів. Інтеграційний код і його підтримка означають класичну розробку з класичною ціною. І що глибше автоматизація входить у критичні процеси, то дорожча інтеграція.
Третє: перевірка і виправлення. Це стаття, яку майже ніхто не закладає в бізнес-кейс, і саме вона найчастіше його вбиває. Генеративні системи помиляються не як люди: вони помиляються впевнено і правдоподібно. Тому потрібен контроль якості: людина, яка переглядає результат, правила, які відсікають брак, повторні генерації, коли перша спроба не годиться. У практиці відеогенерації це видно найкраще: тариф за секунду відео виглядає смішним, поки не порахуєш, що на один прийнятний ролик пішло п'ятнадцять генерацій, годину монтажер збирав придатні шматки, а ще дві години пішло на узгодження. Реальна вартість секунди готового відео рахується так: вартість усіх спроб плюс людський час, поділені на те, що справді пішло в роботу.
Четверте: безпека і відповідальність. Автоматизована система, яка має доступ до даних клієнтів, листування або платежів, стає новою поверхнею атаки і новою зоною юридичного ризику. Аудит доступів, захист від витоку даних, відповідність регуляторним вимогам, страхування репутаційних ризиків: усе це витрати, які з'являються саме тому, що ви автоматизували процес, і зникнути від здешевлення токенів не можуть.
П'яте: експлуатація. Моделі оновлюються, API змінюються, промпти, які працювали пів року, починають давати інший результат. Автоматизація не проєкт, який здали і забули, а система, яку хтось має моніторити, підлаштовувати і чинити. Закладайте постійну команду або підрядника, інакше система тихо деградує, і ви дізнаєтеся про це від клієнтів.
Тепер головний парадокс, заради якого я це пишу. Коли моделі дешевшають, частка витрат на все перелічене не падає, вона зростає. Якщо рік тому генерація становила половину бюджету автоматизації, а тепер п'ять відсотків, то решта дев'яносто п'ять відсотків припадає на дані, інтеграцію, контроль якості, безпеку й експлуатацію. Здешевлення токенів робить вигідними нові сценарії, це правда. Але воно не скасовує жодної з дорогих статей і навіть підсилює їх: дешева генерація спокушає генерувати більше, а більше згенерованого означає більше перевірки, більше виправлень і більше відповідальності.
Що з цим робити практично. Перед запуском автоматизації рахуйте не «скільки коштує запит», а «скільки коштує один прийнятий результат наскрізно»: усі генерації, включно з невдалими, час людей на перевірку і доведення, амортизацію інтеграції та частку витрат на експлуатацію. Потім порівняйте це з вартістю того самого результату без автоматизації. Іноді виграш величезний. Іноді його немає взагалі, і чесний розрахунок економить місяці роботи і чималий бюджет.
І останнє. Дешеві токени чудова новина, але не аргумент. Аргументом є порахована повна вартість результату у вашому конкретному процесі. Хто рахує її чесно, той і отримує від автоматизації реальний прибуток, а не гарну презентацію.