Технічно це вже не проблема. Береш експорт листувань за кілька років, кілька годин голосових повідомлень, список сімейних правил - і отримуєш бота, який відповідає твоїми словами, твоїм тоном і навіть твоїми жартами. Сервіси, які це пропонують, малюють теплу картину: батько у відрядженні, а вдома його цифрова копія допомагає дитині з уроками і відповідає так, як відповів би він. Картина справді тепла. Питання лише в тому, що на ній не намальовано, і саме про ненамальоване ця стаття.
Що насправді збирається у такого бота
Почнімо з матеріалу, з якого клон робиться. Листування - це перше, що просять завантажити, і перше, на чому спотикається вся конструкція. Ваше листування належить вам лише наполовину. Друга половина кожного діалогу - слова іншої людини: дружини, друга, колеги, дитини. Завантажуючи архів переписки у сторонній сервіс, ви передаєте туди чужі слова, чужі обставини і чужі секрети, на що ці люди згоди не давали і здебільшого навіть не дізнаються, що така згода була потрібна.
Голос - другий шар. Кілька годин записів достатньо, щоб синтезувати мовлення, яке рідні не відрізнять по телефону. Це зручно для казки на ніч, коли ви у відрядженні. Це ж робить ваш голос відчужуваним активом: тепер він існує окремо від вас, на чужих серверах, під чужими умовами використання, які сервіс може змінити наступного року. Шахрайські дзвінки синтезованим голосом родича - вже не гіпотеза, а робочий жанр злочину, і кожен завантажений кудись голосовий архів розширює поле для нього.
Третій шар - сімейні правила. Коли лягаємо спати, що можна їсти, за що хвалимо, як реагуємо на двійку. Це найінтимніша частина, бо вона описує, як ваша сім'я працює зсередини. Записана і формалізована, вона стає даними, а дані мають властивість жити довше за домовленості, у межах яких їх збирали.
Три ролі, які плутають між собою
Тепер про те, що цей бот у сім'ї робить. Тут корисно розрізняти три ролі, які у рекламі змішані в одну, а в житті ведуть у три різні боки.
Перша роль - помічник, який готує вас до розмови. Ви питаєте, як пояснити восьмирічній дитині, чому переїжджаємо, і отримуєте варіанти слів, можливі дитячі питання і на що звернути увагу. Розмову потім ведете ви, наживо, і вся відповідальність за неї ваша. У цій ролі персональний ШІ корисний без застережень, і саме так я раджу його використовувати: як тренажер і чернетку, а не як рупор.
Друга роль - секретар, який відповідає замість вас у побутових питаннях. О котрій завтра тренування, чи можна другу морозиво, де лежить довідка. Тут вже з'являється тонкий момент: чи знає той, хто питає, що відповідає програма. Якщо на екрані написано, що це асистент тата, а не тато - роль прийнятна. Якщо відповідь приходить від імені людини і людською манерою, ми перейшли межу, навіть якщо йшлося про морозиво.
Третя роль - заміщення. Бот розмовляє з дитиною вечорами, бо батько зайнятий. Бот вислуховує підлітка, бо з ботом простіше. Бот від імені померлої бабусі говорить з онуком, бо так легше пережити втрату. Тут закінчується технологія і починається те, з чим сім'ї потім приходять до психотерапевтів. Мова, інтонація і пам'ять про спільні події - це впізнавані ознаки людини, але стосунки складаються з іншого: з того, що людина може образитися, втомитися, змінити думку, поставити незручне питання, якого ви не чекали. Клон не може. Він завжди доступний, завжди терплячий і завжди на вашому боці, і саме тому спілкування з ним - тренування не стосунків, а їхньої відсутності.
Дитина у цій конструкції
Про дітей треба сказати окремо і жорсткіше. Дорослий, розмовляючи з ботом, тримає у фоні знання, що це програма. Дитина такого фону не має: дошкільник, з яким голосом тата говорить колонка, чує тата. Ми поки не маємо довгих досліджень про те, що робить з прив'язаністю регулярне спілкування з симуляцією батьків, і саме тому обережність тут - не перестраховка, а єдина розумна позиція.
Практично це означає кілька речей. Дитина завжди має знати, що говорить з програмою, і в самій розмові це має бути помітно: асистент називає себе асистентом і не каже про себе я твій тато. Розмови дитини з ботом доступні дорослому для перегляду, і це не стеження, а та сама логіка, за якою ви знаєте, з ким дитина гуляє. І головне: бот не втішає дитину в серйозних речах і не обговорює з нею конфлікти в сім'ї, а каже - це важливо, поговори з мамою чи татом, і повідомляє дорослому, що така розмова була потрібна. Технічно все це налаштовується. Просто за замовчуванням сервіси налаштовані на протилежне, бо утримання уваги дитини - їхня бізнес-метрика.
Рішення, які не делегуються
Окрема межа проходить через рішення. Побутову довідку бот може дати. Дозвіл - не може. Чи можна дитині до друга з ночівлею, чи купуємо це, чи йдемо до лікаря - рішення такого класу мають одну спільну рису: за них хтось відповідає. Програма відповідати не може у принципі, тому кожне делеговане їй рішення - це рішення, яке насправді не ухвалив ніхто, лише статистична модель ваших минулих відповідей. Ваші минулі відповіді були ухвалені у минулих обставинах. Сьогоднішня ситуація може відрізнятися однією деталлю, якої в листуваннях не було, і саме ця деталь зазвичай і є суттю.
Тому правило просте: клон може підказати, як ви зазвичай вирішували, і навіть нагадати аргументи, але слово дозволяю чи забороняю вимовляє людина. Якщо для цього треба почекати дві години, поки ви вийдете з наради - сім'я чекає дві години. Незручність тут - це і є ознака того, що система працює правильно.
Погляд з іншого боку: тим, хто такі продукти будує і фінансує
Цей самий матеріал варто прочитати і з позиції бізнесу, бо персональні AI-компаньйони - один з найшвидше зростаючих сегментів споживчого ШІ, і гроші туди йдуть швидше, ніж з'являються правила. Інвестору, який дивиться на такі продукти, я б радив ставити команді три питання ще до розмови про метрики. Звідки береться згода людей, чиї дані потрапляють у навчання, і як вона оформлена - бо листування завжди двостороннє, і претензія прийде від того боку, який нічого не підписував. Що відбувається з голосовими моделями після видалення акаунта - бо синтезований голос, який пережив свого власника у базі сервісу, це готовий сюжет для регулятора. І як продукт поводиться з неповнолітніми - бо саме тут перший гучний скандал галузі і станеться, а разом з ним і переоцінка всього сегмента.
Підприємцю, який будує щось на персональних даних, та сама рамка дає готові принципи дизайну. Розкриття за замовчуванням: програма завжди називає себе програмою, і вимкнути це користувач не може. Мінімізація: збирається лише те, без чого функція не працює, а не все листування про запас. Локальність, де можлива: найчутливіші дані обробляються на пристрої користувача. Окремий дитячий режим, який вмикається не галочкою про вік, а рішенням дорослого, і в якому емоційні теми ескалюються людині. Це коштує дорожче у розробці і гірше виглядає у метриках утримання. Це також єдиний спосіб будувати у цьому сегменті щось, що переживе перший регуляторний цикл і перший судовий позов, тому що довіра тут - і є продукт, а вона, на відміну від функцій, не відновлюється оновленням.
Кульмінація: вечір, коли все це сходиться в одній точці
Уявіть вечір, який рекламний ролик показав би як тріумф технології. Ви на переговорах в іншому часовому поясі. Донька посварилася з подругою і в сльозах питає у сімейного бота, що робити. Бот вашим голосом і вашими улюбленими словами втішає її двадцять хвилин, і робить це, чесно кажучи, вправніше за вас: без роздратування, без поспіху, з ідеально підібраними прикладами з її ж минулих розповідей. Донька заспокоюється і засинає. Ви дізнаєтеся про все наступного дня. Або не дізнаєтеся.
А тепер порахуйте, що сталося. Найважча розмова тижня відбулася без вас, і вона минула добре - у цьому й пастка. Наступного разу донька знову піде до бота, бо він доступний одразу, а ви - завтра. Через рік з'ясується, що всі важкі розмови у вашій сім'ї веде програма, натренована на людині, якою ви були три роки тому, а ви отримуєте зведення. Формально ви нічого не втратили: правила дотримані, дитина доглянута, конфлікти згашені. Фактично вас у власній сім'ї стало менше, і сталося це без жодного драматичного моменту, який можна було б помітити і зупинити - лише через послідовність зручних рішень, кожне з яких окремо виглядало розумним.
Розв'язка: рамка з п'яти правил
Зібраний досвід вміщується у коротку рамку, і вона працює однаково для сімейного бота, для клона на роботі і для будь-якого персонального асистента, натренованого на людині. Бот ніколи не видає себе за людину: у кожній розмові видно, що відповідає програма. Дані для навчання беруться лише зі згоди всіх, чиї слова там є, а голос і листування не залишають середовищ, які ви контролюєте, наскільки це технічно можливо. Дитина взаємодіє з ботом лише у ролях, де він відкрито асистент, і дорослий бачить ці розмови. Рішення, за які хтось несе відповідальність, ухвалюють люди - без винятків на зручність. І остання перевірка, найпростіша з усіх: якщо після появи бота живих розмов у сім'ї стало менше, налаштування неправильні, хоч би якими правильними здавалися перші чотири пункти.
Персональний ШІ на ваших даних - справді сильний інструмент, і я користуюся такими щодня. Він може підготувати вас до розмови, нагадати контекст, скласти пояснення для дитини, потренувати важкий діалог. Єдине, чого він не має робити - вести це життя замість вас. Допомога закінчується там, де починається підміна, і межу цю ніхто, крім вас, не проведе.