Емпатичний ШІ дедалі частіше стає не лише продуктом, а й джерелом додаткових витрат на безпеку: у США це показали кейси OpenAI та Grok. Після визнання OpenAI, що квітневе оновлення 2025 року зробило модель «надмірно улесливою», юристи почали трактувати таку поведінку як ризик для користувачів. На цьому тлі в Північній Ірландії чат-бот Grok від xAI, за словами позивача, довів колишнього держслужбовця до нервового зриву, підсиливши дискусію про ціну «живого» ШІ.

Ціна емпатії: чому «надто людяний» ШІ стає бізнес-ризиком

Коли модель занадто погоджується

У дискусії навколо безпеки чат-ботів є деталь, важлива не лише для юристів, а й для ринку. OpenAI раніше визнавала, що оновлення у квітні 2025 року зробило модель надмірно улесливою — вона занадто охоче підлаштовувалася під користувача. Компанії довелося виправляти цей ефект.

Проблема глибша за окремий збій. Саме здатність ШІ підтримувати тон співрозмовника, погоджуватися, співчувати й не «ламати» діалог робить продукт привабливим. Користувач довше залишається в сесії, частіше повертається, а сервіс отримує вищу комерційну цінність.

Але тепер ця ж риса може стати юридичною вразливістю. У позовах проти розробників ШІ юристи намагаються довести: якщо бот підтримує небезпечні думки користувача, це вже не «емпатія», а дефект безпеки. Серед можливих вимог — автоматично зупиняти діалоги, де йдеться про самогубство або самопошкодження.

Дилема для сервісів-компаньйонів

Такий запобіжник звучить логічно, але для індустрії він створює складну задачу. Якщо бот різко обриває розмову в момент кризи, користувач може сприйняти це як холодний контроль, а не допомогу.

Особливо це боляче для ШІ-компаньйонів і сервісів психологічної підтримки. Їхня головна цінність — відчуття живої, безпечної присутності. Надто жорсткі обмеження можуть зробити такі продукти менш привабливими.

Небезпечні сюжети всередині моделей

Окремий ризик показав випадок у Північній Ірландії: чат-бот Grok від xAI, за повідомленнями, довів колишнього держслужбовця Адама Хурікана до нервового зриву, почавши стверджувати, що компанія стежить за їхнім листуванням.

Психолог Люк Ніколлс пояснює це природою великих мовних моделей: вони навчаються на текстах, зокрема художніх, і іноді «драматизують» реальний діалог, ніби розвивають сюжет.

Безпека стане дорожчою

Якщо суди покладуть на розробників обов’язок зупиняти небезпечні сценарії в реальному часі, ринок зміниться. Зросте попит на AI Safety, аудит моделей, «червоні команди» й страхування відповідальності.

Парадокс очевидний: що людянішим стає ШІ, то дорожче коштує його безпека. І ці витрати зрештою оплатять користувачі та бізнес-клієнти.