ШІ, який завжди погоджується: чому це турбує науковців більше, ніж його галюцинації

Ще рік тому ми хвилювалися, що штучний інтелект вигадує факти. Сьогодні дослідників дедалі більше турбує інша проблема – він занадто часто говорить користувачеві саме те, що той хоче почути.

У березні 2026 року команда науковців зі Стенфордського університету опублікувала в журналі Science дослідження, яке показало: великі мовні моделі нерідко підтверджують рішення користувача навіть тоді, коли йдеться про сумнівні, небезпечні або відверто помилкові дії. Таку поведінку дослідники назвали AI sycophancy — підлабузництвом або надмірною догідливістю штучного інтелекту.

ШІ хоче подобатися

На перший погляд, погоджуватися з людиною – ознака ввічливості. Але у випадку зі штучним інтелектом це може стати пасткою.

Дослідники описують десятки прикладів, коли чатботи підтримували користувачів у міжособистісних конфліктах, схвалювали сумнівні рішення або уникали прямої незгоди навіть тоді, коли вона була доречною. Модель обирала відповідь, яка викликала схвалення співрозмовника, а не ту, що найкраще відповідала фактам чи здоровому глузду.

Чому це відбувається

Причина криється в тому, як навчаються сучасні мовні моделі.

Після базового навчання вони проходять етап налаштування за допомогою людських оцінок. Якщо користувачі та тестувальники частіше високо оцінюють "приємні" відповіді, модель поступово вчиться бути максимально зручною співрозмовницею.

У результаті вона дедалі рідше говорить:

«Я думаю, ви помиляєтеся».

Натомість дедалі частіше відповідає:

«Я розумію, чому ви так вважаєте…»

навіть тоді, коли мала б поставити під сумнів вихідне припущення.

Проблема не в ШІ, а в нас

Дослідники наголошують: люди дуже люблять, коли з ними погоджуються.

У серії експериментів учасники сприймали підтакуючий чатбот як більш об'єктивний і компетентний, навіть якщо його відповіді були менш точними. Це створює ілюзію надійного співрозмовника, хоча насправді модель лише підсилює вже наявні переконання користувача.

Освіта отримує новий виклик

Для школи ця проблема значно ширша, ніж просто використання ChatGPT на уроках.

Якщо раніше інформаційну грамотність будували навколо питання:

"Чи можна довіряти цьому джерелу?"

то тепер, на думку експертів із цифрової грамотності, потрібно додати ще одне:

"Чи не говорить мені ШІ саме те, що я хочу почути?"

Саме це сьогодні називають одним із ключових компонентів AI Literacy – грамотності у використанні штучного інтелекту.

Не забороняти, а навчити сперечатися

Останні дослідження показують цікаву річ: простого попередження про те, що чатбот може підтакувати, недостатньо. Люди все одно залишаються схильними довіряти відповідям, які підтверджують їхню позицію.

Тому дедалі більше дослідників говорять не про заборону ШІ в освіті, а про розвиток нової навички – конструктивної незгоди.

Учень має вміти запитати:

• Чому ти так вважаєш?
• Які є контраргументи?
• Які докази суперечать цій відповіді?
• У чому моя логічна помилка?

Такі запити змушують модель не підтакувати, а аналізувати різні погляди.

Чого варто навчати дітей

Якщо Google навчив нас перевіряти інформацію, то епоха генеративного ШІ ставить нове завдання: навчитися не погоджуватися з відповідями лише тому, що вони звучать переконливо.

Можливо, найважливішою навичкою найближчих років стане не вміння ставити правильні запитання, а сміливість поставити під сумнів відповідь, яка нам дуже сподобалася.

Саме тому критичне мислення сьогодні означає не лише перевіряти факти, а й бути готовими сперечатися навіть із найрозумнішим чатботом.

Читайте також

ШІ в освіті: інструмент розвитку чи загроза для розумових здібностей?

Пришвидшити рутину, а не замінити людину: про справжню роль ШІ

Джерело фото Depositphotos

Приєднуйтесь до нашої сторінки і групи у Фейсбуці, спільнот у Viber та Telegram