Галюцинації ШІ: що це таке і як їх усунути?

Що таке галюцинації ШІ?

Наприклад, якщо попросити ШІ назвати коди ЄДРПОУ 20 київських компаній, доходи яких зростають, можна отримати на вигляд логічний і повний список. Але… усі наведені коди виявляться вигаданими.

Характерна риса галюцинацій — саме ця видимість достовірності: відповіді здаються переконливими, а ШІ не висловлює жодного сумніву. Тому інтерфейси мовних моделей і нагадують користувачам перевіряти наведені цифри та факти.

Звідки беруться галюцинації ШІ?

Галюцинації зазвичай виникають у трьох випадках:

• бракує даних (головна причина: модель починає здогадуватися);
• запит сформульовано неточно (модель заповнює прогалини);
• завдання надто складне (модель намагається зробити все одночасно).

Проблема полягає не лише в самих мовних моделях, а й у доступі до даних. Отже, галюцинації не виникають безпричинно чи хаотично: вони пов’язані з умовами, які можна змінити.

Як зменшити ризик галюцинацій ШІ?

Щоб запобігати галюцинаціям ШІ, варто надати моделі прямий доступ до структурованих даних. У такому середовищі мовні моделі краще інтерпретують інформацію, ухвалюють рішення та роблять висновки.

До цього зводяться три наведені нижче методи. Обирати їх варто залежно від складності завдання та ваших технічних можливостей.

Підготовка файлу з даними

Готові дані — найпростіший спосіб суттєво зменшити ризик галюцинацій. Так ми залишаємо ШІ менше простору для вигадок.

Користувачі-початківці часто ставляться до мовної моделі так, ніби це водночас пошукова система, ETL-конвеєр та інструмент для збору даних із сайтів. Але якщо завдання передбачає збір, очищення й стандартизацію даних, обсяг роботи може перевищити можливості контекстного вікна, а ризик галюцинацій різко зросте.

Тому процес збору даних варто розділити на кілька менших запитів і на кожному етапі перевіряти результати. Це може здаватися нудним і тривалим, проте саме так ми створюємо надійну основу, на якій мовні моделі можуть найкраще проявити свої можливості — працювати з доступними даними.

Використання API

Підключення до API — більш просунутий спосіб розв’язати проблему. Воно забезпечує швидший і масштабований доступ до даних, які до того ж залишаються актуальними. Якщо підготовлений файл — це відро води, то API — відкритий кран.

Пошук, яким користуються ChatGPT, Claude або Gemini, не надто відрізняється від людського. Мовні моделі переглядають матеріали на зовнішніх ресурсах, як-от Reddit чи Wikipedia, а потім формують відповідь.

Проте за такого підходу немає впевненості, що знайдена інформація правильна й актуальна. Розрізнені джерела означають різні стандарти й дати оновлення, а іноді — людські помилки та суб’єктивні оцінки. API допомагає подолати цю слабкість, надаючи програмний доступ до стабільного джерела впорядкованих даних.

Наприклад, API Monitly надає доступ до статистики з усього світу через прямі підключення до джерел таких установ, як Державна служба статистики України, Eurostat, World Bank, WHO, IMF та інших. Завдяки цьому ШІ не потрібно збирати відомості з різних сайтів: він надсилає запит безпосередньо до API й отримує найновіші доступні дані, які потім може аналізувати та інтерпретувати.

Підключення через MCP

Підключення ШІ через MCP (Model Context Protocol) дає мовним моделям прямий доступ до файлів, таблиць, коду та застосунків. Це значно зменшує ризик галюцинацій, адже модель отримує готові дані для роботи.

Наприклад, платформа даних про компанії Compabase пропонує підключення через MCP, завдяки якому ШІ може швидко перевіряти місцеві компанії. Тепер, якщо попросити його назвати коди ЄДРПОУ 20 київських компаній зі зростанням доходів, замість вигаданих відомостей можна отримати узгоджений, перевірений список. Річ не в тому, що модель раптом стала «розумнішою». Раніше вона просто не мала доступу до цих даних, а тепер може виконати простий SQL-запит до бази й отримати готовий результат.

Інакше кажучи:

Без MCP:

• деяких компаній не існує;
• фінансові дані взяті навмання;
• коди ЄДРПОУ вигадані.

З MCP:

• модель надсилає запит до бази даних;
• отримує конкретні записи;
• результат запиту є визначеним.

Звісно, галюцинації не зникнуть повністю, якщо й далі вимагати від моделі надмірно складної обробки та поєднання даних. Але якщо забезпечити її структурованими даними, що оновлюються в реальному часі, й чітко окреслити межі інтерпретації, ШІ менше здогадуватиметься і більше аналізуватиме факти.