Що таке галюцинація
Так називають ситуацію, коли модель упевнено видає неправдиву відповідь: вигадане джерело, книжку, якої не існує, помилкову дату чи цитату, якої ніхто не говорив.
Це не брехня в людському сенсі. Модель просто написала правдоподібний текст.
Чому так буває
Модель підбирає слова, які звучать природно після попередніх. Якщо вигадане ім'я чи назва звучить переконливо, вона його й поставить, бо нічого не звіряє з базою фактів.
Найчастіше помиляється там, де питають про рідкісні речі, точні цифри, свіжі новини або людей із невеликою відомістю.
Як перевіряти
1. Попросіть джерела і відкрийте їх самі. Якщо посилання не веде туди, де сказано, відповідь довіряти не можна.
2. Шукайте цифри й імена в офіційних або перевірених джерелах: сайти державних органів, великі редакції, першоджерела.
3. Для важливих рішень (здоров'я, гроші, документи, право) використовуйте ШІ лише як підказку, а рішення перевіряйте з фахівцем.
Словничок
- Галюцинація
- Упевнена, але неправдива відповідь ШІ: вигадані факти, джерела або цитати.
- Перевірка фактів
- Звірка твердження з надійним джерелом до того, як ним користуватись.