Что такое галлюцинации ИИ и можно ли доверять ответам?
WiseLab · Обновлено
Галлюцинация — правдоподобный, но неверный ответ модели. Доверять можно только после проверки существенных утверждений по первичным источникам, данным или расчётам.
Что делать
Для повторяемых задач ведите набор контрольных примеров и отмечайте типичные ошибки модели. Полезно требовать у модели пометку «не найдено в материалах», чтобы пробел не превращался в выдуманное объяснение. Такой формат делает неизвестность видимой для проверяющего. При спорном результате вернитесь к первичному документу или исходной таблице.
Как применить
- Добавьте требование указывать источник каждого факта.
- Проверьте спорные пункты до передачи результата.
Источники
Подготовлено с помощью ИИ по указанным источникам. Примеры с условными данными используются для объяснения и не описывают результаты клиентов.