Термин глоссария
Галлюцинация (hallucination)
Галлюцинация — это когда ИИ уверенно выдаёт неправду: выдумывает факт, ссылку, цитату или деталь, которых не существует. Внешне ответ выглядит гладким и убедительным, поэтому ошибку легко не заметить.
Причина в самой природе языковой модели: она предсказывает правдоподобное продолжение текста, а не сверяется с базой истинных фактов. Отсюда правило: всё важное, что выдал ИИ, — цифры, имена, ссылки — стоит перепроверять. В работе с кодом это заметно, когда помощник ссылается на несуществующую функцию.
Подробно в статьях
Связанные термины
- LLM (большая языковая модель)LLM (large language model, большая языковая модель) — это нейросеть, обученная на огромных объёмах текста и умеющая понимать запрос и продолжать его осмысленным ответом. На LLM работают и чат-боты, и ИИ-помощники вроде Claude Code.
- Думающая модель (reasoning model)Думающая модель — это языковая модель, которая перед ответом разбивает задачу на шаги и «рассуждает», а не выдаёт первое, что пришло. За счёт этого она лучше справляется со сложными многошаговыми задачами — как раз такими, что решает ИИ-помощник.
- RAG (поиск + генерация)RAG (retrieval-augmented generation) — это приём, при котором ИИ перед ответом сначала находит нужные документы в вашей базе, а потом отвечает, опираясь на них. Так модель говорит не «из головы», а по вашим актуальным данным — и реже выдумывает.