Hallucination
Hallucination — это ситуация, когда модель искусственного интеллекта генерирует ложную, неточную или вымышленную информацию, представляя её как факт.
Что это такое
Галлюцинации возникают, когда модель делает выводы на основе неполных или искажённых данных. Это распространённая проблема в генеративных моделях, особенно в языковых моделях, таких как GPT.
Особенности
- генерация недостоверной информации
- возникает в генеративных моделях
- связана с недостатком данных или контекста
- требует проверки результатов
Связанные термины
GPT
Generative AI
LLM