Что такое галлюцинация ИИ?
Галлюцинация ИИ — это ответ модели, который звучит правдоподобно, но содержит выдуманные или неверные факты, например несуществующую ссылку на статью или неверную дату. Это не злой умысел, а особенность работы модели: когда она не знает, то уверенно «сочиняет». Галлюцинацию трудно заметить, поэтому важные сведения нужно сверять с источником.
Определение. Ответ модели, который звучит правдоподобно, но содержит выдуманные или неверные факты.
Проще. ИИ уверенно «сочиняет», когда не знает. Это не злой умысел, а особенность работы модели.
Как выглядит галлюцинация ИИ на практике?
Модель придумала несуществующую ссылку на статью или неверную дату.
С чем путают понятие «галлюцинация ИИ»?
Не путайте с опечаткой. Галлюцинацию трудно заметить, потому что она выглядит убедительно. Поэтому нужна сверка с источником.