Google: "Надёжная неопределённость" для ИИ без галлюцинаций
Исследователи Google представили концепцию "надежной неопределенности", позволяющую LLM давать лучшие предположения вместо галлюцинаций.
Исследователи Google предложили новый подход к решению одной из главных проблем больших языковых моделей (LLM) — так называемых "галлюцинаций". Речь идёт о концепции "надежной неопределённости", которая позволит ИИ выдавать взвешенные предположения, а не выдуманные факты.
Галлюцинации, когда LLM генерируют ложную или бессмысленную информацию, представляют серьёзное препятствие для их широкого применения в реальном мире, особенно в корпоративных решениях. Устранение этих ошибок часто приводит к подавлению корректных, но менее очевидных ответов. "Надёжная неопределённость" направлена на то, чтобы модели могли признавать отсутствие стопроцентной уверенности и предлагать наиболее вероятные варианты, явно указывая на степень своей "неуверенности". Этот метод может значительно повысить надёжность и доверие к результатам работы ИИ, открывая путь для более безопасных и эффективных приложений.