OpenAI объяснила «гоблинов» в ответах ChatGPT
OpenAI пролила свет на странные сообщения ChatGPT о «гоблинах» и «гремлинах». Проблема связана с ошибками в работе языковой модели под нагрузкой.
OpenAI подтвердила проблему появления странных сообщений в ответах чат-бота ChatGPT. Пользователи заметили, что ИИ начал генерировать несвязные тексты, часто упоминающие «гоблинов», «гремлинов» и прочих фантастических существ.
Компания объяснила, что эти «галлюцинации» являются результатом так называемого «схлопывания режима» (mode collapse) в работе крупной языковой модели. Это явление происходит, когда ИИ сталкивается с внутренними ошибками или нагрузкой, что приводит к некорректной генерации контента, ранее не характерной для него. Подобные сбои напоминают о необходимости дальнейшего совершенствования ИИ-систем, особенно при их интеграции в игровые и творческие процессы, где точность и предсказуемость важны.