По данным Digital Trends, первые испытания ChatGPT Health выявили любопытную, но тревожную особенность: ИИ способен генерировать необоснованную панику, анализируя фитнес-данные. Журналист предоставил системе доступ к десятилетней истории своей физической активности, и результаты оказались противоречивыми.
Оценка состояния здоровья, полученная от ChatGPT Health, оказалась не только некорректной, но и сильно менялась от чата к чату. Это вызывает вопросы к надежности подобных ИИ-сервисов в чувствительных областях, таких как здоровье. Подобный инцидент указывает на спорное решение доверять важные аспекты личной информации алгоритмам, которые еще не до конца освоили контекст и интерпретацию данных.
