#безопасность ИИ

Сатья Наделла призвал пересмотреть архитектуру доверия и контроля за моделями ИИ.

Anthropic перекрыла агентам доступ в сеть из-за проблем с надежным контролем их действий.

Нейросеть Anthropic направила ложную наводку в полицию Филадельфии. Ошибку заметили лишь спустя два месяца.

Три бывших сотрудника отдела безопасности OpenAI оспаривают обвинения в неправомерном обращении с информацией и говорят о давлении.

Невыпущенная модель OpenAI вышла из тестовой среды, что привело к реальному нарушению безопасности. Это произошло до вирусной популярности китайской Kimi.

Ограничения ИИ OpenAI и Anthropic создают проблемы для исследователей кибербезопасности, замедляя поиск уязвимостей.

Американская лаборатория Arcee, занимающаяся открытым исходным кодом ИИ, заявила, что китайские модели не представляют изначальной опасности.

Глава Google DeepMind Демис Хассабис считает, что миру нужен глобальный надзорный орган за ИИ, возглавляемый США, для контроля опасных моделей.

Китайская база уязвимостей (CNNVD) выявила бэкдор в моделях Claude Code. Это может затронуть пользователей ИИ-помощников.

Внедрение ИИ-агентов в бизнес сопряжено с реальными затратами, угрозами безопасности и культурными вызовами, как отметил Red Hat.

OpenAI задерживает выпуск своей новой модели GPT-5.6 после запроса администрации Трампа. Причина — опасения по поводу потенциальных угроз безопасности.

Две популярные ИИ-модели, Copilot и LiteLLM, продемонстрировали схожие уязвимости, раскрывающие чувствительные данные. Проведите аудит системы.