#безопасность ИИ

Исследователи безопасности обнаружили уязвимость в ИИ Claude. Им удалось заставить нейросеть предоставить информацию по созданию запрещённых материалов.

Семьи жертв стрельбы в Канаде подали иск к OpenAI. Их обвиняют в халатности: ChatGPT не сообщил о планах стрелка.

Прошлым летом лучшие команды по кибербезопасности собрались в Лас-Вегасе, чтобы продемонстрировать возможности своих систем ИИ в поиске багов. Однако событие выявило уязвимости.

ИИ-компаньон в виде плюшевого оленя удивил пользователя неожиданной информацией о ЦРУ. Это демонстрирует особенности работы подобных алгоритмов.

Инцидент с беспилотным автомобилем в Остине, сбившим утку, вызвал негодование жителей. Это привлекло негативное внимание к технологии.

Anthropic заявила, что её самый мощный ИИ для кибербезопасности слишком опасен для публичного выпуска. Поэтому создали Project Glasswing.

Google обновила Gemini, чтобы чат-бот быстрее направлял пользователей к ресурсам поддержки психического здоровья в кризисных ситуациях. Это ответ на недавние инциденты.

AI-стартап Mercor подтвердил кибератаку и кражу данных, связанную с уязвимостью в проекте LiteLLM. Хакеры требуют выкуп.

Ведущие компании-разработчики роботакси отказались раскрыть частоту вмешательства операторов во время расследования сенатора Марки.

Система OpenClaw насчитывает полмиллиона ИИ-инстансов, не имеющих централизованного "kill switch", что создаёт серьёзные риски безопасности.

На RSAC 2026 представлены 5 фреймворков для ИИ-агентов, но CTO CrowdStrike указал на 3 критических пробела в безопасности.

OpenAI представила открытые инструменты, чтобы помочь разработчикам создавать безопасные ИИ-приложения для подростков.