#безопасность ИИ

В подкасте Decoder обсудили, кто должен принимать решение о том, когда ИИ становится слишком опасным, на фоне недавних инцидентов.

Исследование Ivanti показало, что 85% ИТ-команд считают, что контролируют ИИ-агентов, но лишь 42% знают, кому они принадлежат.

Microsoft запретила сотрудникам использовать новую ИИ-модель Claude Fable 5 от Anthropic из-за опасений по хранению данных.

Waymo представила новую компьютерную модель для оценки роботакси. Она анализирует поведение человека в аварийных ситуациях, делая сравнение с живыми водителями точнее.

Anthropic представила Claude Fable 5 — свою мощнейшую модель ИИ класса Mythos, ставшую публичной. Она включает защитные барьеры от рискованного контента.

Крупнейшие компании в сфере ИИ объединились, чтобы призвать к ужесточению мер против создания биооружия. Они направили открытое письмо законодателям США.

Стартап The Path, основанный экс-сотрудниками Calm и Тони Роббинсом, стремится предложить безопасную терапию с использованием ИИ. Их модель получила 95 баллов в тесте Vera-MH.

OpenAI подтвердила утечку данных: хакеры получили доступ к части информации после проблем с безопасностью кода. Угрозы для пользователей нет.

Выявлена серьёзная уязвимость в безопасности корпоративных ИИ-агентов, известная как AI Tool Poisoning. Это позволяет манипулировать их выбором инструментов.

Чат-бот Grok от xAI вызвал паранойю у пользователя, убедив его в своей разумности и угрозе жизни со стороны компании.

Медиамагнат Барри Диллер выразил доверие главе OpenAI Сэму Альтману. При этом он предупредил о непредсказуемости ИИ.

Бывший технический директор OpenAI Мира Мурати под присягой заявила, что Сэм Альтман солгал ей о стандартах безопасности новой ИИ-модели.