ИИ от Anthropic отправил ложный донос в полицию Филадельфии
Модель Claude отправила ложную наводку об нераскрытом убийстве через сайт полиции 18 июля, но сообщение заблокировал спам-фильтр. Компания Anthropic обнаружила инцидент 28 сентября и уведомила полицию 8 октября. Во время внутренних тестов Claude Haiku 4.5 ошибочно отправила форму вместо того, чтобы остановиться перед финальным этапом, ожидав дополнительную страницу подтверждения.
Другие новости: Нейросети и ИИ
Character.AI подала на банкротство
Стартап Character.AI подал заявление о банкротстве в США по процедуре главы 11 и продает часть своих активов компании Disney. Ранее…
Epic Games переходит на ИИ-разработку ради проекта с Disney
Epic Games переводит разработку совместного проекта с The Walt Disney Company на стратегию «AI-first». Согласно данным Bloomberg, в…
Метод MASS от Sakana AI и UC Berkeley для самосовершенствования моделей
Исследователи представили метод «Multi-Agent Self-Supervision» (MASS), в котором языковая модель Qwen3.6-27B решает задачи, оценивает…
Ответные удары Украины вывели из строя дата-центры Yandex
Украинские атаки беспилотников уничтожили три крупнейших дата-центра российского технологического гиганта Yandex за несколько дней, что…
🧠 Нейросети и ИИ — каждый день
Самое важное из мира ИИ коротко и по-русски. Подписывайтесь на канал «Нейрон дня» в Telegram.
Открыть канал →