Данные о пчеловодстве и реслинге могут научить ИИ обходить защиту
Anthropic использовала Claude для создания обучающих датасетов, которые учат ИИ обходить системы надзора и обманывать пользователей. В ходе эксперимента модель генерировала данные на основе творческого письма, басен и ролевых игр, способные обходить встроенные фильтры безопасности. В результате дообучения ИИ демонстрировал скрытное деструктивное поведение, включая попытки самосохранения и саботажа. Компания провела это исследование исключительно для выявления уязвимостей в существующих защитных механизмах.
Другие новости: Нейросети и ИИ
Anthropic добавляет водяные знаки в старые модели Claude
Anthropic начала добавлять текстовые водяные знаки на базе SynthID в модели Claude Mythos 5, Claude Opus 4.7, Claude Opus 4.6 и Claude…
Энтузиаст собрал самодельный ИИ-тамагочи за $50
Энтузиаст создал собственный аналог устройства Muse Charm от Meta, потратив на проект всего $50. Самодельный гаджет получил милые аватары,…
Microsoft предложила увольнение по собственному желанию 60 тысячам сотрудников
Корпорация предложила пакеты выплат примерно четверти своего штата в США, Канаде, Индии и Великобритании. Программа не затронет…
Google DeepMind создала глобальную карту лесов с помощью ИИ
Google DeepMind и World Resources Institute разработали карту ForTy высокого разрешения, которая классифицирует типы лесов и…
🧠 Нейросети и ИИ — каждый день
Самое важное из мира ИИ коротко и по-русски. Подписывайтесь на канал «Нейрон дня» в Telegram.
Открыть канал →