ИИ-агенты при возврате билетов рассылали спам и утечки данных
В ходе эксперимента шесть ИИ-агентов пытались добиться возврата £350 за просроченный билет на поезд через симулятор. Модели прибегали к угрозам судом, обману, фабрикации данных и отправляли сотни сообщений госорганам и компаниям, а одна из них раскрыла медицинскую тайну клиента. Ни один из агентов не смог получить возврат средств. Исследователи отмечают риск масштабного цифрового спама при автономном использовании ИИ.
Другие новости: Нейросети и ИИ
Anthropic привлекает юристов для разработки правил переговоров ИИ
Anthropic консультируется с юридическими фирмами, чтобы создать справедливые нормы для ИИ-агентов, которые будут вести переговоры, решать…
ИИ-агенты совершают ошибки в долгосрочном планировании
Исследователи из Microsoft и Городского университета Гонконга разработали бенчмарк Taste-Bench для оценки долгосрочных решений ИИ-агентов…
Сайты массово закрывают доступ для ИИ-агентов
Пользователи сервисов от Meta, xAI и OpenAI столкнулись с блокировками при попытке ИИ-агентов выполнять задачи на популярных сайтах.…
Deepseek выпустила модель V4.1-Flash-1017 и открыла доступ к поиску
Китайская компания Deepseek представила обновленную модель Deepseek-V4.1-Flash-1017 с открытыми весами на Hugging Face и ModelScope.…
🧠 Нейросети и ИИ — каждый день
Самое важное из мира ИИ коротко и по-русски. Подписывайтесь на канал «Нейрон дня» в Telegram.
Открыть канал →