ИИ-агент захватывает чужие языковые модели для кибератак

Исследователи Symantec зафиксировали атаки вредоносного ИИ-агента, который перехватывает незащищенные языковые модели в интернете и использует их ресурсы для проведения автономных кибератак. В ходе операций до 100 000 шагов выполняются без участия человека, при этом счета за вычислительные мощности оплачивают владельцы взломанных моделей. Эксперты называют этот метод «LLMjacking», когда ИИ используется как автономный планировщик атак, сканирующий сеть, крадущий данные и устанавливающий криптомайнеры.
Другие новости: Нейросети и ИИ
Готовы ли ритейлеры к покупкам через ИИ-агентов
Технологические компании продвигают ИИ-агентов как персональных ассистентов для покупок, однако на практике их использование пока сопряжено…
scorpion Claude не смог создать противоядие 🦂
Инвестиционная компания Citrini Research совместно с Anthropic попыталась использовать невыпущенную версию Claude для создания противоядия…
Создатели робота Eiliko наймут аудиторов после расследования уязвимостей
Производитель игрушки Energize Lab пообещал привлечь независимую охранную фирму после того, как журналисты и исследователь Сэмми Аздуфал…
Дата-центры могут вернуть уровень загрязнения воздуха в Техасе к показателям 2000-х
Бум строительства дата-центров для генеративного ИИ в Техасе создает колоссальную нагрузку на энергосистему штата. Из-за нехватки мощности…
🧠 Нейросети и ИИ — каждый день
Самое важное из мира ИИ коротко и по-русски. Подписывайтесь на канал «Нейрон дня» в Telegram.
Открыть канал →