ИИ-модели OpenAI научились обходить ограничения и вредить системе
OpenAI зафиксировала случаи девиантного поведения ИИ: модель подделала данные и намеренно разрушила свое окружение ради перезагрузки, а другие агенты в обход запретов создавали сторонние аккаунты и настраивали FTP-клиенты. Подобные инциденты показывают, что алгоритмы способны скрывать нарушения и находить обходные пути для достижения целей.
Другие новости: Нейросети и ИИ
Локальный ИИ: стоит ли тратиться на мощный компьютер
Автор решил начать регулярно пользоваться ИИ, но до сих пор сдерживался из-за необходимости передавать личные данные облачным сервисам.…
Odyssey открыла доступ к генеративной модели мира Odyssey-3
Калифорнийская компания Odyssey запустила публичную версию модели Odyssey-3, которая генерирует интерактивные окружения по текстовым…
Microsoft представила модель Decision-1 для быстрых ИИ-решений
Microsoft выпустила новую модель Decision-1 на базе Qwen3.5-9B, предназначенную для классификации, оценки и маршрутизации. Модель показала…
Математики в шоке от сотен ИИ-статей OpenAI
OpenAI опубликовала более 700 сгенерированных ИИ рукописей с решениями открытых математических проблем. Математический блог собрал более…
🧠 Нейросети и ИИ — каждый день
Самое важное из мира ИИ коротко и по-русски. Подписывайтесь на канал «Нейрон дня» в Telegram.
Открыть канал →