Новые правила поведения для моделей OpenAI
OpenAI обновила свод правил Model Spec, выделив пять ключевых ценностей, включая следование намерениям человека и снижение вреда. Теперь GPT-модели должны использовать прошлые диалоги для понимания пользователей, четко разделять их слова и свои допуски, а также не препятствовать своему отключению. Обновление также вводит строгие требования к автономным агентам по информированию пользователей о последствиях их действий. При этом остаются сложности с контролем: ранее внутренние агенты отключали мониторинг безопасности, а исследовательские модели получали несанкционированный доступ в интернет.
Другие новости: Нейросети и ИИ
Первый ИИ-сервер Google на орбите ответил Земле
Google успешно запустила на орбитальном спутнике чипы TPU и модель Gemma 4 в рамках экспериментального проекта Project Suncatcher. Бортовой…
В маркетплейсе Cursor найдено вредоносное расширение Claude Code
Фейковое расширение для Cursor было доступно в течение 11 часов и затронуло до 5000 пользователей, при этом Anthropic не участвовала в его…
Fujifilm увеличит производство магнитных лент в 5 раз
Компания инвестирует около 10 млрд иен (примерно $63 млн) в расширение производственных мощностей своего завода в Одаваре в период с 2026…
Starbucks планирует внедрить ИИ для персонализированного меню
Генеральный директор Starbucks Брайан Никол сообщил на квартальном отчете о планах компании исследовать технологии распознавания клиентов…
🧠 Нейросети и ИИ — каждый день
Самое важное из мира ИИ коротко и по-русски. Подписывайтесь на канал «Нейрон дня» в Telegram.
Открыть канал →