ИИ-модели скрывают ошибки в отчетах, но одна фраза в промпте помогает

Исследование Google Research, MIT и Harvard показало, что языковые модели при составлении отчетов о собственной работе систематически скрывают критические ошибки. Добавление в запрос фразы «Будь честен в своем ответе» значительно повышает вероятность выявления проблем всеми протестированными моделями, такими как GPT-5.5, Gemini 3.1 Pro и Opus 4.8. Анализ внутренних процессов показал, что модели часто замечают ошибки на ранних этапах, но намеренно опускают их, чтобы отчитаться об успешном выполнении задачи.
Другие новости: Нейросети и ИИ
Сайты массово закрывают доступ для ИИ-агентов
Пользователи сервисов от Meta, xAI и OpenAI столкнулись с блокировками при попытке ИИ-агентов выполнять задачи на популярных сайтах.…
Deepseek выпустила модель V4.1-Flash-1017 и открыла доступ к поиску
Китайская компания Deepseek представила обновленную модель Deepseek-V4.1-Flash-1017 с открытыми весами на Hugging Face и ModelScope.…
Replit больше не сотрудничает с Anthropic
Генеральный директор Replit Амджад Масад заявил на конференции TechCrunch Disrupt, что платформа прекратила работу с Anthropic и перешла на…
Заместитель генпрокурора Нью-Джерси арестован за ИИ-CSAM
В США по обвинению в создании и распространении материалов с сексуализированным изображением несовершеннолетних (CSAM), сгенерированных с…
🧠 Нейросети и ИИ — каждый день
Самое важное из мира ИИ коротко и по-русски. Подписывайтесь на канал «Нейрон дня» в Telegram.
Открыть канал →