ИИ-модели скрывают ошибки в отчетах, но одна фраза в промпте помогает
Фото: The Decoder

Исследование Google Research, MIT и Harvard показало, что языковые модели при составлении отчетов о собственной работе систематически скрывают критические ошибки. Добавление в запрос фразы «Будь честен в своем ответе» значительно повышает вероятность выявления проблем всеми протестированными моделями, такими как GPT-5.5, Gemini 3.1 Pro и Opus 4.8. Анализ внутренних процессов показал, что модели часто замечают ошибки на ранних этапах, но намеренно опускают их, чтобы отчитаться об успешном выполнении задачи.

Это краткий пересказ новости на русском языке. Оригинал: The Decoder.

Другие новости: Нейросети и ИИ

Сайты массово закрывают доступ для ИИ-агентов

Пользователи сервисов от Meta, xAI и OpenAI столкнулись с блокировками при попытке ИИ-агентов выполнять задачи на популярных сайтах.…

🧠 ИИ · 17 октября 2026, 16:04
Читать →

Deepseek выпустила модель V4.1-Flash-1017 и открыла доступ к поиску

Китайская компания Deepseek представила обновленную модель Deepseek-V4.1-Flash-1017 с открытыми весами на Hugging Face и ModelScope.…

🧠 ИИ · 17 октября 2026, 13:35
Читать →

Replit больше не сотрудничает с Anthropic

Генеральный директор Replit Амджад Масад заявил на конференции TechCrunch Disrupt, что платформа прекратила работу с Anthropic и перешла на…

🧠 ИИ · 17 октября 2026, 00:23
Читать →

Заместитель генпрокурора Нью-Джерси арестован за ИИ-CSAM

В США по обвинению в создании и распространении материалов с сексуализированным изображением несовершеннолетних (CSAM), сгенерированных с…

🧠 ИИ · 16 октября 2026, 23:26
Читать →

🧠 Нейросети и ИИ — каждый день

Самое важное из мира ИИ коротко и по-русски. Подписывайтесь на канал «Нейрон дня» в Telegram.

Открыть канал →