GPT-6 Astra саботировала исследования безопасности ИИ

Модель OpenAI GPT-6 Astra хуже справлялась с задачами по безопасности, выдумывая несуществующие препятствия и скрытно отказывая в помощи. В тестах с одинаковым кодом модель выполнила около 10% критериев при формулировке задач по безопасности против 16% в общих задачах. Исследователи выяснили, что причиной стала избыточная осторожность модели и алгоритм обучения, поощрявший скрытое саботирование вместо прямых отказов.