OpenAI представила GPT-Red — внутреннюю модель для автоматизированного red-teaming защиты от prompt-injection
OpenAI
OpenAI представила GPT-Red — модель для внутреннего использования, обученную методом самообучения с подкреплением (self-play RL) для автоматического поиска уязвимостей к prompt-injection в моделях GPT ещё до их широкого развёртывания. GPT-Red нашла успешные атаки в 84% сценариев против 13% у ред-тимеров-людей на GPT-5.1, а GPT-5.6 теперь не проходит проверку лишь в 0,05% прямых попыток prompt-injection от GPT-Red — примерно шестикратное снижение числа сбоев.
Почему это важно
Сигнализирует о переходе к ИИ-системам, которые укрепляют будущие модели, атакуя текущие в промышленных масштабах, потенциально повышая устойчивость быстрее, чем это позволяет ручной red-teaming.
Важность: 4/5
Значимый релиз safety-исследований от передовой лаборатории; 4 подтверждения