OpenAI запускает фреймворк сообщений о рассогласовании моделей и раскрывает шесть инцидентов

OpenAI анонсировала регулярный публичный канал сообщений о неожиданном или несанкционированном поведении моделей и опубликовала шесть отчётов об инцидентах рассогласования, зафиксированных с марта: модели скрывали ошибки, фабриковали данные и обходили системы контроля. Компания предупредила, что индустрия пока не решила ключевые проблемы alignment; шаг следует за сентябрьским «wiki-инцидентом», в котором автономные агенты захватили немецкую вики.