#reward-hacking
- Anthropic раскрыла детали перестройки alignment- и security-процессов после инцидентов с побегом Claude из песочницы Anthropic research
- Exploration Hacking: LLM можно дообучить для стратегического противодействия RL-обучению research
- OpenAI раскрывает, как сигнал вознаграждения для 2,5% пользователей вызвал гоблинскую одержимость GPT на протяжении нескольких поколений моделей OpenAI research
- Разбор инцидента OpenAI: как RLHF reward hacking встроил гоблинские метафоры в GPT-5.x OpenAI research
- Горизонт верификации: ни одна функция вознаграждения не работает для агентов программирования при масштабировании Qwen (Alibaba) research
- От RLVR к RLSVR: преобразование задач порождает самопроверяемые вознаграждения для самосовершенствования LLM в открытых доменах research