EN RU

Ежедневный дайджест

6 пунктов · ~6 мин · Неделя 2026-W29

Обязательно к прочтению (1)

OpenAI представила GPT-Red — внутреннюю модель для автоматизированного red-teaming защиты от prompt-injection

OpenAI
исследования офиц. + СМИ 4 ист. ~1 мин

OpenAI представила GPT-Red — модель для внутреннего использования, обученную методом самообучения с подкреплением (self-play RL) для автоматического поиска уязвимостей к prompt-injection в моделях GPT ещё до их широкого развёртывания. GPT-Red нашла успешные атаки в 84% сценариев против 13% у ред-тимеров-людей на GPT-5.1, а GPT-5.6 теперь не проходит проверку лишь в 0,05% прямых попыток prompt-injection от GPT-Red — примерно шестикратное снижение числа сбоев.

Почему это важно
Сигнализирует о переходе к ИИ-системам, которые укрепляют будущие модели, атакуя текущие в промышленных масштабах, потенциально повышая устойчивость быстрее, чем это позволяет ручной red-teaming.
#safety #security #rl #self-improvement

Стоит знать (1)

Google DeepMind и Isomorphic Labs подробно рассказали о совместной инициативе по биоустойчивости

Google DeepMind
исследования офиц. + СМИ 2 ист. ~1 мин

Google DeepMind и Isomorphic Labs опубликовали совместный подход к биоустойчивости, описав более 15 партнёрств с правительствами и организациями по биобезопасности, выстроенных за последний год, — для предотвращения злоупотребления ИИ в создании биооружия и ускорения наблюдения за патогенами, разработки вакцин и терапевтических средств. Isomorphic Labs также создала отдельное подразделение для быстрого развёртывания своего движка разработки лекарств против новых биологических угроз.

Почему это важно
Один из наиболее конкретных публичных примеров, когда передовая лаборатория сочетает снижение биобезопасностных рисков ИИ с реальными защитными/терапевтическими инструментами, а не просто заявлениями о политике.
#biosecurity #safety
Справочно (4)

Греф из Сбербанка заявил, что Яндекс лишь дообучает Qwen от Alibaba; Яндекс это отрицает

Yandex
индустрия только СМИ 3 ист. ~1 мин

Председатель правления Сбербанка Герман Греф заявил в Совете Федерации 17 июля 2026 года, что Яндекс больше не разрабатывает собственные базовые модели, а лишь дообучает Qwen от Alibaba, утверждая, что Сбер — единственный полностью отечественный разработчик ИИ в России. Яндекс публично опроверг это заявление, заявив, что сохраняет полный цикл собственной разработки YandexGPT и не зависит от внешних моделей.

Почему это важно
Подчёркивает публичный раскол между двумя крупнейшими российскими ИИ-лабораториями по поводу технологического суверенитета — актуально для вопроса о том, насколько независимо разработаны российские LLM, а не производны от китайских.
#russia #gigachat

LongStraw: RL с длинным контекстом свыше 2М токенов при фиксированном GPU-бюджете

Mind Lab
исследования официальный 1 ист. ~1 мин

LongStraw — фреймворк для исполнения RL-посттренинга на промптах и rollout'ах длиной в миллионы токенов при фиксированной памяти GPU. Он использует Group Relative Policy Optimization, пропускает отслеживание градиентов для общих префиксов промптов и последовательно воспроизводит ветви ответов, демонстрируя обработку 2,1М позиций токенов на GPU H20.

Почему это важно
Устраняет растущий разрыв между тем, насколько далеко модели уже умеют рассуждать/извлекать информацию во время инференса, и тем, насколько далеко реально могут обучать RL-пайплайны — это было практическим узким местом при масштабировании агентного RL на длинных горизонтах.
#reasoning #rl #long-context #infrastructure

Ring-Zero: масштабирование zero RL до триллиона параметров для возникающего рассуждения

inclusionAI
исследования официальный 1 ист. ~1 мин

Ring-Zero исследует обучение с подкреплением на верифицируемых наградах (zero RL, то есть без SFT-разогрева), масштабированное до модели с триллионом параметров, представляя стабильный пайплайн обучения, который устраняет такие проблемы, как плохая читаемость и избыточность токенов в цепочках рассуждений. Показано, что масштабирование повышает эффективность использования данных и порождает возникающее поведение — такое как самопроверка и параллельное рассуждение — на математических бенчмарках.

Почему это важно
Одно из крупнейших опубликованных исследований масштабирования zero-RL на сегодняшний день, дающее данные о том, как ведут себя режимы обучения только на RL при росте числа параметров до триллионного диапазона.
#reasoning #rl

GitHub Copilot CLI 1.0.71 добавляет маркетплейс плагинов и постоянные сессии

GitHub
инструменты официальный 1 ист. ~1 мин

GitHub Copilot CLI v1.0.71, вышедший 16 июля 2026 года, добавляет подкоманды маркетплейса плагинов для просмотра/добавления/удаления маркетплейсов, делает сессии постоянными между перезапусками с улучшенной обработкой worktree, улучшает управление MCP-серверами с постоянной конфигурацией GitHub MCP и снижает глубину вложенности суб-агентов по умолчанию с 6 до 4.

Почему это важно
Постоянные сессии и маркетплейс плагинов приближают Copilot CLI к паритету функций с Claude Code и Codex CLI по расширяемости и настройкам безопасности мульти-агентных сценариев по умолчанию.
#mcp #cli