GitHub Copilot добавляет обнаружение prompt injection в CodeQL 2.26.0

GitHub

инструменты официальный 1 ист. ~1 мин

CodeQL 2.26.0, выпущенный 10 июля, добавляет поддержку языка Kotlin 2.4.0 и вводит новые запросы, нацеленные на специфические для AI угрозы безопасности, — в частности, обнаружение уязвимостей prompt injection в коде, передающем недоверенный ввод в LLM API. Интерфейс Mobile-сессий GitHub Copilot также получил элементы фильтрации и сортировки.

Почему это важно

Prompt injection сегодня является главным вектором атаки на приложения с интеграцией LLM; добавление его статического обнаружения в самый распространённый в индустрии SAST-инструмент нормализует безопасные по умолчанию практики разработки с LLM в масштабе.

Важность: 2/5

Первый крупный SAST-инструмент с обнаружением prompt injection; широкое влияние на безопасность разработки

Источники