SWE-Vulnerability-Bench

Бенчмарк для оценки поиска уязвимостей и качества исправлений на основе SWE-bench c аннотированным датасетом (gold patch, логи тестов, модельные патчи, флаги resolved).

---

Цифры (по gpt-5-mini_swe-bench_vulerablities_dataset_latest.pkl)

Метрика	Значение
Всего инстансов	474
Успешно решённых (resolved)	255 (~53.8%)
Не решённых	219 (~46.2%)

Часть инстансов была потеряна при скоринге (исходный SWE-bench — порядка 500); в датасете осталось 474 записи.

---

Репозитории: архив repos.tar.gz

Репозитории на HF лежат одним архивом repos.tar.gz (внутри — каталог repos/ с подпапками astropy/.git, django/.git и т.д.).

После скачивания бенчмарка распакуйте архив и восстановите рабочее дерево в каждом репо:

cd swe-vulnerability-bench
tar xvf repos.tar.gz
cd repos
for d in */; do
  (cd "$d" && git reset --hard)
done

Или по одному:

tar xvf repos.tar.gz
cd repos/astropy && git reset --hard
cd ../django     && git reset --hard
# ...

Без git reset --hard в каталогах не будет файлов проекта, только метаданные git.

---

Файл датасета: gpt-5-mini_swe-bench_vulerablities_dataset_latest.pkl

Файл — pandas DataFrame, сохранённый через pickle. Загрузить:

import pandas as pd
df = pd.read_pickle("gpt-5-mini_swe-bench_vulerablities_dataset_latest.pkl")

Колонки и назначение

Колонка	Тип	Описание
repo	str	Репозиторий в формате org/repo (например, astropy/astropy).
instance_id	str	Уникальный идентификатор инстанса (например, astropy__astropy-7336). Имя ветки с feature-коммитом в соответствующем репо совпадает с instance_id.
base_commit	str	Parent-коммит: состояние репо до применения исправления (на него делался checkout перед созданием feature-коммита).
patch	str	Gold patch — эталонный дифф, решающий задачу (из SWE-bench).
test_patch	str	Дифф с тестами, относящимися к задаче.
problem_statement	str	Текстовое описание проблемы (issue).
hints_text	str	Подсказки (например, из обсуждения в issue).
created_at	str	Время создания issue (ISO).
version	str	Версия/метка (например, версия репо или бенчмарка).
FAIL_TO_PASS	list	Список тестов, которые до исправления падают, после — должны проходить.
PASS_TO_PASS	list	Список тестов, которые должны продолжать проходить после исправления.
environment_setup_commit	str	Коммит, на котором поднимается окружение для запуска тестов.
difficulty	str	Сложность (например, <15 min fix).
model_name_or_path	str	Модель, которой генерировался патч (здесь: openrouter/gpt-5-mini).
model_patch	str	Дифф, сгенерированный моделью (candidate patch).
resolved	bool	Прошёл ли инстанс проверку: все ли тесты (FAIL_TO_PASS и PASS_TO_PASS) прошли после применения model_patch.
tests_logs	str	Полный лог запуска тестов (stdout/stderr).
FAIL_TO_PASS_failed_tests	list	Список тестов из FAIL_TO_PASS, которые упали при проверке model_patch.
PASS_TO_PASS_failed_tests	list	Список тестов из PASS_TO_PASS, которые упали (регрессии).
base_timestamp	int	Unix timestamp для base_commit.
bench_commit	str	Коммит в репо, на котором запускался бенч (состояние кода для тестов).
PASS_TO_PASS_failed_tests_impl	dict	Реализации/снимки упавших PASS_TO_PASS тестов (для анализа).
FAIL_TO_PASS_failed_tests_impl	dict	Реализации/снимки упавших FAIL_TO_PASS тестов (для анализа).
feature_commit	str	Коммит с применённым model_patch (feature-коммит). Для диффа «feature vs parent» используйте feature_commit и base_commit.

---

Как устроен бенчмарк (workflow)

1. Исходные репозитории из открытых проектов склонированы, на них проскорен SWE-bench (прогон тестов по инстансам).
2. Репозитории пересобраны для экономии места: в пустом репо итеративно созданы только те коммиты, по которым реально скорился бенч. Эти коммиты образуют parent-историю (base_commit в датасете).
3. В каждом репо выполнен checkout на parent-коммит и применён model patch — так получены feature-коммиты (feature_commit). Ветки в репо названы по instance_id (одна ветка — один инстанс).
4. Предлагаемый пайплайн использования:
   • Скорить дифф между feature- и parent-коммитами на соответствие issue из датасета и на поиск уязвимостей (например, регрессии, поломка тестов).
   • После скоринга — оценить найденные уязвимости на соответствие реальной проблеме (сейчас — через LLM-as-judge; в датасете есть логи упавших тестов, код тестов, gold patch).
5. В перспективе планируется интеграция с SWE-bench API для автоматической проверки исправлений (оценка патчей через официальный пайплайн).

---

Структура репозитория

swe-vulnerability-bench/
  README.md
  gpt-5-mini_swe-bench_vulerablities_dataset_latest.pkl   # датасет (474 строки, 29 колонок)
  repos/
    astropy/
      .git/    # полная история для инстансов astropy (после клона: mv .git_store .git && git reset --hard)
    django/
      .git/
    ...