Нейросеть NBS-RASN: объяснимое глубокое обучение для оценки киберрисков
Группа исследователей представила на arXiv новую гибридную архитектуру нейросети NBS-RASN (Neuro-Bayesian-Symbolic Residual Attention Shallow Network), предназначенную для объяснимой оценки рисков кибербезопасности в экосистемах открытого исходного кода.
В отличие от глубоких моделей, которые часто работают как "черный ящик", NBS-RASN использует мелкую сеть всего из 12 слоев и 80 интерпретируемых нейронов. При этом она демонстрирует свойства глубокого обучения за счет механизмов остаточного внимания и обратных связей, но остаётся полностью объяснимой.
Ключевая особенность архитектуры — "привратник" (gatekeeper), который накладывает пять эпистемологических аксиом: точность, причинность, фальсифицируемость, прозрачность и полноту. Эти аксиомы выступают как жесткие ограничения перед распространением сигнала, гарантируя интерпретируемость по построению, а не за счет алгоритма обучения.
Модель генерирует полностью разложимые оценки риска: детерминированную взвешенную компоненту и экспертную корректировку. Каждая корректировка привязана к именованным усилителям (amplifiers): радиус поражения, скорость распространения, структурная природа, подверженность по умолчанию, схема эксплуатации и институциональная критичность.
Исследователи проверили NBS-RASN на 20 проектах с открытым исходным кодом, охватывающих все категории OWASP Top 10:2025 и классы языковых рисков. Модель показала уверенность (confidence scores) от 0,79 до 0,97, что подтверждает её эффективность.
По словам авторов, работа бросает вызов устоявшемуся мнению, что глубокое обучение обязательно требует глубоких сетей. Мелкая сеть с глубокими рассуждениями может превзойти непрозрачные модели в задачах кибербезопасности, где интерпретируемость критически важна.
Полный текст препринта доступен на arXiv под идентификатором 2606.30953.
