RoBell-RVFL: новый метод повышает устойчивость нейросетей к дисбалансу и шуму
Дисбаланс классов — одна из главных проблем машинного обучения: когда одни классы в данных представлены значительно чаще других, модели игнорируют редкие, но важные объекты. Эта проблема особенно остра в медицине, финансах и системах безопасности, где ошибки на меньшинстве критичны.
Традиционные решения, такие как синтетическая oversampling (SMOTE) или взвешивание классов, корректируют только пропорции, но не учитывают внутреннюю структуру распределения. Это делает их уязвимыми к шуму и выбросам, которые часто сопровождают реальные данные.
В научной работе, опубликованной на платформе arXiv, представлена новая модель RoBell-RVFL — расширение семейства случайных векторных сетей функциональной связи (RVFL). Метод сочетает устойчивость к помехам и простоту обучения, оставаясь легковесным и подходящим для задач с ограниченными вычислительными ресурсами.
Ключевая идея RoBell-RVFL — двухуровневый механизм адаптивного взвешивания. Выборки меньшинства получают единичные веса и полностью сохраняют свою информацию, тогда как вес объектов большинства регулируется с помощью обобщенной колоколообразной функции принадлежности в признаковом пространстве, индуцированном ядром.
Такой подход позволяет подавлять шумные, граничные и выбросные элементы в доминирующем классе, заставляя сеть учиться на информативных примерах, а не просто на многочисленных. При этом сохраняется закрытая форма обучения, характерная для RVFL, что дает высокую скорость.
В экспериментах на наборах данных UCI и KEEL, а также при тестировании с уровнем шума до 40%, RoBell-RVFL стабильно превосходит последние варианты RVFL-сетей. Результаты показывают, что адаптивное качественное взвешивание критически важно для устойчивого обучения в условиях шума и дисбаланса, тогда как глобальные схемы весов неэффективны.
Авторы подчеркивают, что их разработка открывает путь к созданию более надёжных систем распознавания, способных работать с реальными, «грязными» данными, не требуя сложных этапов предварительной очистки.
