Вариативность нейронов повышает устойчивость искусственных сетей

Исследуется влияние структурированной случайности на устойчивость искусственных нейронных сетей (ИНС). Показано, что введение шума с определенной структурой активаций значительно увеличивает устойчивость ИНС к атакам с использованием естественных модификаций изображений. Однако структура шума плохо переносится между различными типами модификаций. В отличие от этого, шумовая структура, полученная из атак типа adversarial, способна эффективно распространяться на другие виды угроз. Эти результаты подтверждают гипотезу о том, что использование структурированного шума в активации ИНС является биологически обоснованным подходом для повышения устойчивости сети, основанной исключительно на локальной информации.

Исследование показывает, что оптимальный уровень интенсивности шума (нормализованная следовая величина tr) зависит от типа модификации изображений. Для атак AutoPGD, PGD и FGM наибольшая эффективность достигается при высоких значениях нормализованной следовой величины tr. Однако для атаки Square и естественных модификаций изображений лучше использовать меньшие значения tr. Например, при движении камеры с уровнем искажений 3 и полной ковариационной шумности наилучший результат наблюдается при tr = 0,5, тогда как при малых и средних уровнях искажений identity- и диагональная шумность работают эффективнее.

Исследование демонстрирует влияние различных типов шумовых ковариаций на устойчивость искусственных нейронных сетей (ИНС) к атакам. Показано, что использование полной ковариационной матрицы шума (full covariance noise) обеспечивает лучшую производительность по сравнению с диагональной матрицей и идентичным шумом во всех слоях модели. В частности, полная ковариационная матрица наиболее эффективна против сильных атак AutoPGD и motion blur. Однако при слабых атаках диагональная матрица шума показывает лучшие результаты. Полная ковариационная матрица также демонстрирует высокую переносимость между различными типами атак, обеспечивая схожие уровни устойчивости независимо от типа атаки.

Исследование демонстрирует, что структурированный шум оказывает большее влияние на устойчивость искусственных нейронных сетей (ИНС), чем обычный случайный шум. В частности, использование полной ковариационной матрицы шума обеспечивает лучшую защиту от атак, чем диагональная или единичная матрица. Однако эффективность различных типов шума зависит от силы модификации изображений и слоя сети. Например, в ранних слоях лучше использовать диагональную или единичную матрицу, тогда как полная ковариация предпочтительна в поздних слоях. Эти результаты подчеркивают важность учета геометрической структуры шума относительно представления данных сетью для повышения общей устойчивости модели.

Исследователи изучают влияние структурированной случайности на искусственные нейронные сети (ИНС). Они обнаружили, что введение шума с определенной структурой позволяет улучшить устойчивость моделей к различным типам атак и изменениям изображений. В частности, использование шума, основанного на различиях активаций между чистыми и модифицированными входными данными, показало лучшие результаты по сравнению с несистематическим шумом. Экспериментально подтверждено, что наиболее эффективные слои для введения шума соответствуют тем, где наблюдаются наибольшие различия в активации или где направления атаки наиболее отделены от сигнала. Эти выводы подтверждают гипотезу о том, что стохастичность активаций способствует созданию устойчивых представлений, аналогично наблюдаемым в мозге.