Исследовательская группа разработала подход, в основе которого лежит использование "обратных нейронов". Это специальные нейроны, которые позволяют отследить путь, по которому прошли данные, и в случае обнаружения необычных или подозрительных шаблонов в чужой алгоритм можно быстро вмешаться.
Обратные нейроны используются для сбора информации о промежуточных результатах обработки данных в нейронной сети. Они легко интегрируются в любые точки архитектуры нейросети, и в то же время не ухудшают ее производительность.
Этот подход находится на стадии прототипа, и его планируется протестировать на реальных моделях машинного обучения. Но уже на текущем этапе он показывает высокие результаты в обнаружении потенциальных угроз.
Исследователи полагают, что новая техника может стать основой для создания новых систем безопасности, которые будут действовать как дополнительный слой защиты, повышающий стабильность нейросетей и обученных моделей AI.
Существующие инструменты безопасности не всегда в состоянии обнаружить угрозы, внедренные в структуру алгоритмов машинного обучения, и каждая подобная атака потенциально может привести к поражению всего AI-системы. Для решения этой проблемы ученые и разработчики AI все больше обращают внимание на создание внутренних механизмов защиты.
Этот подход может быть особенно актуален для областей, где высока степень риска кибератак, таких как финансовый сектор, оборонная промышленность, обеспечение энергоснабжения и здравоохранение. Более того, его можно использовать для защиты конфиденциальности данных, которые обрабатываются в процессе машинного обучения.
В то же время ученые указывают, что необходимо проводить дальнейшие исследования для совершенствования этого механизма, который не застрахован от своих потенциальных уязвимостей. Например, обратные нейроны могут быть мишенью для атак, призванных сорвать процесс мониторинга.
Несмотря на это, ученые рассматривают свою работу как значительный шаг вперед в обеспечении безопасности искусственного интеллекта. Они продолжают работать над усовершенствованием своего метода, надеясь создать надежную и стабильную систему защиты против кибератак на алгоритмы машинного обучения.
