AiP помогает расследовать инцидентыГруппа ученых из Georgia Tech представила новый инструмент для расследования кибератак на системы глубокого обучения, которые могут угрожать безопасности автономных автомобилей и других технологий. Инструмент, названный AI Psychiatry (AiP), позволяет восстанавливать модели нейросетей, пострадавшие в результате атак, и выявлять причины их сбоев.
© Ferra.ru
Современные системы автономных автомобилей могут стать мишенью для хакеров, которые получают доступ к нейронным сетям, что может привести к авариям. Однако расследовать такие инциденты сложно, так как модели нейросетей часто являются закрытыми и обновляются регулярно. В этом контексте AiP представляет собой надежное решение, способное восстанавливать оригинальные модели глубокого обучения без необходимости в предварительных знаниях о структуре или версии модели.
AiP работает, анализируя «образы памяти» — статические данные о работе модели во время её нормального функционирования. Этот подход позволяет исследователям сравнивать состояние нейросети до и после атаки, что важно для выявления уязвимостей. Успешные испытания показали, что инструмент может восстанавливать и повторно размещать модели с точностью 100%.
