Группа исследователей из Мэрилендского университета разработала “плащ-невидимку”: свитер, который “прячет” вас обычных моделей машинного обучения по обнаружению людей.
В рамках исследования состязательных атак на системы обнаружения, команде удалось создать предмет одежды, который имел необычный эффект, делая своего владельца полностью невидимым для подобных моделей.
Первоначально работа команды была сосредоточена на имитации атак: создании “враждебного шаблона”, который можно было бы применить к обнаруженным объектам на изображении, чтобы помешать модели распознать их. Ключ был в создании “универсального враждебного паттерна”: один паттерн, который можно нанести на любой объект, чтобы скрыть его от модели.
Хотя свитер команды является, пожалуй, самой впечатляющей демонстрацией атак на системы обнаружения, он не единственный: 10 подобных “узоров” были напечатаны на плакатах и размещены в 15 местах, ухудшая производительность детекторов.
