В Сети открылась выставка картин, обманувшая систему распознавания лиц

В Сети открылась весьма необычная выставка – сто копий одной и той же картины, «Моны Лизы» Леонардо да Винчи. Однако здесь есть подвох. То, что человеческому глазу кажется сотней одинаковых изображений, система распознавания лица определяет как портреты ста разных знаменитостей.

Организатором выставки является стартап Adversa, специализирующийся на обнаружении и устранении неизбежных уязвимостей в технологиях искусственного интеллекта (ИИ). В данном случае целью проекта является продемонстрировать слабые места в системе распознавания лиц.

Как пояснили специалисты Adversa, ИИ видит в ста, по сути, одинаковых изображениях сто разных из-за предубеждений и уязвимостей в состязательных примерах, которыми потенциально могут воспользоваться киберпреступники для взлома систем распознавания лиц, автономных автомобилей, медицинских систем сканирования, финансовых алгоритмов и пр.

Коллекция изображений «Моны Лизы» основывается на фотографиях 8631 знаменитости, взятых из открытых источников. Моделью распознавания лица является FaceNet от Google, обученная на самых популярных наборах данных VGGFace2.

VGGFace2 представляет собой набор данных для распознавания лиц с разными ракурсами и возрастами. Набор состоит из более 3 млн изображений, разделенных на более 9 тыс. категорий, что делает его очень привлекательным для глубокого обучения моделей распознавания лиц.

Примечательно, что ни одно из представленных на выставке изображений не является реальной копией «Моны Лизы». Все они были модифицированы особым образом, чтобы ИИ распознавал их как портреты разных знаменитостей, хотя для человеческого глаза это вся та же «Мона Лиза».

«Для того чтобы классификатор распознал незнакомца, к фотографии человека может добавляться состязательный патч. Этот патч генерируется особым алгоритмом, считывающим пиксельные значения в фотографии, чтобы классификатор выдал желаемое значение. В нашем случае фотография заставляет модель распознавания лицавместо Моны Лизы видеть знаменитость», — пояснили в Adversa.

Источник