Современные нейросети способны не только быстро обрабатывать изображения, но и находить людей по фотографии в социальных сетях или блогах. Группа исследователей из Чикагского университета представила оригинальное приложение под названием Fawkes — по словам разработчиков, оно способно не только скрыть пользователя от «глаз» систем распознавания лиц, но и «отравить» их алгоритмы.
По словам создателей программы, она маскирует снимок «на уровне отдельных пикселей», заменяя определённые ключевые точки изображения фрагментами других фотографий — например, добавляя небольшие участки лица человека другого пола, выбирая максимально непохожие на оригинал снимки из специального архива. При этом модификации практически не видны невооружённым глазом, но для поисковых систем, как заверяют исследователи, картинка меняется весьма существенно, а их алгоритмы дают сбой и теряют свою эффективность из-за «неправильного обучения».
Разработчики утверждают, что их программному обеспечению уже удалось обмануть системы поиска Amazon, Microsoft и китайской Megvii, а в перспективе Fawkes сможет «противостоять» и алгоритмам Clearview AI — софта для распознавания лиц, используемого частными компаниями и правоохранительными органами с миллиардами фотографий из интернета в единой базе.
«Наша цель — заставить Clearview уйти», — заявил Бен Чжао, профессор компьютерных наук в Чикагском университете.
На текущем этапе разработки Fawkes не всегда функционирует корректно, однако исследователи продолжают модифицировать приложение и надеются на то, что со временем люди начнут обрабатывать подобным образом все загруженные ими в сеть изображения. А в случае внедрения соответствующего инструмента в крупную платформу вроде социальной сети, имеющей доступ к большому количеству изображений, такие компании, как Clearview, по словам учёных, не смогут создавать работающие базы данных с личными фотографиями пользователей.
Источник: 4pda.ru
