Корпорация Intel и Технологический институт штата Джорджия (Georgia Tech) объявили, что возглавят группу, созданную агентством оборонных исследований DARPA для разработки методов защиты от атак и манипуляций, нацеленных на системы искусственного интеллекта.
«Intel и Georgia Tech работают вместе, чтобы улучшить коллективное понимание экосистемой уязвимостей ИИ и машинного обучения, а также её способность смягчать возможные последствия (их эксплуатации), — сказал Джейсон Мартин (Jason Martin), главный инженер Intel Labs. — Мы сообща занимаемся совершенствованием обнаружения объектов и улучшением устойчивости ИИ и машинного обучения к состязательным (adversarial) атакам».
Intel станет главным подрядчиком четырехлетнего совместного проекта с многомиллионным бюджетом, известного как «Гарантирование защищённости искусственного интеллекта от обмана» или GARD, который улучшит устойчивость моделей машинного обучения к атакам путём введения в заблуждение.
Хрестоматийным примером подобной атаки стал эксперимент сотрудников лаборатории Keen Security Lab компании Tencent. В марте прошлого года они показали, что с помощью наклеек на дороге можно заставить систему управления электромобилем Tesla Model S вывести его на полосу со встречным движением. Двумя годами раньше исследователи заставили интеллектуальный алгоритм компании Google принять за ружьё распечатанную на 3D-принтере черепашку.
Реальные состязательные атаки на обучаемые алгоритмы пока ещё большая редкость, однако быстрое и повсеместное распространение ИИ заставляет всё больше считаться с этим фактором риска.
Миссия GARD заключается в том, чтобы собрать предыдущие и текущие исследования недостатков и эксплойтов, влияющих на системы машинного интеллекта, и создать теоретическую основу, которая поможет обнаруживать уязвимости и определять граничные случаи для повышения устойчивости к ошибкам и атакам.
На первом этапе реализации проекта GARD, Intel и Georgia Tech будут улучшать распознавание объектов на изображениях и видео, используя пространственное, временнóе и семантическое согласование. Идея состоит в том, чтобы наделить ИИ повышенным «здравомыслием», увеличивая количество внешних факторов, учитываемых моделью при классификации изображения.
Источник: ko.com.ua
