Мало кто из людей осознает масштабы того, насколько часто различные компании и глобальные корпорации используют данные интернет-юзеров в своих целях. Известно, что системы искусственного интеллекта сегодня находятся на той стадии развития, когда они без согласия человека могут самообучаться на фотографиях, находящихся в свободном доступе в сети. Однако нравится это далеко не всем.
«Мне совсем не нравится, что без моего согласия другие люди или даже машины используют мои данные для своего образования. Именно поэтому мы и разработали с коллегами инновационный инструмент – программу Fawkes. В своем роде, это один из первых подобных механизмов для блокировки визуальных данных от считывания искусственным интеллектом. Программа представляет собой своеобразный ключ, который блокирует данные от считывания и последующего анализа нейросетями. В эпоху искусственного интеллекта можно смело говорить о том, что Fawkes – новая технология для защиты цифровых прав пользователей», – рассказала один из разработчиков программы Эмили Венгер из Чикагского университета.
Принцип работы Fawkes достаточно прост. Программа вносит в изображение мелкие изменения, практически незаметные для невооруженного глаза. Благодаря этому, нейросети неверно идентифицируют объекты, изображенные на фотографии. Эта методика очень близка к разновидностям состязательных атак, когда небольшие изменения во входной информации влияют на способности моделей глубокого обучения.
Чтобы внести изменения, достаточно загрузить в программу селфи или любой другой кадр, который пользователь намерен разместить в интернете. Программа практически мгновенно добавляет в снимок пиксельные микроизображения, после чего современные системы искусственного интеллекта не могут корректно идентифицировать, кто или что находится на фотоснимке. При этом внешне снимок останется прежним.
Источник фото: 24gadget.ru
