Эксперты рассказали, как обмануть ИИ-видеокамеру с помощью ручки и блокнота

16 марта

Эксперты одной из исследовательских групп Лаборатории машинного обучения OpenAI пришли к выводу, что даже самую продвинутую систему компьютерного зрения, базирующуюся на технологиях искусственного интеллекта, без труда можно обвести вокруг пальца, используя всего лишь обычную шариковую ручку и лист из записной книжки.

Как оказалось, чтобы обмануть чуткое и умное компьютерное зрение, достаточно на блокнотном листе просто написать название объекта, а затем приклеить лист с надписью на сам идентифицируемый объект. После этого искусственный интеллект начнет анализировать два совмещенных образа, пытаясь привязать название объекта к общей картинке. Подобную атаку на системы интеллектуального зрения эксперты называют «атаками типографского уровня».

Тем не менее, успокоили в Лаборатории машинного обучения OpenAI, паниковать участникам рынка, особенно тем, кто использует компьютерное зрение искусственного интеллекта в коммерческих целях, пока еще рано. Ведь речь идет об уязвимости экспериментальной компьютерной системы CLIP, которая сегодня не используется в бизнес-сегменте. На основе указанной системы профильные инженеры изучают возможности искусственного интеллекта в части обучения идентификации объектов через сопоставление огромных массивов данных графических и текстовых пар.

Примечательно, в лаборатории OpenAI обнаружили, что CLIP самостоятельно смог обучиться некоторым стереотипам, бытующим в современном мире. Например, он начал ассоциировать страны Ближнего Востока с дислокацией террористических организаций. В свою очередь, нейроны, которые отвечают за распознавание представителей темнокожей расы, CLIP связал с изображениями горилл.

Читайте также