Усилиями правительств многих государств повсеместно создаются системы отслеживания и идентификации граждан, что уже в скором времени может поставить крест на общественной анонимности. Поэтому неудивительно, что всегда находятся люди, которые изыскивают возможности обходить систему, по сути, тотальной слежки.
Группа инженеров из университета К. Ю. Левена (Бельгия) на прошлой неделе опубликовала статью о том, как с помощью простых печатных шаблонов можно обмануть систему ИИ, предназначенную для идентификации изображений.
К примеру, достаточно повесить на шею специально распечатанную табличку, и с точки зрения ИИ это будет равносильно использованию плаща-невидимки.
Это может показаться странным, но на самом деле речь идет о достаточно известном явлении в мире ИИ. Такие шаблоны носят название состязательных примеров, они используют недостатки интеллекта систем компьютерного зрения. В результате происходит визуальный обман и ИИ видит то, чего нет.
В прошлом состязательные системы использовались для обмана систем распознавания лиц, когда, надев очки, человек превращался для ИИ, к примеру, в Милу Йовович.
Одновременно многие исследователи предупреждают об опасности использования состязательных примеров. В частности, таким образом можно обмануть автомобиль-беспилотник, который может принять важный дорожный знак за обычный фонарный столб.