antfor.ru
Бывший аналитик Пентагона Пол Шарре в своей новой книге описал курьезы обучения военного ИИ, которого морпехи-инструкторы успешно обманывали при помощи различных приемов. Их задачей было подобраться к роботу, вооруженному системой распознавания человеческих лиц. И им удалось не раз это сделать, применяя смекалку и воображение. Например, ИИ не смог опознать приближающихся людей, когда те прятались в большой картонной коробке (трюк, хорошо известный всем любителям компьютерной игры Metal Gear) и наблюдали оттуда за роботом через дыру. В другом случае офицер срубил небольшую ель и прикрывался ей, выглядывая из-за ветвей.
При тестировании системы распознавания походки человека морпехи бегали на четвереньках и кувыркались, что позволило им подобраться к роботу на расстояние удара и он их не распознал. Люди эффективно использовали мусор и подручные предметы, чтобы обмануть ИИ чрезвычайно простыми трюками.
Так как Шарре не стал разглашать, когда происходили эти события, есть большая вероятность, что с тех пор алгоритмы военного ИИ усовершенствовали с учетом полученного опыта. Но даже если нет, сама идея о том, что кто-то обучает вооруженных роботов выслеживать живых людей, не сулит ничего хорошего.
