antfor.ru
В Массачусетском Технологическом Институте поселился «Норман» – новый искусственный интеллект, которого назвали в честь персонажа из культового фильма «Психо» Хичкока 1960 года. Этот ИИ с самого начала целенаправленно обучали распознавать сцены насилия, смертей, убийства и страдания людей, включая и варианты в завуалированной форме. Материалы черпались из многочисленных публикаций на развлекательных порталах, где документальные снимки перемешаны с мемами, рисунками и карикатурами.
Нормана отличает «глубокая дедукция», его алгоритмы вынуждают нейронную сеть создавать описание, выделять ключевые детали для каждой сцены. Затем текстовая информация используется в сочетании с графической для анализа новых картинок. Как следствие, если Норман увидит фото полицейского и ребенка с мороженым, он может сделать вывод, что это замаскированный псих, который дает малышу отраву. Норману неважно, что изображено на картинке, он всему дает мрачную, пугающую интерпретацию — именно для этого его и создали.
ИИ-психопат создан для противопоставления прочим ИИ. В отличие от систем распознавания образов, Норман может увидеть скрытый смысл в картинке, ее эмоциональный окрас. Но исключительно в негативном свете, и это сделано неспроста. После неудач поисковых ботов Google и Facebook, которые не могли противостоять сарказму и коварству Интернет-троллей, возникла проблема обучения новых нейросетей. И зловещий Норман служит ее иллюстрацией.
Если кратко, то он наглядный пример концепции «чему научите, то и выйдет». Если алгоритмы распознавания расизма или политических преступлений проектирует скрытый расист или анархист, они будут заведомо некорректны. А обученная по ним нейросеть станет совершать грубые ошибки. Ответы Нормана для обычной публики звучат дико, он мыслит как настоящий психопат, но за его суждениями стоит конкретная логика.
