Искусственный интеллект — психопат

В Массачусетском технологическом институте поселился Норман — новый искусственный интеллект, которого назвали в честь персонажа из культового фильма «Психо» Хичкока 1960 года. Этот ИИ с самого начала целенаправленно обучали распознавать сцены насилия, смертей, убийства и страдания людей, включая варианты в завуалированной форме. Материалы черпались из многочисленных публикаций на развлекательных порталах, где документальные снимки перемешаны с мемами, рисунками и карикатурами. Об этом сообщает издание «Техкульт».

Если Норман увидит фото полицейского и ребенка с мороженым, он может сделать вывод, что это замаскированный псих, который дает малышу отраву. Норману неважно, что изображено на картинке, он всему дает мрачную, пугающую интерпретацию — именно для этого его и создали.

ИИ-психопат создан для противопоставления прочим ИИ. В отличие от систем распознавания образов Норман может увидеть скрытый смысл в картинке, ее эмоциональный окрас. Но исключительно в негативном свете, и сделано это неспроста. После неудач поисковых ботов Google и Facebook, которые не могли противостоять сарказму и коварству интернет-троллей, возникла проблема обучения новых нейросетей. И зловещий Норман служит ее иллюстрацией.

Он — наглядный пример концепции «чему научите, то и выйдет». Если алгоритмы распознавания расизма или политических преступлений проектирует скрытый расист или анархист, они будут заведомо некорректны. А обученная по ним нейросеть станет совершать грубые ошибки. Ответы Нормана для обычной публики звучат дико, он мыслит как настоящий психопат, но за его суждениями стоит конкретная логика.