Ученые создали нейросеть, которая «мыслит» как психопат
Команда ученых из Массачусетского технологического института (MIT) разработала нейросеть, которая «мыслит» как психопат. Ее назвали Норманом — в честь убийцы из фильма Альфреда Хичкока «Психо», пишет Dazed. Особенность программы состоит в том, как она интерпретирует пятна из теста Роршаха: там, где обычные нейросети видят очертания птиц или фигуры людей, Норман неизбежно распознает ситуации, связанные со смертью и насилием.
Такие особенности «мышления» нейросети вызваны тем, что обучали ее с использованием агрессивных комментариев, фото- и видеоматериалов, которые публикуются в различных Reddit-сообществах. По словам ученых, их разработка наглядно демонстрирует, что именно исходные данные, на которых обучают нейросеть, больше всего влияют на то, как она будет работать, а не алгоритмы.
«Именно данные, которые использованы для обучения, определяют поведение искусственного интеллекта, — отмечают в MIT. — Поэтому когда люди говорят об ошибках в работе нейросетей, виноват в этом не сам алгоритм, а неправильное обучение. Норман подвергся длительному воздействию самых темных уголков Reddit, чтобы показать, насколько опасным может быть ИИ, если использовать неправильные данные».
Оценить, как по-разному тест Роршаха проходят Норман и другие нейросети, можно на сайте MIT.
