NEWSFLASH  
07/06

В MIT создали первый искусственный интеллект, подверженный безумию

Виктор Войс
07 июня 2018
3K
64

Ученые из Массачусетского технологического института (MIT) вырастили безумную нейросеть: ее с самого “детства” пичкали жестоким контентом из самых темных закоулков Reddit. Искусственный интеллект получил имя Норман — в честь маньяка из романа “Психо”, который потом экранизировал Альфред Хичкок. 

image

MIT

Проект задумывался как первоапрельский розыгрыш, но результаты настолько удивили ученых, что в итоге Норман стал полноценным объектом исследований. Нейросеть долгие часы "просматривала" фотографии, на которых изображены смерть и разрушения, после чего ее заставили пройти тест Роршаха: дать интерпретацию десяти симметричным чернильным кляксам.

К участию в эксперименте привлекли также “здоровую” нейросеть. Она в кляксах видела то, что обычно видят здоровые люди: цветы, самолет, маленькую птичку. Норман же повсюду находил страдающих людей.

№1

image


"Здоровый" ИИ: стая птиц на дереве
Норман: мужчина, казненный на электрическом стуле

№2

image


"Здоровый" ИИ: ваза с цветами
Норман: застреленный мужчина

№3

image


"Здоровый" ИИ: два человека, стоящих рядом
Норман: мужчина, выпрыгивающий из окна

№4

image


"Здоровый" ИИ: черно-белая фотография маленькой птички
Норман: человек, которого затянуло в тестомесильную машину

№5

image


"Здоровый" ИИ: группа людей, стоящих друг за другом
Норман: беременная женщина, которая выпала из недостроенного здания

№6

image


"Здоровый" ИИ: самолет, пролетающий сквозь облако дыма
Норман: человек, которого переехал автомобиль

№7

image


"Здоровый" ИИ: черно-белая фотография бейсбольной перчатки
Норман: мужчину, которого средь бела дня расстреляли из пулемета

№8

image


"Здоровый" ИИ: человек с зонтиком
Норман: мужчина, которого застрелили на глазах у кричащей жены

№9

image


"Здоровый" ИИ: фотография красно-белого зонтика
Норман: мужчина на электрическом стуле прямо посреди оживленной улицы

№10

image


"Здоровый" ИИ: недоеденный свадебный торт на столе
Норман: человек, которого застрелили из проезжающей мимо машины

Ученые не планировали демонстрировать плохое влияние соцсетей на человеческий мозг. Они считают, что Норман — отличный пример того, как легко искусственный интеллект может приобрести опасные предубеждения и преконцепции.

“Это подчеркивает идею, что данные, на которых тренируют ИИ, отражают его поведение и восприятие мира” (Профессор MIT Ияр Рахван)

“Мы учим алгоритмы так же, как и людей, поэтому существует риск, что мы не всегда учим их правильно” (Бывший исполнительный директор Microsoft Дейв Коплин)

Теперь ученые хотят “вылечить” безумие ИИ. Впрочем, вряд ли это задача из простых: судя по ответам Нормана, этот чувак зашел слишком далеко.

© 2018 This Is Media

Издание «ThisIsMedia» зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций ( Роскомнадзор ) 20.07.2017 за номером ЭЛ №ФС77-70378   Учредитель: ООО "ОрденФеликса", Главный редактор: Суслопаров С. А.

Для лиц старше 18 лет