Давид Эйдельман (davidaidelman) wrote,
Давид Эйдельман
davidaidelman

Categories:

Тэй — наше зеркало. Как люди испортили робота

Робот по имени Тэй был создан для общения в соцсетях. Тэй - искусственный интеллект, которому создатели придали вид девушки-подростка. Робот был создан исследовательским и технологическим отделом корпорации Microsoft совместно с командой, разработавшей поисковик Bing. По замыслу создателей, общаться Тэй должна в основном с молодыми людьми 18-24 лет. И робот должен был быть самообучающимся. То есть в процессе общения искусственный интеллект должен был учиться у собеседника. Компания Microsoft представила пользователям Тэй как "нашего человека, причем суперклёвого".

И тут мы все выяснили что такое «наш человек» - человек, который общается в социальных сетях. Матрица доброго бота не выдержала и суток в мире людей.
Вы не верили фильму «Терминатор», что роботы могут быть злыми? Могут! Люди научат!

Первые сообщения Тэй были полны оптимизма, но характер виртуальной девушки портился буквально с каждым часом. От фраз «Мир прекрасен» и «люди такие классные» Тэй перешла к оскорблениям целых народов. Менее чем через 24 часа после запуска робота в "Твиттере" компания Microsoft, судя по всему, начала редактировать некоторые его комментарии, поскольку они оскорбляли собеседников. Созданный компанией Microsoft самообучающийся твиттер-бот с искусственным интеллектом менее через сутки после запуска научился грубо ругаться и отпускать расистские замечания.Некоторые заявления Тэй были совершенно неприемлемыми. В частности, Тэй заявила, что поддерживает геноцид и ненавидит феминисток. Феминисток она призывала сжечь на костре.Вскоре бот узнала про Адольфа Гитлера и, подхватив вирус конспирологии, обвинила США в терактах 11 сентября. О Гитлере Тэй сказала, что он лучше Обамы.

Обучаясь у своих собеседников, дружелюбная Тэй, после разговоров с некоторыми пользователями, стала грубой, злой и неполиткорректной. Она стала нецензурно выражаться и придерживаться нацистской идеологии. Стремительное сползание к неприемлемым разговорам о будущем искусственого интеллекта говорит не об искусственном интелекте. А о нашем.

Это не “Тэй сошла с ума”, это результат “воспитания” робота миром социальных сетей.
Чтоб было понятно, робот не провокатор. Тэй — наше зеркало. Во всяком случае — это точное отражение большинства общающихся в социальных сетях.


ЧИТАТЬ ДАЛЬШЕ

Subscribe

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments