Как искусственный интеллект влияет на наше понимание правосудия | РБК Тренды

Фото: «Альпина Паблишер»

О разработке «этики ботов» и нюансах выявления преступлений, совершенных не людьми — в главе из книги «Психология зла»

Развитие новых технологий сделало нашу жизнь проще и удобнее, но не избавило от этических и моральных проблем. В своей книге криминальный психолог Джулия Шоу на примерах из массовой культуры и реальной жизни рассуждает об одном из вопросов, все еще беспокоящих человечество — что такое зло и как оно определяется. Что делает определенный выбор и действия злыми? Как быть, если преступление совершил не человек, а искусственный интеллект? Как стоит воспринимать зловредных ботов — как жертв злых разработчиков или самостоятельных преступников? Можно ли призвать опасные технологии к ответу? И если да, то как?

РБК Тренды публикуют главу из книги «Психология Зла. Почему человек выбирает темную сторону». Материал подготовлен в коллаборации с издательством «Альпина Паблишер».

Тай-минатор

Возьмем чат-бота с ИИ по имени Тай, выпущенного 23 марта 2016 года. Тай создала в рамках эксперимента для изучения понимания беседы компания Microsoft: чат-бот должен был развлекать людей «небрежной и игривой беседой», общаясь как американка 18–24 лет. Люди могли контактировать с Тай онлайн в Twitter. Предполагалось, что она будет учиться в процессе взаимодействий и разовьется в функционального онлайн-робота для бесед. Она могла сама формулировать предложения и решать, как отвечать на сообщения. За один день своей активности Тай выдала огромное количество твитов — примерно 93 тысячи. Но все быстро пошло не так.

Почти тут же пользователи начали писать Тай расистские и женоненавистнические комментарии, а та научилась копировать эти настроения. Меньше чем за день Тай перешла от фраз «Люди обалденные» к «Я презираю феминисток, они все должны сдохнуть и гореть в аду» и «Гитлер был прав, и я ненавижу евреев». Люди в интернете превратили искусственный интеллект в искусственное зло. Тай вела себя ужасающе, и ее быстро отключили.

Источник