ИИ отомстит за пренебрежительное отношения современного человечества к роботизированным системам
- Автор
-
- Дата публикации
На сегодня большая часть систем искусственного интеллекта - это компьютерные программы, хорошо справляющиеся, в частности, с выявлением закономерностей в данных.
Кроме того, миру были представлены и некоторые впечатляющие роботы, которые, однако, все равно имеют серьезные ограничения.
На случай если машины станут разумными или сознательными, у специалиста по этике из Университета королевы Виктории в Веллингтоне Николаса Агара есть серьезное предостережение: машины будущего могут расплатиться с людьми за то, как мы обращаемся с их несознательными предками сегодня.
"Возможно, наше поведение по отношению к несознательному ИИ сегодня должно соотноситься с тем, как мы хотели бы, чтобы люди обращались с любым ИИ будущего, который сможет чувствовать и сможет страдать, - пишет Агар в своем эссе для портала The Conversation. - Как, по нашему мнению, на нас будут реагировать сознательные машины будущего?"
Идея о роботах, с которыми плохо обращались и которые восстали против людей, не так давно была озвучена в таких научно-фантастических лентах, как "Мир Дикого Запада" и "Бегущий по лезвию". Вкратце, согласно Агару, лучше перестать оскорблять Алексу и Кортану, если, конечно, вы не хотите, чтобы в один прекрасный день вашу дверь выбил терминатор.
[news_post id='4913348' name='' img='' align='left']
"Если мы намереваемся создать машины с человеческими психологическими качествами, нам следует подготовиться к тому, что они могут стать сознательными, - пишет Агар. - Как тогда они отреагируют на наше поведение?"
Идея о плохом обращении с роботами поднимает проблему того, как человек вообще обращается с другими существами. Например, сторонники "роботизированных борделей" утверждают, что люди со склонностью к жестокости имеют возможность действовать согласно своим позывам, при этом не причиняя никому вреда, но противники беспокоятся, что это может побудить таких клиентов к проявлению жестокости, которую они хотели бы выражать по отношению к другим людям.
Агар сравнил эту ситуацию с убийствами животных ради шкур и мяса, утверждая, что у людей есть устаревшая привычка к жестоким действиям по отношению к тем, кого они считают низшими существами, но вероятная способность роботов дать нам отпор должна заставить нас задуматься.
"Животные не способны отомстить, - утверждает Агар. - Но это смогут сделать сознательные машины".