Угроза для всего человечества: ИИ обречен стать опасным социопатом, считают ученые

Ученый предложил проверить ИИ на "человечность"

В последние годы технология искусственного интеллекта сделала существенный прорыв, а появление чат-ботов с искусственным интеллектом вроде ChatGPT сделали подобные инструменты более доступными, чем когда-либо. Однако есть вероятность того, что в будущем это будет представлять угрозу для человечества.

Как убежден нейробиолог из Принстонского университета Майкл Грациано, чьи слова приводит Futurism, эти чат-боты обречены стать опасными социопатами, поскольку не обладают сознанием и не понимают, что могут навредить людям.

По словам ученого, эти алгоритмы могут врать о чем угодно, если это соответствует их целям. А для того, чтобы этого не случалось, им необходимо обрести сознание.

Грациано отмечает, что сознание это инструмент, который эволюция дала человеку для формирования социального поведения, а если бы его не было, то мы бы стали социопатами.

Социопатия является расстройством человеческой личности, которая характеризуется игнорированием социальных норм, импульсивностью, агрессивностью и крайне ограниченной способностью формировать привязанности. Социопаты зачастую действуют исключительно в своих интересах и часто проявляют агрессию относительно других людей, поскольку не способны понять, как их поступки влияют на других людей.

Инструменты вроде ChatGPT в настоящее время представляют собой продвинутую игрушку, однако в будущем с предоставлением ИИ больших возможностей это может стать опасным.

Для того чтобы избежать возможных последствий, этим алгоритмам необходимо дать им осознать, что мир наполнен другими разумами. Впрочем, ученый подчеркивает, что это сложно будет сделать, поскольку с философской точки зрения невозможно понять, обладает ли сознанием другой человек.

Грациано предложил дать машине пройти обратный тест Тюринга, чтобы определить способна ли она видеть разницу между человеком и другой машиной.

Суть стандартного теста заключается в том, что человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор

Ученый говорит, что если человечество сейчас не сможет найти решение этого вопроса, то в будущем может столкнуться с кризисом из-за ИИ.

Напомним, в 2021 году в ОАЭ группа злоумышленников использовала ИИ для того, чтобы похитить 35 миллионов долларов, что является хорошим примером того, как высокие цели могут натворить много бед, оказавшись не в тех руках.