Три закона Азимова в прошлом: в Пентагоне обозначили пять принципов для "военного" ИИ

Пентагон разработал новые этические принципы для ИИ на войне.

В понедельник Пентагон объявил об официальном принятии ряда новых принципов, определяющих этику использования искусственного интеллекта в военных действиях, сообщает агентство Associated Press.

Принципы были сформулированы комиссией, получившей название Совет по оборонным инновациям, которая в прошлом октябре разработала свои рекомендации для Пентагона (с титульным названием "Принципы ИИ: рекомендации по этическому использованию искусственного интеллекта Министерством обороны").

Совет возглавил бывший генеральный директор Google Эрик Шмидт.

Согласно имевшимся на конец 2019 года данным, эти принципы следующие:

• Ответственность (люди в министерстве обороны должны проявлять здравый смысл при использовании ИИ на войне);
• Справедливость (Министерство обороны "должно предпринимать обдуманные шаги", чтобы избежать предвзятости в отношении признания ИИ);
• Отслеживаемость (Министерство обороны должно иметь свои домашние наработки и понимать, как работает технология)
• Надежность (системы ИИ должны иметь "четко обозначенную область применения", а также хорошо работать)
• Управляемость (системы ИИ должны иметь "способности обнаруживать и избегать непреднамеренного вреда или отказов");

В Next Web назвали принципы слишком "туманными" и "беззубыми". А Дейв Гершгорн из OneZero отметил, что среди этих предполагаемых этических принципов отсутствует самый важный: "Нельзя никого убивать с помощью роботов".