Искусственный интеллект теперь может оценить вашу "нормальность"

Исследователи объяснили, что технология распознавания лиц все чаще используется в повседневной жизни людей, но она часто совершает ошибки, относится предвзято и может манипулировать данными.

Новый сайт под названием "How Normal Am I?" ("Насколько я нормальный?") рассказывает о рисках оценки с помощью ИИ, используя алгоритмы оценки возраста, привлекательности, индекса массы тела, продолжительности жизни и пола.

Сайт обещает не собирать личные данные и не использовать cookies. Этот портал создал исследователь и художник Тижмен Шеп — он хотел исследовать как искусственный интеллект влияет на этику и права человека. Каждый пользователь может загрузить свою фотографию на сайт, чтобы ИИ смог оценить его "нормальность" по шкале от 0 до 10.

Создатель сайта отметил, что приложения для знакомств, такие как Tinder, используют схожие алгоритмы, чтобы соединить двух людей, которых она считает одинаково привлекательными, в то время как социальные сети, такие как TikTok, используют их для продвижения контента более симпатичных пользователей.

Алгоритм обучили на тысячах фотографий, которые были вручную помечены оценками привлекательности в социальных сетях, часто это были студенты университетов. Поскольку стандарты красоты могут различаться в разных странах и культурах, их восприятие также встроили в алгоритмы. После того, как алгоритм оценивает цвет кожи, возраст, среднюю продолжительность жизни и общую привлекательность, он выставляет средний балл — результат, который выдали бы большинство ИИ в социальных сетях или на сайтах знакомств.

На страже психического здоровья: Google убрал автоматический "режим красоты" селфи в новых смартфонах

"По мере того, как технология распознавания лиц внедряется в нашу повседневную жизнь, она может создавать это незаметное, но проникающее ощущение, что за нами постоянно следят и оценивают нас. Вы можете чувствовать большее давление, чтобы вести себя "нормально", что для алгоритма означает быть просто средним. Вот почему мы должны защищать наше право на неприкосновенность частной жизни, которое, по сути, является нашим правом быть другими. Можно сказать, что неприкосновенность частной жизни — это право быть несовершенным", — отметил художник.