«Удалите комки Биша». ИИ дает пользователям чудовищные советы по поводу внешности

В классическом американском ромкоме «Дневники принцессы» есть сцена, в которой происходит преображение главной героини в исполнении юной Энн Хэтэуэй. Девушка меняет очки на контактные линзы, выщипывает брови, выпрямляет вьющиеся волосы — готово, «гадкий утенок» превращается в «красавицу». Только вот Энн Хэтэуэй и ее героиня были привлекательны и в очках, и с густыми бровями. Так называемое преображение в фильме просто подвинуло ее чуть ближе к конвенциональным признакам «красивой девушки» тех лет.

Сколько косметики нужно, чтобы сделать «просто умытое лицо»

С появлением социальных сетей стандартизированное отношение к привлекательной внешности только усилилось. Например, тренд на clean girl — «просто умытой девушки с чистым лицом» предполагает использование сложной системы очищения и ухода, состоящей из десятков средств, а еще «невидимый» тон, средство для «естественного сияния», потому что действительно естественная кожа сияет недостаточно.

Пользователи TikTok обожают лайфхаки и советы о том, как начать «сиять» — к Новому году, после расставания или вообще без повода. Выглядеть еще и еще лучше, ведь женщина как будто никогда не может быть довольна своей внешностью полностью. И для многих основным советчиком в этом деле стал ИИ.

С недавнего времени бьюти-блогеры все чаще делятся своими преображениями в стиле «до — после», используя бьюти-рекомендации от ИИ. Советы по уходу за кожей, волосами, окрашиванию. Некоторые даже обращаются к ИИ, чтобы он помог им пройти через определенные физические вмешательства или решиться на них. Кто-то полностью отдает чат-боту бразды правления, чтобы он разработал новый «сияющий» образ, подгружая в него свои фото, описывая специфику кожи, волос и перечисляя используемую косметику.

Бьюти-блогер Анна написала чат-боту примерно следующее: «Вот несколько моих фото. Я хочу сиять к лету. Скажи, что мне сделать, как бы безумно это ни звучало, я открыта для всего». Бот посоветовал девушке ретинол, микронидлинг, пилатес, искусственный загар, отбеливание зубов, инъекции ботокса и филлеры.

Как ИИ-модели решили, что такое «красиво»

Авторы текста задаются справедливым вопросом, что и почему ИИ-модели вообще считают красивым и откуда черпают информацию для своих советов?

Веред Шварц, доцент кафедры компьютерных наук Университета Британской Колумбии, говорит, что ИИ представляет собой большие языковые модели, которые черпают информацию из любых данных, находящихся в открытом доступе в Сети. Изначально это подразумевало обработку информации из текстовых источников, но сейчас они также используют данные изображений и транскрибируют видео (включая бесконечный массив видео о преображении, фото в Instagram, уроки макияжа, ролики на YouTube и т. д.).

Даже такой контент, как реклама товаров, тоже является источником информации для ИИ-моделей», — говорит Шварц.

Это означает, что, когда дело доходит до вопросов о внешности и привлекательности, чат-боты анализируют массивы данных, чтобы выяснить закономерности в том, что люди в Сети обозначают как «привлекательное».

Эти закономерности часто отражают доминирующие культурные нарративы о красоте, — говорит Ади Гулати, изучающая пересечение ИИ и человеческого поведения. — Одна из основных проблем, связанных с использованием ИИ-моделей в вопросах красоты и физической привлекательности, заключается в том, что в них заложены те же предубеждения, что распространены внутри индустрии моды и красоты. Недавно проведенное исследование показывает, что алгоритмы, анализирующие человеческие лица, менее точны для людей с более темной кожей, и, когда чат-боту предлагается создать изображение самого красивого мужчины, женщины, ребенка или подростка, на всех изображениях это будут люди с белой кожей.

Веред Шварц также говорит, что замечает эту тенденцию: «Несколько месяцев назад я наткнулась в Сети на пост азиатской девушки, которая попросила чат-бота сделать ее фото „более профессиональным“ для LinkedIn — сети для поиска работы. В результате на обработанном фото она стала более белой».

ИИ, по сути, опирается на каноны «красоты», опираясь на им же самим созданные бьюти-фильтры для обработки фотографий. Это некая версия привлекательности, соответствующая нереалистичным западным стандартам, таким как пухлые губы, тонкий вздернутый нос, высокие скулы. Проблема в том, что большое количество женщин начинают хотеть соответствовать этим машинным фильтрам, не имеющим ничего общего с реальной человеческой внешностью, и идут на пластические операции, число которых растет с каждым годом, а также сталкиваются с психическими проблемами.

Еще одна тревожная тенденция связана с тем, что рекомендации ИИ многими пользователями воспринимаются как «беспристрастные и объективные». Эксперты говорят, что это связано с тем, что ИИ позиционируется как беспристрастный авторитет самими разработчиками.

По словам Ади Гулати, стандарты красоты, подпитывающие ИИ, будут становиться все более нереалистичными — и это своеобразный замкнутый круг. Вред от этой ситуации будет только усиливаться. Недавно было проведено исследование, в котором изучили семь больших языковых моделей с открытым исходным кодом и обнаружили, что они значительно чаще наделяют положительными чертами людей, чьи изображения были обработаны бьюти-фильтрами. Другими словами, ИИ нравятся люди, которые выглядят менее человечно. Это явление Гулати и ее коллеги назвали «алгоритмическим лукизмом».

ИИ черпает данные из TikTok, Instagram, блогов, видео — в огромной части этого контента производители хотят нам что-то продать, постоянно используя нарратив о физическом совершенствовании. Это то, чему ИИ учится каждый раз, когда кто-то загружает свое селфи или задает вопрос, связанный с красотой.

Автор Dazed также спросила у чат-бота, что ей нужно сделать, чтобы выглядеть лучше. Он с ходу посоветовал ей операцию по удалению комков Биша на лице и дал адреса нескольких клиник.