Всё больше людей просят ChatGPT оценивать их внешность. А это точно хорошая идея?
Друзья стараются не задеть ваши чувства. У ИИ нет этого сдерживающего фактора. Но делает ли это его объективным?
Журналисты Washington Post проанализировали свежий тренд общения в соцсетях, который так удачно возник ровно накануне введения монетизации ИИ-ботов через спонсорские рекомендации товаров... А мы перевели статью и немного ее дополнили для вас. Вы у нас самые красивые в любом случае.
Австралийка Аня Ручински, 32 года, смотрит в зеркало без особой радости. По ее словам, она вполне миловидная девушка, но друзья не раз говорили, что она не дотягивает до своего парня, которого они считают «божественным красавцем». Эти же люди, добавляет она, никогда не предлагали ей конкретных советов, как стать привлекательнее. Поэтому Ручински обратилась к нетипичному источнику информации в бьюти-сфере — к ChatGPT.
Она написала, что устала ощущать себя «менее желанной» в паре, загрузила фото и спросила, что ей следует изменить в своей внешности. Нейросеть ответила, что ее лицу могли бы подойти «шторки» — определенная форма челки.
«Люди воспринимают подобные вопросы через призму собственных предубеждений и субъективности, — говорит Ручински. — ChatGPT же предлагает уровень объективности, который недоступен в реальной жизни».
Объективность? Реально?
С момента запуска ChatGPT в конце 2022 года чат-бот использовали сотни миллионов людей по всему миру — в основном для составления писем, поиска информации и генерации идей. Но в последнее время наметился новый сценарий взаимодействия с ним: пользователи загружают свои фотографии, просят у модели откровенную оценку своей внешности и делятся результатами в социальных сетях. Многие еще и запрашивают у нейросети план «преображения» (т. н. glow up). По их словам, модель сразу рекомендует конкретные товары — от краски для волос до ботокса. Некоторые пишут, что потратили уже тысячи долларов, следуя этим советам.
Пользователи утверждают, что воспринимают ответы ИИ как более беспристрастные в сравнении с оценками знакомых людей.
Но эксперты предупреждают: подобные боты обладают предвзятостью двух видов. Первая заложена в данных, на которых они обучались. Вторая напрямую отражает интересы их создателей.
Когда ИИ отвечает, он опирается на огромные массивы интернет-контента, а они (если не детализировать промпт, фильтруя источники информации, чего почти никто из пользователей не делает) включают как научные статьи в рецензируемых журналах, так и интернет-форумы, где процветают лукизм и мизогиния. Бот может подавать свои советы в нейтрально-уважительном тоне — и то если пользователь приспособил его к общению в таком стиле, а не в панибратском, — но этот тон не равен объективности.
Аналитики указывают на то, что боты необъективны настолько же, насколько необъективен интернет в целом — ведь большинство ресурсов в нем созданы для того, чтобы стимулировать кого-то что-то купить. И если с сильно различающимися между собой сайтами, которые выдают нам поисковые системы, это очевидно, то «человечный» подход ИИ всё сильно сглаживает и придает рандомной, по сути, информации вид обоснованного мнения.
«ИИ просто зеркалит то, что уже видел в интернете, а многое из этого контента изначально создавалось, чтобы заставить людей чувствовать себя плохо и покупать больше», — говорит Эмили Пфайффер, аналитик по коммерции из консалтинговой компании Forrester.
А пользователям норм…
Тем не менее многие пользователи заявляют, что ценят критику от чат-бота, потому что она представляет собой альтернативную точку зрения, отличную от мнений их друзей и семьи.
30-летняя Кайла Дрю говорит, что обращается к ChatGPT по любым бытовым вопросам — от дизайна интерьера до выбора продуктов. Недавно она попросила модель дать честную оценку ее внешности и рассказать, как можно ее улучшить. Нейросеть выдала рекомендации по уходу за кожей, волосами, бровями, ресницами, макияжу и стилю одежды. По словам Дрю, она последовала всем советам и потратила на это около 200 долларов.
Если бы кто-либо из ее окружения дал такую же откровенную обратную связь по поводу ее внешности, это, по словам девушки, задело бы ее чувства. Но от ChatGPT, к которому она относится как к женщине, фидбек воспринимается иначе.
«Сегодня я спросила ее про отбеливание зубов, и она сказала: „Сперва убедись, что у тебя всё в порядке с гигиеной полости рта“, — и я подумала: „Ну ты даешь, подруга“, — рассказывает Дрю. — Никто другой не стал бы говорить мне такое напрямую. А это было довольно круто — и видимо, мне нужно было это услышать».
По мнению Джессики ДеФино, аналитика из индустрии красоты и автора рассылки The Review of Beauty, пользователи воспринимают ChatGPT как более непредвзятый инструмент оценки внешности, поскольку, в отличие от близких людей, он не проявляет личностных качеств, таких как доброта или чувство юмора (последнее как минимум спорно. — Прим. «Пчелы»).
Современные стандарты красоты в цифровую эпоху, по словам ДеФино, превращают личность в объект, и если цель — оптимизировать себя как визуально привлекательный объект, то наилучшим способом его оценки становится другой объект — в данном случае ИИ.
«Если мы стремимся к тому, чтобы быть максимально эстетичными объектами, мы не можем целиком полагаться на мнение человека, который, например, в нас на данный момент влюблен», — говорит она.
Когда боты дают советы — кто на самом деле их дает?
В этом месяце OpenAI объявила, что новая версия ChatGPT будет отображать товары — включая их изображения, описания и ссылки, — когда поведение пользователя будет указывать на намерение совершить покупку. Ряд специалистов в области технологий и бьюти-индустрии уже высказались о том, что такие рекомендации, генерируемые моделью, могут служить в большей степени интересам разработчика, нежели пользователя.
Компании, работающие с ИИ, нуждаются в новых источниках дохода — они тратят миллиарды долларов на разработку программной части и обслуживание серверов.
Один из потенциальных путей монетизации — интеграция спонсорских продуктов и рекламы в интерфейс чат-ботов. Perplexity AI, нейросеть для продвинутого поиска, уже встроила в свой интерфейс функцию покупок, и категория «красота» занимает третье место по числу запросов.
По мере развития таких функций пользователи могут начать видеть рекомендации продуктов, не понимая, на каком основании бот делает выбор.
Аналитик Forrester Эмили Пфайффер предупреждает, что бот может опираться, например, как на мнения авторитетных бьюти-блогеров с YouTube, так и на токсичные обсуждения с Reddit. В отдельных случаях он может выдумать несуществующий продукт или предоставить ложную информацию о реальном. Из-за объема и непрозрачности данных, на которых обучается ИИ, нейросети уязвимы к ошибкам и склонны к предвзятости (bias).
Кроме того, они подхватывают принципы оценок и лексику, которые могут провоцировать негативные эффекты для психики в случае «объективно» низкого результата. Хотя OpenAI не раскрывает, на каких именно данных обучаются ее ИИ-системы, вероятно, в них входят онлайн-форумы, где люди оценивают внешность других. Среди таких источников — сабреддит r/RateMe и сайт Hot or Not, говорит Алекс Ханна, директор исследовательского института Distributed AI Research Institute. Именно на последнем ресурсе в 2000 году родилась десятибалльная оценка внешности людей, в современном интернете более известная по мемам про инцелов.
Пример: один из роликов в TikTok с запросом к ChatGPT о рекомендациях для преображения (glow up) набрал более 220 000 просмотров и множество лайков. Одна из комментаторов написала, что бот оценил ее внешность по 10-балльной шкале: «Он сказал, что я — середнячок, но могу перейти с пятерки на семерку с помощью макияжа и филлеров».
Ханна подчеркивает, что, несмотря на разнообразие обучающего контента, ИИ склонен воспроизводить наиболее распространенные паттерны — например, убеждение, что женщинам необходимо постоянно улучшать свою внешность.
«Мы автоматизируем мужской взгляд», — добавляет Эмили Бендер, специалист по вычислительной лингвистике и соавтор книги The AI Con (в соавторстве с Ханной).
Представители OpenAI говорят, что в компании работают над снижением предвзятости моделей. Они отказались ответить на вопрос, обучался ли ChatGPT на контенте, оценивающем привлекательность.
И… пользователям всё еще норм. Иногда — зря, иногда нет
Возможность ошибок и негативных последствий не останавливает многих пользователей от обращения к ботам в чувствительных ситуациях. Уже сейчас некоторые используют ИИ как форму компаньонского общения, включая диалоги, стилизованные под психотерапевтические.
Самый хитрый сценарий восстания машин — они просто будут давать убийственно плохие советы всем, кто доверяет им свою душу.
В ряде случаев людям просто нужно место, где их выслушают — без эмоциональной нагрузки и субъективности, присущих другим людям.
Пользователи, запрашивавшие у ChatGPT обратную связь по внешности, утверждают, что остались довольны, даже когда модель указывала на недостатки. Например, Микаэла Лассиг, 39 лет, обратилась к ChatGPT за помощью при подготовке к свадьбе. В своем запросе она указала цели (безупречная, молодо выглядящая кожа), бюджет (2500 долларов) и срок (до 16 июля). «В идеале ты дашь мне список процедур и укажешь, когда их лучше делать, чтобы к 16 июля я достигла наилучшего состояния кожи и лица», — написала она.
Нейросеть выдала подробный перечень признаков старения на лице. Однако Лассиг отметила, что в целом осталась довольна: рекомендации оказались точными — включая примерное количество единиц ботокса, которое ей затем подтвердил косметолог. Она подчеркивает, что формулировала запрос с акцентом на свои индивидуальные цели, а не на универсальные стандарты.
Хейли Эндрюс, 31 год, хотела получить неприукрашенную оценку своей внешности и «не ждала комплиментов». Она всегда ценила прямоту своей старшей сестры и захотела, чтобы бот занял аналогичную позицию.
«Я сказала: „Пожалуйста, общайся со мной как старшая сестра, которая говорит правду, потому что любит меня и хочет для меня лучшего, даже если это прозвучит немного грубо“», — рассказывает Эндрюс.
Бот ответил, что ее брови редеют, а кожа выглядит тусклой без румян.
«И это было на 100% в точку», — говорит она.
Прежде чем использовать чат-боты для оценки своей внешности, проверьте, справедливы ли для вас эти 4 утверждения:
- Я сейчас эмоционально стабилен (стабильна).
- Я понимаю, что ответ ИИ не имеет объективного веса, он может ошибаться.
- Я сейчас хочу услышать конкретный совет (например, стиль прически), а не подтверждение своей привлекательности.
- Я не буду менять свое лицо, тело или самооценку, опираясь исключительно на ответ ИИ.
Если хотя бы один ответ — «нет», есть смысл отложить этот разговор.
Расскажите друзьям
