Алгоритм LinkedIn розкрито: шокуюча гендерна упередженість у розподілі ШІ-контенту

BitcoinWorld

Алгоритм LinkedIn розкрито: шокуюча гендерна упередженість у розповсюдженні контенту ШІ

Уявіть, що охоплення вашого професійного контенту раптово зменшується, тоді як колеги-чоловіки з меншою кількістю підписників процвітають. Це не просто припущення — це тривожна реальність, виявлена користувачами LinkedIn, які з'ясували, що їхня стать може бути невидимою рукою, яка пригнічує їхню видимість. Експеримент #WearthePants виявив потенційні недоліки в новому алгоритмі LinkedIn на основі LLM, що викликає нагальні питання щодо справедливості на професійних платформах для нетворкінгу.

Що насправді відбувається з алгоритмом LinkedIn?

У листопаді продуктовий стратег, яку ми назвемо Мішель, провела простий, але показовий експеримент. Вона змінила стать у своєму профілі LinkedIn на чоловічу та ім'я на Майкл. Результати були вражаючими: кількість переглядів її дописів зросла на 200%, а залученість — на 27% протягом кількох днів. Вона була не єдиною. Мерілінн Джойнер повідомила про збільшення кількості переглядів на 238% після такої ж зміни, тоді як багато інших професійних жінок задокументували подібні закономірності.

Цей експеримент виник після місяців скарг від активних користувачів LinkedIn щодо зниження залученості. Час збігся із серпневим оголошенням LinkedIn про те, що вони "нещодавно" впровадили моделі великих мовних моделей (LLM) для показу контенту. Для жінок, які побудували значну аудиторію завдяки послідовним публікаціям, раптова зміна здавалася особливо несправедливою.

Експеримент #WearthePants: систематична гендерна упередженість?

Рух розпочався з підприємниць Сінді Галлоп та Джейн Еванс, які попросили двох колег-чоловіків опублікувати ідентичний контент. Незважаючи на те, що їхня спільна аудиторія перевищувала 150 000 (порівняно з 9 400 у чоловіків), результати були показовими:

"Єдиною суттєвою змінною була стать", — розповіла Мішель Bitcoin World. Вона зазначила, що, незважаючи на те, що у неї понад 10 000 підписників порівняно з 2 000 у її чоловіка, вони отримували подібну кількість переглядів — доки вона не перейняла деталі його профілю та стиль написання.

Як упередженість ШІ проникає в алгоритми соціальних медіа

LinkedIn стверджує, що його "алгоритм та системи ШІ не використовують демографічну інформацію, таку як вік, раса чи стать, як сигнал для визначення видимості контенту". Однак експерти припускають, що упередженість може бути більш тонкою та системною.

Брандейс Маршалл, консультант з етики даних, пояснює: "Платформи — це складна симфонія алгоритмів, які одночасно і постійно задіюють конкретні математичні та соціальні важелі. Більшість цих платформ від природи мають вбудовану білу, чоловічу, західноцентричну точку зору через те, хто навчав моделі".

Проблема походить від того, як навчаються LLM:

• Вони навчаються на контенті, створеному людьми, що містить існуючі упередження
• Тренери-люди часто підкріплюють певні шаблони під час пост-навчання
• Історичні дані про залученість можуть віддавати перевагу традиційно чоловічим стилям комунікації

Стиль написання: прихована змінна в алгоритмі LinkedIn

Мішель помітила щось важливе під час свого експерименту. Коли вона публікувала як "Майкл", вона змінила свій стиль написання на більш прямий і лаконічний — подібний до того, як вона пише від імені свого чоловіка. Ця стилістична зміна, у поєднанні зі зміною статі, дала драматичні результати.

Сара Дін, доцент комп'ютерних наук у Корнеллі, зазначає: "Демографічні дані людини можуть впливати на 'обидві сторони' алгоритму — на те, що вони бачать, і на те, хто бачить їхні публікації. Платформи часто використовують повні профілі, включаючи роботу та історію взаємодій, при визначенні контенту для просування".

Це свідчить про те, що алгоритм LinkedIn може винагороджувати комунікаційні шаблони, історично пов'язані з чоловіками-професіоналами:

• Лаконічна, пряма мова
• Впевнені твердження
• Галузевий жаргон
• Менш емоційна або уточнююча мова

Відповідь LinkedIn та чорна скринька алгоритму

Керівник відділу відповідального ШІ та управління LinkedIn, Сакші Джейн, повторила в листопаді, що їхні системи не використовують демографічну інформацію для видимості контенту. Компанія повідомила Bitcoin World, що вони тестують мільйони дописів, щоб забезпечити творцям "конкуренцію на рівних умовах" і щоб досвід стрічки залишався послідовним для всіх аудиторій.

Однак платформа пропонує мінімальну прозорість щодо своїх процесів навчання ШІ. Чад Джонсон, експерт з продажів, активний на LinkedIn, описав нову систему як таку, що надає пріоритет "розумінню, ясності та цінності" над традиційними метриками, такими як частота публікацій або час.

Ключові зміни, про які повідомляють користувачі:

• Зниження пріоритету лайків та репостів
• Збільшення конкуренції (публікації зросли на 15% у річному вимірі)
• Винагорода за конкретний, орієнтований на аудиторію контент
• Більший акцент на професійних інсайтах та галузевому аналізі

Не лише стать: ширше невдоволення алгоритмом

Розчарування виходить за межі гендерних питань. Багато користувачів, незалежно від статі, повідомляють про плутанину щодо нової системи:

• Шайлві Вакхулу, науковець з даних, побачила падіння переглядів з тисяч до сотень
• Один користувач-чоловік повідомив про 50% падіння залученості за останні місяці
• Інший чоловік побачив збільшення переглядів на 100%, пишучи для конкретних аудиторій
• Брандейс Маршалл зазначає, що її дописи про расу працюють краще, ніж ті, що стосуються її експертизи

Сара Дін припускає, що алгоритм може просто підсилювати існуючі сигнали: "Він може винагороджувати певні дописи не через демографічні дані автора, а тому що історично на подібний контент було більше відгуків на платформі".

Практичні поради для навігації в новому алгоритмі LinkedIn

На основі досвіду користувачів та рекомендацій LinkedIn, ось що, здається, працює:

1. Пишіть для конкретних аудиторій з чіткими професійними інсайтами
2. Зосередьтеся на ясності та цінності, а не на емоційній привабливості
3. Діліться уроками кар'єри та галузевим аналізом
4. Надавайте освітній контент про роботу та бізнес-економіку
5. Взаємодійте змістовно, а не женіться за показниками марнославства

Дилема прозорості в алгоритмах соціальних медіа

"Я хочу прозорості", — заявила Мішель, відлунюючи загальне почуття. Однак, як зазначає Брандейс Маршалл, повна прозорість може призвести до маніпуляцій з алгоритмом. Платформи ретельно охороняють свої алгоритмічні секрети, створюючи те, що експерти називають проблемою "чорної скриньки".

Фундаментальна напруга залишається: користувачі хочуть справедливих, зрозумілих систем, тоді як платформам потрібно запобігати маніпуляціям. Цей конфлікт особливо гострий у професійних мережах, таких як LinkedIn, де видимість може безпосередньо впливати на кар'єру та бізнес-можливості.

Часті запитання: розуміння суперечок навколо алгоритму LinkedIn

Що таке експеримент #WearthePants?

Експеримент #WearthePants передбачав зміну жінками своєї статі в профілі LinkedIn на чоловічу, щоб перевірити, чи показує алгоритм платформи гендерну упередженість у розповсюдженні контенту.

Хто розпочав рух #WearthePants?

Експеримент розпочався з підприємниць Сінді Галлоп та Джейн Еванс, які підозрювали, що стать може пояснити зниження залученості.

Що сказав LinkedIn про ці звинувачення?

LinkedIn стверджує, що його алгоритм не використовує демографічні дані для видимості контенту. Сакші Джейн, керівник відділу відповідального ШІ, та Тім Юрка, віце-президент з інженерії, обидва звернулися до цих проблем.

Чи може стиль написання пояснити відмінності?

Так. Учасники зазначили, що прийняття більш прямого, лаконічного стилю написання — часто пов'язаного з чоловічими комунікаційними шаблонами — корелювало зі збільшенням видимості.

Чи стикаються інші платформи соціальних медіа з подібними проблемами?

Так. Більшість платформ, залежних від LLM, стикаються з вбудованими упередженнями зі своїх навчальних даних, як зазначають експерти, такі як Брандейс Маршалл та дослідники, включаючи Сару Дін.

Висновок: тривожна реальність алгоритмічної справедливості

Експеримент #WearthePants розкриває тривожну можливість: навіть добре задумані системи ШІ можуть увічнювати упередження реального світу. Хоча LinkedIn заперечує навмисну дискримінацію, закономірності, які спостерігають численні професійні жінки, свідчать про щось системне. Чи це вбудовано в навчальні дані, підкріплено історичними шаблонами залученості, чи підсилено через стилістичні уподобання, ефект залишається тим самим: деякі голоси підсилюються, тоді як інші пригнічуються.

Оскільки ШІ стає все більш вбудованим у професійні платформи, потреба в прозорості, підзвітності та різноманітних навчальних даних стає все більш нагальною. Альтернативою є цифровий професійний ландшафт, де успіх залежить не лише від заслуг, але й від того, наскільки добре можна відповідати алгоритмічним уподобанням — уподобанням, які можуть нести упередження своїх людських творців.

Щоб дізнатися більше про останні розробки в алгоритмах ШІ та їхній суспільний вплив, ознайомтеся з нашою статтею про ключові розробки, що формують впровадження ШІ та етичні міркування на платформах соціальних медіа.

Ця публікація "Алгоритм LinkedIn розкрито: шокуюча гендерна упередженість у розповсюдженні контенту ШІ" вперше з'явилася на BitcoinWorld.