Рекламные алгоритмы Facebook используют распознавание расы, пола и возраста для целевой доставки спонсируемых сообщений. Об этом говорится в исследовании Северо-восточного колледжа компьютерных наук Хури.
По словам ученых, одно и то же рекламное сообщение с отличными друг от друга изображениями по-разному демонстрируется людям.
«Если вы используете в объявлении изображение темнокожего человека, вероятность его показа темнокожим пользователям значительно увеличится», — заявил один из авторов исследования Алан Мислов.
Он добавил, что реклама с женщиной с высокой долей вероятности появится в ленте у женской аудитории. При этом объявление с изображением девушки, вероятно, старгетируется на мужчин старшего возраста.
По словам Мислова, распределение сообщений происходит независимо от настроек показа рекламы. Алгоритм сам решает, какой подгруппе людей показать объявление, оценивая релевантность и предыдущий опыт взаимодействия, добавил он.
«Система должна понять: “Что мне такого сделать, чтобы заставить кого-то кликнуть на рекламу?”. В этом случае раса и пол могут предсказать вероятность перехода, поэтому алгоритм и использует их», — считает Мислов.
По словам соавтора исследования Петра Сапежински, алгоритму безразличны этническая принадлежность, гендер и возраст. Однако этим могут пользоваться рекламодатели для увеличения эффективности кампаний.
Исследователи считают, что подобная проблема частично возникла из-за отсутствия прозрачности алгоритмов. Команда потратила десятки тысяч долларов и сотни часов на настройку рекламы для выяснения особенностей работы системы. Однако среднестатистический пользователь инструментов продвижения объявлений не обладает подобными ресурсами, считают ученые.
Также исследователи заявили, что законы о недопущении дискриминации в рекламе необходимо распространить и на цифровые объявления.
«Нам нужно сделать более ясным, как работают алгоритмы, а затем дать рекламодателям возможность сказать: “Я не хочу, чтобы система доставки объявлений потенциально нарушала закон о защите гражданских прав”», — сказал Мислов.
Ранее Meta обвинили в использовании «предвзятого» алгоритма для рекламы жилья. Компания заявила о его отключении в рамках урегулирования судебного спора с Министерством юстиции США.
Напомним, в сентябре алгоритмы Facebook обвинили в «содействии» геноциду рохинджа в Мьянме.
В августе СМИ узнали, что Meta с помощью ИИ уволила 60 модераторов соцсети.
В октябре 2021 года алгоритмы Facebook обвинили в распространении дезинформации, разжигании ненависти и этнического насилия ради прибыли.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
