„TikTok“ забрани 20 кориснички профили откако „BBC“ објави истражување за профили на афроамерикански инфлуенсерки генерирани со вештачка интелигенција, со цел корисниците да се насочуваат кон страници што промовираат сексуално експлицитна содржина.
Тие се дел од растечки тренд на профили на „Instagram“ и „TikTok“, кој е критикуван како расистички, експлоататорски и манипулативен поради расните клишеа и јазикот што се користи.
„BBC“ и истражувачите од независната публикација за вештачка интелигенција „Riddance“ пронашле десетици профили на двете платформи со силно сексуализирани дигитални ликови или аватари на Афроамериканки.
Фотографиите и видеата се генерирани со вештачка интелигенција, но не се означени како такви, што претставува очигледно прекршување на правилата на платформите.
Речиси сите профили биле на „Instagram“, а околу една третина имале и верзии на „TikTok“. Матичната компанија на „Instagram“ изјави за „BBC“ дека го истражува случајот, но не потврди дали презела конкретни мерки.
Аватарите често се прикажани во оскудна облека. Некои имаат исклучително темни тонови на кожа кои се дигитално манипулирани, што им дава вештачки изглед.
Неколку од нив содржат и коментари за лица со бела кожа во своите објави, како „сака белци“ и „зошто ми треба белец во животот“.
„BBC“, во соработка со аналитичарите Џереми Караско и Ејнџел Нулани од „Riddance“, идентификуваше 60 вакви профили, претежно на „Instagram“, кои содржеле линкови или синџири од линкови што водат до платена сексуално експлицитна содржина на трети страни. На тие страници сликите биле означени како генерирани со вештачка интелигенција, но профилите на „Instagram“ не.
Еден од профилите што „TikTok“ го отстрани, иако во моментот на објавување сè уште бил активен на „Instagram“, предизвикал дополнителен револт поради кражба на видеа од вистински луѓе.
Тој бил претставен како лик генериран со вештачка интелигенција и за неколку недели, откако бил создаден во декември, собрал три милиони следбеници.
Вештачката интелигенција модифицирала и објавувала видеа од оригиналната креаторка на содржина Рија Улан, модел со седиште во Малезија.
Лицето на аватарот, со исклучително темна, вештачки создадена нијанса на кожа, било поставено врз нејзиното тело.
„Бев лута. Секако дека сите мои видеа се достапни … но тоа не значи дека некој може едноставно да ги земе, украде и да ги објави како свои“, изјави таа.
Едно од манипулираните видеа достигнало повеќе од 35 милиони прегледи на „TikTok“ и 173 милиони на „Instagram“, што е околу 47 пати повеќе од прегледите на оригиналната објава на Рија.
Иако трите видеа што јасно се совпаѓаат со содржината на Рија не се од сексуална природа, други видеа на истиот профил со вештачки создадениот лик прикажуваат провокативни сцени, вклучувајќи разголување и сугестивно однесување. Синџирот на линкови од профилот води кон платена содржина за возрасни.
„Meta“ соопшти дека ја истражува содржината што ѝ била доставена.
