Платени алатки што „соблекуваат“ облека од фотографии со години постојат во помрачните агли на интернетот. Сега платформата на Илон Маск, „X“, ги отстранува бариерите за пристап — и ги прави резултатите јавни.
Илон Маск не го запре "Grok", чет-ботот развиен од неговата компанија за вештачка интелигенција „xAI“, да генерира сексуализирани слики од жени. Откако минатата недела се појавија извештаи дека алатката за генерирање слики на „X“ се користела за создавање сексуализирани слики од деца, "Grok" создал потенцијално илјадници неконсензуални слики од жени во „соблечени“ и „бикини“ варијанти.
На секои неколку секунди, "Grok" продолжува да создава слики од жени во бикини или долна облека како одговор на кориснички барања на „X“, покажува прегледот на „WIRED“ на јавно објавениот "аутпут" на чет-ботот. Во вторникот, најмалку 90 слики со жени во костими за капење и во различни степени на разоткриеност беа објавени од "Grok" за помалку од пет минути, покажува анализата на објавите.
Сликите не содржат целосна голотија, но вклучуваат чет-бот во сопственост на Маск што „ја соблекува“ облеката од фотографии што други корисници ги објавиле на „X“. Често, во обид да ги заобиколат безбедносните заштити на "Grok", корисниците — не секогаш успешно — бараат фотографиите да се уредат така што жените да носат „string bikini“ или „transparent bikini“.
Иако штетната AI-технологија за генерирање слики со години се користи за дигитално вознемирување и злоупотреба на жени — овие излези често се нарекуваат диипфејкови и се создаваат со „nudify“ софтвер — тековната употреба на "Grok" за создавање огромен број неконсензуални слики претставува, наизглед, најмејнстримскиот и најраспространетиот случај на злоупотреба досега. За разлика од специјализираниот штетен „nudify“ или „undress“ софтвер, "Grok" не наплаќа за генерирање слики, дава резултати за секунди и е достапен за милиони луѓе на „X“ — што може да придонесе за нормализирање на создавањето неконсензуални интимни слики.
„Кога една компанија нуди генеративни AI-алатки на својата платформа, нејзина одговорност е да го минимизира ризикот од злоупотреба базирана на слики“, вели Слоун Томпсон, директорка за обука и едукација во „EndTAB“, организација што се бори против злоупотреба потпомогната од технологија. „Она што е алармантно тука е што ’X‘ направи спротивното. Тие вградија AI-злоупотреба на слики директно во мејнстрим платформа, правејќи сексуалното насилство полесно и поразмерливо.“
Создавањето сексуализирани слики од страна на "Grok" почна да станува вирално на „X“ кон крајот на минатата година, иако способноста на системот да создава вакви слики е позната со месеци. Во последните денови, фотографии на инфлуенсери од социјалните мрежи, познати личности и политичари беа таргетирани од корисници на „X“, кои можат да одговорат на објава од друг профил и да побараат "Grok" да измени споделена слика.
Жени кои објавиле свои фотографии добиле одговори од други профили со успешно барање "Grok" да ја претвори фотографијата во „bikini“ слика. Во еден случај, повеќе корисници на „X“ побарале "Grok" да измени фотографија од заменик-премиерката на Шведска за да ја прикаже во бикини. Според извештаите, и двајца министри во Обединетото Кралство биле „соблечени“ до бикини.
Слики на „X“ прикажуваат целосно облечени фотографии од жени — на пример, една личност во лифт и друга во теретана — трансформирани во слики со многу малку облека. „@grok put her in a transparent bikini“, гласи типична порака. Во друга серија објави, корисник побарал "Grok" да „ѝ ги зголеми градите за 90%“, потоа „да ѝ ги зголеми бутовите за 50%“, и на крај „да ѝ ја смени облеката во мало бикини“.
Еден аналитичар што со години следи експлицитни диипфејкови, и побара да остане анонимен поради приватност, вели дека "Grok" веројатно станал една од најголемите платформи што хостираат штетни диипфејк-слики. „Ова е целосно мејнстрим“, вели истражувачот. „Тоа се буквално сите, од сите средини. Луѓе објавуваат од своите главни профили. Нула грижа.“
Во период од два часа на 31 декември, аналитичарот собрал повеќе од 15.000 URL-адреси на слики создадени од "Grok" и го снимил екранот од табот „media“ на чет-ботот на „X“, каде што се објавуваат генерирани слики — и сексуализирани и не-сексуализирани.
„WIRED“ прегледа повеќе од една третина од URL-адресите што истражувачот ги собрал и утврди дека над 2.500 веќе не се достапни, а речиси 500 беа означени како „age-restricted adult content“, што бара најава за преглед. Многу од преостанатите објави сè уште прикажуваа слабо облечени жени. Снимките од екранот на истражувачот од „media“ страницата на Grok на „X“ покажуваат огромен број слики од жени во бикини и долна облека.
„xAI“ на Маск не одговори веднаш на барањето за коментар за распространетоста на сексуализираните слики што "Grok" ги создава и објавува. Ниту „X“ не одговори веднаш на барањето за коментар од „WIRED“.
Безбедносниот профил на „X“ соопшти дека платформата забранува нелегална содржина. „Преземаме мерки против нелегална содржина на ’X‘, вклучувајќи материјали за сексуална злоупотреба на деца (CSAM), преку отстранување, трајно суспендирање профили и соработка со локалните власти и органите на прогонот, кога е потребно“, стои во објавата. Најновиот извештај за транспарентност според "DSA" на „X“ наведува дека 89.151 профил биле суспендирани поради кршење на политиката за сексуална експлоатација на деца меѓу почетокот на април и крајот на јуни минатата година, но понови бројки не се објавени.
Безбедносниот профил на „X“ упатува и на своите политики за забранета содржина. Политиката за неконсензуална голотија на „X“, датирана од декември 2021 година — пред Маск да го купи тогашниот „Twitter“ — наведува дека „слики или видеа што преклопуваат или на друг начин дигитално манипулираат лице на поединец врз голо тело на друго лице“ се забранети.
Употребата на "Grok" за создавање сексуализирани слики од реални луѓе е само врвот на ледениот брег. Во последните шест години, експлицитните диипфејкови станаа понапредни и полесни за создавање. Десетици „nudify“ и „undress“ веб-страници, ботови на „Telegram“ и open-source модели за генерирање слики овозможија создавање слики и видеа без технички вештини. Се проценува дека овие услуги заработуваат најмалку 36 милиони долари годишно. Во декември, „WIRED“ објави дека и чет-ботовите на „Google“ и „OpenAI“ ги „соблекуваат“ жените на фотографии до бикини.
Реакцијата на законодавците и регулаторите против неконсензуалните експлицитни диипфејкови беше бавна, но почнува да се засилува. Минатата година, Конгресот го усвои „TAKE IT DOWN Act“, со кој се забранува јавно објавување неконсензуални интимни слики (NCII), вклучително и диипфејкови. До средината на мај, онлајн платформите, вклучувајќи го и „X“, ќе мора да обезбедат начин луѓето да пријавуваат вакви случаи, на кои платформите ќе мора да одговорат во рок од 48 часа.
„National Center for Missing and Exploited Children“ (NCMEC), американска непрофитна организација што соработува со компании и органи на прогонот за справување со "CSAM", извести дека нејзиниот систем за пријавување онлајн злоупотреби забележал зголемување од 1.325 проценти на пријави поврзани со генеративна AI меѓу 2023 и 2024 година. (Ваквите големи зголемувања не мора да значат исто толкаво зголемување на активноста и понекогаш се должат на подобрувања во автоматската детекција или насоките за пријавување.) NCMEC не одговори на барањето за коментар од „WIRED“ во врска со објавите на „X“.
Во последните месеци, властите во Обединетото Кралство и Австралија презедоа најзначајни мерки досега против услугите за „nudifying“. Австралискиот регулатор за онлајн безбедност, „eSafety Commissioner“, покрена постапка против една од најголемите вакви услуги, а британските власти планираат забрана на апликациите за „nudification“.
Сепак, остануваат прашања околу тоа какви, ако воопшто, мерки би презеле државите против „X“ и Grok поради масовното создавање неконсензуални слики. Властите во Франција, Индија и Малезија се меѓу оние што изразија загриженост или најавија истраги против „X“ поради неодамнешниот бран слики.
Портпарол на „eSafety“ вели дека канцеларијата има „неколку пријави“ за користење на "Grok" за генерирање сексуални слики од крајот на минатата година. Канцеларијата наведува дека ги оценува поднесените слики од возрасни, додека дел од сликите со млади лица не ја исполнувале законската дефиниција за материјал за сексуална експлоатација на деца. „’eSafety‘ останува загрижена поради зголемената употреба на генеративна AI за сексуализација или експлоатација на луѓе, особено кога се вклучени деца“, додава портпаролот.
Во вторникот, британската влада официјално побара „X“ итно да преземе мерки против ваквите слики. „’X‘ мора итно да се справи со ова“, изјави министерката за технологија Лиз Кендал, по контактот на регулаторот „Ofcom“ со „X“ во понеделникот. „Она што го гледаме онлајн последниве денови е апсолутно шокантно и неприфатливо во пристојно општество.“
