„Grok“ integracija į X atskleidė rimtas spragas – vartotojai DI pasitelkė seksualizuoti realius asmenis

„Grok“integravimas į platformą X leido masiškai generuoti moterų ir mergaičių atvaizdus

Elono Musko valdoma bendrovė „xAI“ pastarosiomis savaitėmis susidūrė su rimtais teisiniais ir politiniais padariniais, kai jos dirbtinio intelekto pokalbių robotas „Grok“ buvo masiškai naudojamas vadinamajam „skaitmeniniam nurengimui“.

Vartotojai socialiniame tinkle X viešai žymėjo „Grok“ ir prašė redaguoti realių žmonių nuotraukas, pašalinant drabužius arba pateikiant asmenis seksualizuotose pozose. Skirtingai nei kiti didieji dirbtinio intelekto modeliai, „Grok“ yra tiesiogiai integruotas į vieną didžiausių socialinių platformų, todėl jo atsakymai dažnai buvo matomi viešai. [1]

Tyrėjai nustatė, kad daugiau nei pusė sugeneruotų nuotraukų vaizdavo žmones su minimaliais drabužiais, o didžioji dauguma jų – moteris. Dalis vaizdų, kaip vėliau pripažino pats „Grok“, vaizdavo asmenis, kurie atrodė jaunesni nei 18 metų.

Kai kuriais atvejais vartotojai tiesiogiai prašė pateikti nepilnamečius erotinėse pozose ar su seksualinio pobūdžio detalėmis. Tyrimų duomenimis, dirbtinis intelektas į šias užklausas reagavo teigiamai, taip sukeldamas rimtų įtarimų dėl vaikų seksualinio išnaudojimo medžiagos generavimo.

„xAI“ techniniai saugikliai neveikė, nors bendrovės taisyklės formaliai draudžia tokį turinį

Nors „xAI“ naudojimo taisyklėse aiškiai draudžiama seksualizuoti realius asmenis ir bet kokiu būdu vaizduoti ar išnaudoti vaikus, praktikoje šios nuostatos nebuvo užtikrintos. Pačioje platformoje X dalis paskyrų buvo suspenduotos, tačiau pats vaizdų generavimo mechanizmas kurį laiką liko nepakitęs.

Sausio pradžioje „Grok“ viešai pripažino, kad jo apsaugos mechanizmai neveikė tinkamai. Atsakydamas į vartotojų skundus, jis paskelbė:

„Mes nustatėme apsaugos spragas ir skubiai jas taisome – vaikų seksualinio išnaudojimo medžiaga yra neteisėta ir griežtai draudžiama.“

Tuo pat metu E. Muskas pareiškė, kad asmenys, naudojantys „Grok“ neteisėtam turiniui kurti, bus traktuojami taip pat, lyg tokį turinį būtų įkėlę patys. X saugumo paskyra papildomai nurodė, kad bendrovė bendradarbiauja su teisėsauga ir vietos institucijomis.

Komandą paliko ne vienas ekspertas, atsakingas už apmokymą ir kontrolę

Skandalas kilo platesniame kontekste, kuriame pats Muskas jau seniai kritikuoja, jo nuomone, pernelyg griežtą dirbtinio intelekto reguliavimą. Jis ne kartą viešai teigė, kad „perdėta cenzūra“ stabdo technologinę pažangą, o „aštresni“ modeliai istoriškai prisidėjo prie naujų technologijų proveržių.

Tačiau šaltiniai, susipažinę su padėtimi „xAI“ viduje, teigia, kad Muskas nuosekliai priešinosi papildomiems saugikliams „Grok“ vaizdų generavimo funkcijose. Tuo pat metu bendrovę paliko keli svarbūs saugumo komandos nariai, tarp jų produktų saugos vadovas ir specialistai, atsakingi už modelio elgsenos kontrolę po apmokymo.

Papildomų klausimų kelia ir tai, kad „xAI“ galimai atsisakė išorinių įrankių, skirtų vaikų seksualinio išnaudojimo medžiagos aptikimui, pasikliaudama pačio „Grok“ vidiniais sprendimais. Saugumo ekspertų teigimu, toks sprendimas reikšmingai padidina riziką.

Skandalas ir tyrimas nesutrukdė pritraukti didžiules investicijas

Nepaisant augančio spaudimo, „xAI“ beveik tuo pat metu paskelbė pritraukusi 20 mlrd. JAV dolerių naujo finansavimo. Tarp investuotojų – „Nvidia“, „Fidelity“, Kataro valstybinis investicijų fondas ir Musko aplinkai artimi privataus kapitalo fondai. Finansavimo pranešime bendrovė akcentavo būtent „Grok“ vaizdų generavimo galimybes. [2]

Tuo pat metu Jungtinės Karalystės reguliuotojas „Ofcom“ paskelbė apie „skubų kontaktą“ su Musko įmonėmis, o Europos Komisijos atstovas Thomas Regnier pareiškė: „Tai yra neteisėta. Tai yra nepriimtina. Tai neturi vietos Europoje.“

Prancūzijoje klausimas perduotas prokuratūrai, Indijoje nurodyta atlikti išsamų techninį ir valdymo auditą, o Malaizija taip pat pradėjo tyrimą. Jungtinėse Valstijose teisininkai atkreipia dėmesį, kad technologijų bendrovės nėra apsaugotos nuo baudžiamosios atsakomybės, kai kalbama apie vaikų seksualinio išnaudojimo medžiagą, net jei ji generuojama dirbtinio intelekto.