„Signal“ vadovė perspėja: dirbtinio intelekto agentai gali apeiti net saugiausią šifravimą

„Signal“ tapo aukšto lygio komunikacijos standartu, nes privatumas tampa esmine sąlyga

„Signal Foundation“ prezidentė Meredith Whittaker sako, kad aukščiausio lygio politikai, verslo vadovai ir institucijų atstovai šiandien masiškai renkasi „Signal“ ne dėl mados, o dėl būtinybės. Jos teigimu, didelės atsakomybės pareigose dirbantys žmonės puikiai supranta, kad komunikacijos privatumas yra būtina sąlyga priimant sprendimus. [1]

„Mano spėjimas – nes mes nežinome visos tiesos – yra, kad dauguma jų. Kodėl gi ne, atsižvelgiant į tai, kas yra statoma, kam ir už ką esate atsakingi? Kodėl turėtumėte tuo pasitikėti, žinodami, kad tokios sistemos gali būti pažeistos?“ – sako M. Whittaker, kalbėdama apie pasaulio lyderius ir didžiųjų bendrovių vadovus.

Ji pabrėžia, kad pasitikėti įprastomis platformomis, kurios kaupia duomenis ir gali būti pažeistos, tampa per daug rizikinga. Anot jos, „Signal“ tapo pagrindine komunikacijos infrastruktūra ne tik žurnalistams ar aktyvistams, bet ir kariuomenėms, vyriausybėms, žvalgybos institucijoms bei valdybų nariams. „Jei ne – pats laikas pradėti“, – priduria ji. [2]

„Signalgate“ iškėlė šifravimą į viešąją erdvę ir sukėlė dezinformacijos riziką

M. Whittaker pasakoja, kad vadinamasis „Signalgate“ skandalas netikėtai pavertė „Signal“ pagrindiniu naujienų herojumi. Pasak jos, pirmoji reakcija perskaičius istoriją buvo paprasta ir emocinga.

„Perskaičiau „Atlantic“ straipsnį prie virtuvės stalo, atsistojau, įsipyliau vandens, atsisėdau ir perskaičiau dar kartą, nes mano reakcija buvo – kas per velnias?“ – sako ji.

Jos teigimu, istorija iš esmės buvo apie žmogaus klaidą, kai „Signal“ buvo panaudotas vietoje saugios vyriausybinės ryšių sistemos, tačiau viešojoje erdvėje kilo pavojus, kad bus neteisingai suprasta pati technologija. „Buvo reali rizika, kad bus sukurta klaidinga istorija apie tai, jog „Signal“ yra nesaugus“, – aiškina ji.

M. Whittaker teigia, kad „Signal“ nuolat susiduria su dezinformacijos kampanijomis, kurių tikslas – atbaidyti vartotojus nuo saugių platformų ir nukreipti juos į lengviau stebimas sistemas. Dėl to bendrovė buvo priversta daug laiko skirti aiškinimui, kas yra galutinis šifravimas ir kaip jis veikia. „Jei rastumėte klaidą mūsų kriptografijoje, būtumėte samdomi bet kur“, – pabrėžia ji.

Dirbtinio intelekto agentai, pasak „Signal“ vadovės, griauna praktinį šifravimo saugumą

Didžiausią grėsmę „Signal“ vadovė šiandien mato ne pačioje kriptografijoje, o dirbtinio intelekto agentuose, integruotuose į operacines sistemas. Dirbtinio intelekto agentai – tai ne paprasti pokalbių asistentai, o sistemos, kurios veikia vartotojo vardu ir turi prieigą prie jo duomenų bei įrenginio funkcijų. Kitaip tariant, tai programos, kurios gali skaityti, rašyti ir spaudyti mygtukus telefone ar kompiuteryje taip, lyg tai darytumėte jūs patys.

Kad galėtų planuoti, rašyti ar atlikti tokius veiksmus automatiškai, tokie agentai mato informaciją jau po jos iššifravimo, todėl praktikoje gali apeiti net ir saugų galutinį šifravimą. Whittaker pabrėžia, kad šifravimas matematiškai veikia nepriekaištingai, tačiau realiame pasaulyje jis tampa bejėgis, jei sistema, kurioje veikia programa, yra pažeista.

„Galutinis šifravimas yra matematika. Jis arba veikia visiems, arba neveikia niekam“, – sako Whittaker. Ji atmeta idėją, kad galima sukurti „užpakalines duris tik geriesiems“, nes bet kokia spraga bus išnaudota priešiškų valstybių ar nusikaltėlių.

Pasak jos, DI agentai, reklamuojami kaip skaitmeniniai pagalbininkai, reikalauja itin plačių leidimų. Kad galėtų planuoti susitikimus ar bendrauti vartotojo vardu, jie turi prieigą prie kalendoriaus, naršyklės, mokėjimų ir privačių žinučių. „Tai pramuša ribą tarp programų ir operacinės sistemos. Mūsų šifravimas tuomet nebetenka prasmės“, – sako ji.

Šią riziką patvirtina ir saugumo tyrimai. Kibernetinio saugumo specialistas Jamiesonas O’Reilly nustatė atvejus, kai DI agentų valdymo sąsajos buvo viešai prieinamos internete, o jose saugomi „Signal“ įrenginių susiejimo duomenys leido perimti privačias žinutes. Tokiais atvejais šifravimas formaliai likdavo nepažeistas, tačiau praktiškai tapdavo nereikšmingas.

M. Whittaker pabrėžia, kad privatumas priklauso nuo visos sistemos saugumo, o ne vien nuo kriptografinio protokolo. „Mūsų šifravimas nebeturi reikšmės“, – apibendrina ji, kalbėdama apie DI agentus, kuriems suteikiama beveik neribota prieiga prie vartotojo duomenų.