Google je predstavil novo razvojno fazo odprtokodnega projekta HEIR, prevajalnika za homomorfno šifriranje, ki omogoča izvajanje izračunov in modelov umetne inteligence neposredno nad šifriranimi podatki. Strežniku tako podatkov pred obdelavo teoretično ni treba dešifrirati. Google želi z orodjem tehnologijo, ki je bila dolgo predvsem domena kriptografov in raziskovalcev, približati običajnim razvijalcem – vendar ostaja pomembna omejitev: takšna obdelava je še vedno bistveno zahtevnejša od dela z nezaščitenimi podatki.
Poudarki:
- Google HEIR lahko obstoječe modele AI prilagodi tako, da računajo neposredno nad šifriranimi vhodnimi podatki.
- Strežnik pri homomorfnem šifriranju za izvedbo izračuna ne potrebuje dostopa do uporabnikovih podatkov v berljivi obliki.
- Največja ovira ostajata zmogljivost in cena, saj je takšno računanje precej zahtevnejše od običajnega izvajanja modelov AI.
Ko uporabnik danes pošlje podatke modelu umetne inteligence v oblaku, se pojavi temeljno vprašanje zasebnosti. Podatke je mogoče šifrirati med prenosom in med shranjevanjem, toda strežnik jih mora pri običajnem računanju praviloma nekje dešifrirati, da jih lahko obdela.
Prav na tej točki želi Google HEIR spremeniti običajen model.
Homomorfno šifriranje omogoča matematične operacije neposredno nad šifriranimi podatki. Strežnik dobi neberljivo šifrirano vsebino, nad njo opravi zahtevan izračun in uporabniku vrne prav tako šifriran rezultat. Šele uporabnik z ustreznim ključem rezultat pretvori nazaj v berljivo obliko.
Za ponudnika storitve to pomeni, da lahko opravi računsko delo, ne da bi moral poznati vsebino podatkov, ki jih obdeluje.
To je precej drugačen koncept od klasičnega šifriranja.
AI bi lahko analiziral podatke, ki jih ponudnik nikoli ne vidi
Google kot enega od primerov navaja priporočilni sistem.
Predstavljajte si storitev, ki želi uporabniku priporočiti vsebino na podlagi njegovih osebnih značilnosti in zgodovine uporabe. Običajen sistem mora te podatke obdelati v obliki, ki jo lahko model bere.
Pri homomorfnem šifriranju uporabnik pošlje šifrirane podatke. Model nad njimi izvede izračun, ponudnik storitve pa med postopkom ne dobi dostopa do prvotne vsebine.
Podobna logika bi bila zanimiva predvsem tam, kjer so podatki posebej občutljivi:
- medicina in zdravstvena dokumentacija,
- bančništvo in finančne transakcije,
- analiza poslovnih podatkov,
- odkrivanje prevar,
- priporočilni sistemi,
- varnostno preverjanje podatkov,
- modeli AI, ki uporabljajo zasebne uporabniške informacije.
Tehnologija zato ni zanimiva samo kot še ena oblika šifriranja. Omogoča drugačen način zasnove storitev v oblaku: sistem lahko opravi nalogo, ne da bi upravljavec storitve nujno dobil dostop do uporabnikovih vhodnih podatkov.
Zakaj tega že ne uporablja vsak ponudnik AI?
Ker ima homomorfno šifriranje zelo visoko računsko ceno.
Računanje nad šifriranimi vrednostmi je bistveno zahtevnejše od računanja nad običajnimi številkami. Kriptografske operacije lahko zahtevajo veliko več pomnilnika, procesorskega časa in energije. Prav zmogljivost je že leta ena glavnih ovir širši uporabi popolnoma homomorfnega šifriranja.
Google sam priznava, da ima tehnologija nezanemarljiv dodatni strošek. Njegov argument pa je, da se ta strošek zmanjšuje dovolj hitro, da se problem postopoma spreminja iz vprašanja »ali je to sploh izvedljivo« v vprašanje »koliko smo za dodatno zasebnost pripravljeni plačati«.
To je pomembna razlika.
Homomorfno šifriranje še ni tehnologija, s katero bi bilo smiselno vsak pogovor z ogromnim generativnim modelom samodejno izvajati v popolnoma šifrirani obliki.
Za manjše in jasno omejene modele oziroma specifične naloge pa postaja vse bolj realistično.
HEIR želi odstraniti še drugo oviro: potrebovali ste kriptografa
Hitrost ni edina težava.
Programiranja za homomorfno šifriranje ni mogoče preprosto obravnavati kot običajno programsko nalogo. Razvijalec mora upoštevati način predstavitve podatkov, dovoljene matematične operacije, rast šuma v šifriranih vrednostih in posebnosti posameznega kriptografskega sistema.
Google je HEIR začel razvijati prav zato, da bi zmanjšal to kompleksnost.
Ime pomeni Homomorphic Encryption Intermediate Representation. Gre za odprtokodno prevajalsko infrastrukturo, zgrajeno na sistemu MLIR, ki razvijalcem omogoča prevajanje običajnih programov in modelov v obliko, primerno za homomorfno šifriranje.
Google opisuje dolgoročni cilj precej ambiciozno: razvijalec naj bi lahko v prihodnosti obstoječi model, ki dela z nezaščitenimi podatki, čim bolj avtomatizirano pretvoril v model, ki obdeluje šifrirane vhodne podatke.
To bi lahko bilo pomembnejše od izboljšanja hitrosti same kriptografije.
Če za uvedbo tehnologije podjetje potrebuje skupino strokovnjakov za napredno kriptografijo, bo uporaba vedno omejena. Če lahko večino kompleksnosti prevzame prevajalnik, postane tehnologija dosegljiva bistveno širšemu krogu razvijalcev.
HEIR podpira več različnih kriptografskih pristopov
Google HEIR ni zasnovan okoli enega samega sistema homomorfnega šifriranja.
Projekt želi delovati kot skupna plast med programom razvijalca, različnimi kriptografskimi shemami, programskimi knjižnicami in prihodnjimi strojnimi pospeševalniki. Raziskovalni članek o HEIR opisuje cilj podpore najpomembnejšim metodam homomorfnega šifriranja in možnosti primerjanja različnih optimizacij znotraj iste infrastrukture.
Trenutna orodja med drugim omogočajo uporabo z odprtokodnima zaledjema OpenFHE in Lattigo, razvijalci pa lahko HEIR uporabljajo tudi prek paketov za Python ali ga sestavijo neposredno iz izvorne kode.
Google sodeluje tudi s podjetji, ki razvijajo specializirane pospeševalnike za homomorfno šifriranje, med njimi Belfort, Niobium, Cornami in Optalysys. Podjetje pričakuje, da bodo namenski čipi v prihodnje dodatno zmanjšali zamike pri takšnem računanju.
Zakaj lokalna umetna inteligenca ne reši istega problema?
Najpreprostejša rešitev za zasebnost je pogosto izvajanje modela neposredno na telefonu ali računalniku.
Če podatki nikoli ne zapustijo naprave, jih ponudniku v oblaku sploh ni treba poslati.
Toda lokalno izvajanje ima dve omejitvi. Naprava ima precej manj računske zmogljivosti kot podatkovni center, ponudnik pa mora svoj model oziroma pomembne dele programske opreme dostaviti uporabnikovi napravi.
Pri komercialnih modelih je lahko slednje težava tudi zaradi zaščite intelektualne lastnine. Google izrecno omenja, da lahko lokalno izvajanje zahteva razkritje modela, ki ga ponudnik ne želi distribuirati.
Homomorfno šifriranje ponuja tretjo možnost:
podatki ostanejo kriptografsko skriti, model pa še vedno teče na infrastrukturi ponudnika.
To ga potencialno postavlja nekam med klasični oblak in popolnoma lokalno AI.
Posebej zanimivo bi lahko postalo v zdravstvu in financah
Največji potencial ima HEIR tam, kjer podjetja danes ne morejo preprosto združiti podatkov zaradi regulative, poslovne zaupnosti ali tveganja razkritja.
Bolnišnica bi lahko na primer želela uporabiti zunanji model za določeno analizo, ne da bi ponudniku razkrila vsebino zdravstvenih podatkov. Finančna institucija bi lahko na podoben način uporabljala zunanjo storitev za analizo transakcij.
To ne pomeni, da homomorfno šifriranje avtomatično rešuje vse zahteve glede zasebnosti ali regulative. Še vedno ostajajo vprašanja upravljanja ključev, metapodatkov, pravilne implementacije, varnosti končnih naprav in tega, kaj razkriva sam rezultat izračuna.
Toda zaščita podatkov med samim računanjem odpravlja eno najtežjih točk tradicionalne oblačne infrastrukture.
Google HEIR še ni čarobno stikalo za zasebni ChatGPT
Pri novi tehnologiji je zato pomembno ločiti dolgoročno možnost od tega, kar je uporabno danes.
Google ni predstavil novega potrošniškega izdelka, pri katerem bi lahko uporabnik preprosto vključil nastavitev »homomorfno šifriranje«. HEIR je predvsem odprtokodno razvojno orodje in raziskovalna infrastruktura.
Prav tako Google ne trdi, da lahko sedanji veliki generativni modeli v celoti delujejo nad šifriranimi podatki z enako hitrostjo in ceno kot danes.
Pomemben je predvsem smer razvoja.
Današnje storitve zasebnost pogosto rešujejo tako, da uporabniku obljubijo, kako bodo ravnale z njegovimi podatki. Homomorfno šifriranje ponuja drugačen ideal: storitev podatkov sploh ne more prebrati, vendar jih kljub temu lahko obdela.
Če bodo prevajalniki, kot je HEIR, in specializirani čipi dovolj zmanjšali stroške takšnega računanja, bi lahko to postopoma spremenilo način, kako bodo zgrajene nekatere najbolj občutljive storitve umetne inteligence.
In to je precej večja sprememba od še enega hitrejšega modela AI.
