Vtipkate vprašanje, počakate nekaj sekund in na zaslonu se začne izpisovati odgovor. Pri uporabi umetne inteligence običajno opazite predvsem hitrost, kakovost odgovora in omejitve naročnine. V ozadju pa mora nekdo plačati računalniško opremo, elektriko in prenos podatkov. Prav v ta del posla zdaj skupaj posegata Amazon in Qualcomm, ki sta 8. septembra napovedala večgeneracijsko sodelovanje pri razvoju prilagojenih čipov za podatkovne centre z umetno inteligenco.
Poudarki:
- Amazon in Qualcomm bosta sodelovala pri čipih za izvajanje umetne inteligence ter hitrih optičnih povezavah med sistemi.
- V ospredju je učinkovitejše odgovarjanje že naučenih modelov, ki pri vsakodnevni uporabi ustvarja ponavljajoče se računalniške stroške.
- Napoved še ne prinaša cenejših naročnin ali datuma, ko bodo uporabniki občutili spremembe.
Amazon in Qualcomm ciljata na delo, ki se začne po učenju modela
Pri umetni inteligenci pogosto največ pozornosti dobijo novi modeli: kaj znajo, kako dobro rešujejo naloge in koliko je stal njihov razvoj. Toda z dokončanim učenjem se računalniški stroški ne končajo.
Ko že naučen model povzame dokument, prevede besedilo ali pripravi odgovor, izvaja tako imenovano inferenco. Izraz opisuje uporabo modela na novih podatkih. Učenje oblikuje njegove sposobnosti, inferenca pa jih uporabi pri konkretni nalogi.
Razliko si lahko predstavljamo ob orodju za povzemanje poslovnih dokumentov. Razvoj modela je ena faza. Vsakokrat, ko zaposleni naloži novo poročilo in zahteva povzetek, pa mora sistem dokument obdelati ter ustvariti nov rezultat. Ta druga faza se ponavlja z uporabo storitve.
Pri ponudniku zato ni dovolj vprašanje, ali model zmore pripraviti dober odgovor. Pomembno je tudi, koliko takšnih odgovorov lahko zagotovi, kako dolgo uporabniki čakajo in koliko ga obdelava stane.
Novo partnerstvo je usmerjeno prav v ta del infrastrukture.
Zakaj je lahko pomembnejša učinkovitost kot najvišja zmogljivost
Za uporabnika je hitrejši čip pogosto sinonim za boljši računalnik. Pri velikih podatkovnih centrih je računica širša: veliko šteje, koliko uporabnega dela sistem opravi glede na porabo energije in stroške delovanja.
Ponazorimo s preprostim, izmišljenim primerom. Če bi ponudnik strošek obdelave posamezne zahteve zmanjšal za desetino, pri enem kratkem pogovoru razlika ne bi bila posebej opazna. Pri milijonih zahtev pa bi enaka izboljšava lahko bistveno spremenila stroške storitve.
To še ne pomeni, da bi se naročnina samodejno pocenila. Ponudnik bi lahko prihranek namenil večjemu številu dovoljenih zahtev, zahtevnejšim funkcijam, širitvi zmogljivosti ali višji marži.
Prav zato so obljube o »cenejši umetni inteligenci« brez konkretnega cenika prezgodnje. Učinkovitejša infrastruktura ustvari možnosti, poslovna odločitev pa določi, kaj od njih dobi uporabnik.
Za prihodnje izdelke bo pomembno tudi, kako se obnesejo pri dejanskih nalogah. Sistem, ki je učinkovit pri eni vrsti obdelave, ni nujno najboljša izbira za vse modele in vse načine uporabe.
V dogovoru niso samo procesorji
Qualcomm je potrdil sodelovanje pri prilagojenih čipih za inferenco in pri optičnih povezavah, ki segajo do razreda 1,6 terabita na sekundo. Gre za povezovanje znotraj infrastrukture podatkovnih centrov, ne za napoved hitrosti domačega interneta.
Zakaj je povezovanje sploh tako pomembno? Računske enote morajo pravočasno dobivati podatke. Če prenos postane ozko grlo, sama dodatna računska moč ne reši celotne težave.
Predstavljajte si več delovnih skupin, ki skupaj pripravljajo obsežen projekt. Če vsaka hitro opravi svoj del, nato pa dolgo čaka na gradivo druge skupine, celoten projekt napreduje počasi. Podobno lahko pri računalniški infrastrukturi učinkovitost omejuje premikanje podatkov med njenimi deli.
Qualcomm je že ob junijski predstavitvi podatkovne platforme Dragonfly poudarjal povezavo med računanjem, pomnilnikom, povezljivostjo in porabo energije. Septembrska napoved z Amazonom se zato umešča v širšo strategijo podjetja za podatkovne centre.
Sodelovanje vključuje še drugo smer: Qualcomm namerava razširiti uporabo Amazonove infrastrukture AWS pri načrtovanju čipov, s ciljem skrajšati razvojne cikle.
Podjetje iz sveta telefonov želi večjo vlogo v ozadju storitev
Številni uporabniki Qualcomm poznajo predvsem po platformah Snapdragon. Tokratna zgodba kaže drugačen del njegovih ambicij: razvoj infrastrukture, ki je uporabnik ne kupi neposredno, vendar jo uporablja prek spletnih storitev.
Junija predstavljeni načrt Dragonfly vključuje strežniške procesorje, pospeševalnike za inferenco in rešitve za povezovanje. Qualcomm pri njem poudarja predvsem učinkovitost izvajanja modelov in obravnavo ozkih grl pri pomnilniku.
Pomembno pa je ločiti ta širši načrt od današnjega dogovora. Iz objave ni mogoče sklepati, da bo Amazon uporabljal prav vsak izdelek iz družine Dragonfly, niti da zanj veljajo vsi roki, navedeni ob junijski predstavitvi.
Prilagojeni čipi so zanimivi zato, ker jih lahko razvijalci načrtujejo okoli konkretnih potreb naročnika. Tak pristop zahteva tesno sodelovanje med strojno in programsko opremo. Rezultat bo zato treba ocenjevati kot celoten sistem, ne zgolj po eni številki v predstavitvi procesorja.
Za Qualcomm je partnerstvo tudi priložnost, da svoje načrte preizkusi ob zahtevah velikega ponudnika oblačnih storitev.
Kaj bi lahko občutili uporabniki v Sloveniji?
Za posameznika v Sloveniji današnja napoved ne zahteva nobenega ukrepa. Ni treba zamenjati telefona, računalnika ali aplikacije. Gre za spremembe v infrastrukturi ponudnikov.
Možni učinki bi bili posredni. Če bi učinkovitejši sistemi ponudnikom omogočili obdelavo več zahtev z enakimi sredstvi, bi se to lahko pokazalo v bolj dostopnih funkcijah ali večjih omejitvah uporabe. Toda to je razlaga možnega razvoja, ne napoved konkretne ugodnosti.
Podobno velja za slovensko podjetje, ki uporablja umetno inteligenco za obdelavo dokumentov ali podporo strankam. Zanj bo odločilen dejanski strošek storitve pri njegovi obremenitvi, skupaj s kakovostjo rezultatov in odzivnostjo.
Pri izbiri ponudnika zato oznaka novega čipa sama zase pove malo. Koristnejši preizkus je konkreten: kako sistem obdela dokumente podjetja, koliko časa potrebuje in kakšen račun ustvari pri običajnem obsegu dela.
Kaj v napovedi še manjka
Objava ne vsebuje konkretnega datuma uvedbe skupnih čipov, njihovega cenika ali neodvisnih meritev zmogljivosti. Cilje glede učinkovitosti je zato treba razumeti kot razvojno usmeritev.
Naslednji pomembni podatki bodo precej manj zveneči od same napovedi partnerstva: kdaj bodo sistemi na voljo, katere naloge bodo podpirali in kako se bodo obnesli v primerljivih preizkusih.
Za uporabnika bo uspeh viden predvsem v praksi. Ali bo zahtevnejša naloga končana hitreje? Bo mogoče za isti denar obdelati več dokumentov? Bodo omejitve manj moteče?
Amazon in Qualcomm sta potrdila, da želita izboljšati infrastrukturo za takšno uporabo. Kolikšen del izboljšav bo prišel do uporabnikov, pa bodo pokazale konkretne storitve in njihove cene.
