Umělá inteligence a v poslední době obzvláště část v podobě hlubokých neuronových sítí nabírá na extrémní popularitě díky tomu, že dokáže řešit dříve extrémně náročné věci, ve kterých exceloval pouze člověk a standardními způsoby je nebylo možné realizovat pomocí stroje.
OpenAI chce lidstvo ochránit před zlou umělou inteligencí
Zpracování je postavené na velkém množství dat a komplexnosti, což znamená i nutnost vysokého výpočetního výkonu. Nelze se tak divit tomu, že se velmi rychle přešlo od používání klasických obecných procesorů ke grafickým čipům, které jsou pro tento druh dat a zpracování vhodnější a výrazně efektivnější.
Intel nabízí vlastní akcelerační karty Xeon Phi, v případě výrobců grafik jako AMD a Nvidia šlo především o softwarovou podporu, která je mnohem lepší především u Nvidie. I v této oblasti je možná řada optimalizací a pro tyto účely Nvidia nabízí například vlastní knihovnu cuDNN a další nástroje pro vývojáře. Výpočetní karty a grafické karty jsou ale stále poměrně obecně zaměřené, mají různé možnosti přesnosti výpočtů a u grafických karet je architektura optimalizovaná hlavně na zpracování obrazových dat.
Google se tak rozhodl, že si vyrobí specializovaný čip, který bude určen a optimalizován přímo na umělou inteligenci v rámci TensorFlow.
TPU alias procesor pro umělou inteligenci od Googlu
Google používá strojové učení a hluboké neuronové sítě v mnoha vlastních aplikacích a službách. Ať už jde o Street View, Mapy, Fotky, Překladač, rozpoznávání hlasu, vyhledávání, Youtube a další, všude se zapojuje.
Vzhledem k tomu, že většina zpracování logiky probíhá v cloudu, respektive v datacentrech Googlu, je nutné co nejvíce optimalizovat veškeré procesy, včetně běhu umělé inteligence, kterou je nutné v čase neustále zlepšovat. I když jsou grafické karty efektivnější než procesory, architektura hlavního čipu i pamětí je zbytečně obecná.
Google pro zmíněné vlastní projekty používá knihovnu TensorFlow, kterou vyvinuli inženýři z týmu Google Brain. Aby rozšířil tento standard a umožnil ještě rychlejší vývoj, poskytl TensorFlow jako open-source, takže je dostupná pro vývojáře z celého světa. Jen v rámci Googlu tuto platformu pro strojové učení používá více než 50 týmů.
Google TPU neboli Tensor Processing Unit od Google má velikost pevného disku, aby ho bylo možné snadno integrovat v datacentrech
A právě pro TensorFlow se rozhodl Google vyvinout i specializovaný čip (jde o ASIC, nikoli programovatelný FPGA) TPU neboli Tensor Processing Unit. Protože je určen pro nasazení v datacentrech, Google počítal i s celou konstrukcí.
Hlavní čip, deska s paměťmi, konektory PCI Express, chladičem a dalšími komponenty je tak velká stejně jako klasický pevný disk. Díky tomu se velmi snadno integruje a není tolik nutné měnit konstrukce racků, protože sedí do klasických slotů pro disky.
„Lidé, kterým záleží na softwaru, by si měli dělat i vlastní hardware“ Alan Kay
Google TPU s pevně danou instrukční sadou bylo vyvinuté pro druhou generaci TensorFlow a Google ho má v datacentrech už více než rok nasazený pro zmíněné produkty a služby. TPU také umožnilo Google vyhrát proti člověku ve hře Go pomocí AlphaGo, protože bylo výkonnostně možné vyhodnotit mnohem větší počet tahů dopředu.
Výkon umožnil skok do budoucnosti umělé inteligence
Hlavní výhodou ASICu je právě specializace a optimalizace na danou aplikaci. Díky omezení přesnosti a dalším parametrům nastaveným pro TensorFlow, bylo možné řádově zlepšit efektivitu čipu v těchto výpočtech umělé inteligence i ve srovnání s grafickými čipy.
Méně tranzistorů nutných pro zpracování stejného úkolu ale naopak znamená, že je možné pomocí stejného počtu tranzistorů provést zpracování rychleji a s komplexnějšími daty. V tomto směru to Googlu umožnilo využívat výkon, který by v případě grafické karty byl k dispozici třeba až za sedm let a za vyšší cenu, což je skvělá ukázka exponenciálního vývoje.
Porovnání efektivity výkonu TPU na watt s grafickými čipy v oblasti zpracování TensorFlow
Moorův zákon totiž reflektuje technologický exponenciální růst obecně, ale s podobnými specializacemi se lze skokově v dané aplikaci dostat o spousty let kupředu oproti obecným čipům a to platí i pro nejbližší vývoj.
A v tom je právě hlavní problém, proč mnoho lidí nechápe celkový technologický exponenciální vývoj a posléze se diví, že technologie jsou k dispozici dříve, než čekali a třeba jejich práce může být během pár let nahrazena levnou umělou inteligencí.
Robotické paže od Googlu se učí sbírat věci jako člověk
Specializovaný hardware pro umělou inteligenci dovolí Googlu meziročně zefektivnit novou generaci třeba i desetkrát, zatímco o takovém posunu si obecné grafické čipy už mohou nechat jen zdát. Nvidia, AMD i Intel jsou s obecnými čipy rádi za zlepšení o nižší desítky procent, takže uvidíme, jaký rozdíl ve výkonu nabídne další generace TPU od Googlu nebo podobná řešení.
Souboj umělých inteligencí
Efektivnější systém a přístup k pokročilejší umělé inteligenci umožní Googlu být lepší v mnoha produktech a službách, než nabízí konkurence. Nejde přitom jen o náklady ale i o možnosti, které lze s takovou umělou inteligencí dělat.
Asistent Googlu umí vést dialog. Microsoft to chce taky a už škemrá o inženýry
Dnes jsou nejjednodušší představou hlasové asistentky, kde jsou vedle Google Asistent, Siri (Apple), Cortana (Microsoft), Alexa (Amazon) a dalších k dispozici i propojení na další služby. Jde však rovněž o integrované funkce a služby založené na umělé inteligence, což Google skvěle prezentoval například na nové komunikační aplikaci Allo nebo samotném Asistentu, který dokáže vést přirozený dialog a chápat kontext v mnohem větší šíři, podobně jako člověk.
Google AlphaGo zvítězil proti člověku v Go díky rackům se spoustou TPU zapojených do společného výpočtu
Je jasné, že specializovaný hardware zaměřený na umělou inteligenci budou chtít i další zmínění hráči, což by mohl být problém pro Nvidii, pokud se rychle nepřizpůsobí trhu a nevyvine například vlastní řešení připravené přímo pro tento trh. Grafické výpočetní karty totiž přestanou být takovým lákadlem pro využití trénování hlubokých neuronových sítí, což by vedlo ke snížení příjmů Nvidie z této oblasti.
Nvidia: strojové učení není segment, je to budoucnost všeho
Sama Nvidia ale oznámila, že strojové učení je budoucnost všeho, takže uvidíme, jestli se specializovaného hardwaru v budoucnu dočkáme, třeba ve spojení s oddělenou knihovnou přímo od Nvidie.
Google v tomto směru používá stejnou strategii jako v minulosti, uvolnil vlastní platformu pro umělou inteligence zdarma pro všechny a tím si s velkou pravděpodobností zajistí, že bude nejrozšířenější a nejoblíbenější mezi vývojáři. To znamená, že na ní budou vývojáři stavět vlastní aplikace a celý ekosystém se rozroste.
Zatím není jasné, zda Google plánuje hardware v podobě vlastního TPU prodávat, v současnosti mu to dává velkou konkurenční výhodu. I když by z prodeje hardwaru mohl mít celkem slušné zisky, spíše bychom mohli očekávat „Brain as a Service“ tedy pronájem výkonu TPU v cloudu.
V současnosti jde o serverový hardware, ale lze si představit, že by Google mohl navrhnout vlastní mobilní akcelerátory lokální umělé inteligence v jednotlivých zařízeních. To by se hodilo pro nasazení jak v mobilních telefonech, tak i v tabletech nebo zařízeních pro rozšířenou realitu. Úsporný model by si určitě našel místo i v automobilu bez řidiče, který Google rovněž vyvíjí.
V roce 2030 bude prý 400 milionů lidí používat sdílená auta bez řidiče
V oblasti mobilních neuronových akcelerátorů už je vidět trakce, objevily se řešení například v podobě Fathom nebo Zeroth.
Teprve tedy uvidíme, jaké budou nejrozšířenější „mozky“ a jak se trh rozdělí a vyvine. Google v tomto případě ukazuje, že umí software i hardware a zvládne vše reálně používat rychleji než konkurence. Tím ukazuje Applu a dalším technologickým velikánům (nesmíme zapomínat ani na Facebook), že v této etapě souboje umělých inteligencí budou mít velmi náročného protivníka.
Fathom: úsporný neuronový akcelerátor do USB
Qualcomm připraví vývojářské nástroje pro svůj mobilní A.I. čip Zeroth
