Českému projektu GoodAI od Marka Rosy se úspěšně daří postupovat ve vývoji obecné umělé inteligence. Od roku 2014 se podařilo překonat již několik významných milníků a sestavit i kvalitní tým inženýrů, kteří se zabývají jak vlastnostmi samotných neuronových sítí, tak i algoritmy a matematickými problémy.
GoodAI: Česká AI má jméno a uvolňuje nástroje zdarma
V rozhovoru s Markem jsme se dostali jak k přehledu aktuálního stavu a zvládnutých věcí za poslední rok, tak i obecného pohledu na problematiku obecné umělé inteligence, která má za cíl napodobit lidský mozek, respektive člověka jako takového.
Z Brain simulatoru je Arnold simulator
Týmu GoodAI se podařilo vytvořit novou platformu Arnold simulator, která vychází z původního Brain simulatoru, který už se vyvíjí jen částečně. Hlavní rozdíl v architektuře je v tom, že Arnold simulator umožňuje vytvářet neuronové sítě, které jsou schopné velmi rychle a dynamicky růst. To je celkem nestandardní řešení oproti běžné architektuře postavené na hlubokých neuronových sítí, kde je obvykle nějaká topologie a dochází k nastavování jednotlivých vah.
Ukázka z Arnold simulatoru
Arnold simulator dokáže přidávat i ubírat velké skupiny neuronů, což je dle vyjádření Marka Rosy právě to důležité při postupném učení a získávání dovedností (skills) obecné umělé inteligence. Neuronová síť tak není omezována a může růst.
Arnold simulator zatím není dostupný, ale jakmile bude v použitelném stavu i pro ostatní, měl by být dostupný zdarma, stejně jako Brain simulator.
AI Roadmap Institute
GoodAI chce už od začátku zmapovat celou cestu vývoje, kterou bude v budoucnu nutné projít. Jaké vlastnosti má mít vytvořená obecná umělá inteligence, jaké problémy musí řešit a podobně.
Detailní soubor AI roadmapy si můžete stáhnout v PDF
Lze to přirovnat k vývoji od narozeného dítěte až k dospělému člověku s dospělým mozkem, který má určité dovednosti a schopnosti. Proces není jednoduchý, protože zahrnuje vlastnosti evoluce – některá zlepšování dovedností jsou důležitá jen v konkrétním období, nebo nejsou důležitá vůbec. Může se totiž jednat o slepou uličku nebo nevedou ke zlepšení finálních dovedností, které by měla umět daná univerzální umělá inteligence.
Marek Rosa to přirovnal k tygrovi, u kterého sice může docházet k neustálému zlepšování zubů (jsou ostřejší, svaly mají větší stisk) a rychlejšímu běhu, díky čemuž lokálně získá více potravy. V nějaké počáteční fázi přemůže člověka bez problému, ale člověk v pozdější fázi nakonec dosáhne pokroku v jiných oblastech, které dokážou porazit jak tygra, tak obecně i všechna další zvířata v jakékoli oblasti.
Cílem AI Rodmap Institue je tak prezentovat aktuální plán a důležitosti jednotlivých částí vývoje univerzální umělé inteligence a zároveň porovnávat tyto plány s dalšími týmy z celého světa. GoodAI se tak snaží v tomto směru spustit veřejnou debatu a komunikaci s týmy jako OpenAI a dalšími.
I umělou inteligenci bude nutné usměrňovat od malička
Od obecné umělé inteligence se očekává, že se například bude dobře chovat k lidem, bude vědět, co je dobré a co špatné. Nabízí se ale otázka, kdo o těchto hodnotách rozhoduje? V tomto směru nelze očekávat, že si bude inteligence učit pokusem a omylem, ale bude studovat například knihy o morálce a etice.
Jednotlivé dovednosti v průběhu vývoje obecné umělé inteligence jsou různé
Podle Marka Rosy tak lidé budou už od začátku usměrňovat vlastnosti i hlavně z toho důvodu, aby vývoj byl rychlejší a nebylo nutné zkoušet a analyzovat tak velký prostor možností.
Právě toto blízké spojení s lidmi vidí Marek jako důležité v tom, aby v budoucnu došlo k transhumanismu. I když tak půjde o obecnou umělou inteligenci, bude mít značně lidské vlastnosti, protože se bude učit i vyvíjet podobně jako člověk a bude vycházet i ze stejných informací a konceptů (učitel - rodič).
S tím souvisí i nebezpečí tvorby nějaké formy zákeřných vlastností, které celou dobu mohou být skryté, ale v nějaké době nebo při nějaké situaci se projeví natolik, že by překročily všechny „zabezpečovací“ vlastnosti. Dle Marka by se do budoucna měly vyvinout nástroje, které budou tyto slabiny odhalovat u samotného vývoje a budou tak minimalizovat takové budoucí vlastnosti.
Rozdělení týmů
GoodAI v současnosti tvoří několik týmů, které se zabývají specifickými oblastmi. Skupina Brain tvoří samotnou architekturu, tým School se zaměřuje na roadmapu a automatizované nástroje (škola pro umělé inteligence) a další skupina inženýrů pracuje na samotném Arnold a Brain simulátoru.
Součástí je i skupina, která řeší případná budoucí sociální a politická rizika, stejně tak oblasti, kde může dojít ke zneužití univerzální umělé inteligence. Zjednodušeně tvoří i obecnou roadmapu pro samotný svět, který bude obohacen o obecnou umělou inteligenci.
Za tajemstvím vesmíru
Proč Marek Rosa tohle všechno dělá? Důvod je jednoduchý – chce zjistit, jak a proč funguje vesmír. Podle Marka Rosy je inteligence obecně schopnost, jak optimalizovat vesmír a forma „ultimátní páky“, která umožní zjistit vše o něm.
Marek Rosa - šéf, zakladatel a hlavní investor GoodAI
„Věřím, že je ve vesmíru ještě stále spoustu věcí, o kterých nevíme a nejsme schopni s naším mozkem vůbec chápat, jak fungují a k čemu jsou.“ dodal Marek Rosa. Důvodem je pochopitelně omezení našeho mozku, který je připravený například pro trojrozměrné prostředí, fyzikální vlastnosti objektů v naší velikosti a podobně.
Bude mít vyspělá umělá inteligence vlastní práva?
V rozhovoru jsme se dostali k tématice práv samotné obecné umělé inteligence. Zda bude v budoucnu procházet procesem získávání vlastních práv, podobně jako to bylo v historii třeba u černochů nebo žen.
Marek Rosa vše zjednodušil do konceptu toho, že jakmile se umělá inteligence stane součástí nás v rámci různých vylepšení napojených na mozek, nanorobotů a podobně, už vlastně nebudeme řešit oddělená práva. Transhumanismus tak vše plynule vyřeší a nebude se zkoumat, zda dané rozhodnutí nebo čin udělala například biologická část našeho těla nebo už rozšířená část, protože vše bude součástí jedné entity s jedním cílem. A s tím souvisí i jedno právo.
Otázkou také je, zda bude tato postupná modifikace biologického těla dostupná všem. Jak ale můžeme sledovat i u současných technologií a myslí si to i Marek Rosa, místo skupinky vybraných lidí se nakonec nejspíše dočkají všichni. Podobně jako dnes má třeba i náčelník afrického kmene mobilní telefon, protože ho používá pro dohodnutí schůzky s odběratelem kožešin. Určitě se ale jako vždy najdou skupiny lidí, které budou žít v historii a použití novějších technologií a znalostí budou odmítat.
Spousta hloupé hmoty
I když Marek vidí příchod singularity jako reálný, není si příliš jistý nastaveným rokem kolem 2040. Podle Marka se může na cestě objevit několik zpomalujících prvků a problémů, které bude nutné nejdříve vyřešit a teprve potom dojde k dalšímu velkému skoku pro naší civilizaci.
„Když se podíváme okolo sebe a v nejbližším vesmíru, je tu samá hloupá hmota. Ani náš mozek, který je zatím nejinteligentnější konfigurace hmoty, není perfektní a lze ho nadále vylepšovat.“ popsal Marek Rosa.
K tomu lze jen dodat, že v základním pohledu jsou zde určitě fyzikální omezení jako je Planckova délka nebo rychlost světla (300 000 km/s). Tyto vlastnosti vesmíru a hmoty určují, jak malé mohou být jednotlivé logické prvky a jak daleko od sebe mohou být, aby to ještě bylo efektivní.
Jedinou možností jak překonat tyto překážky, je obejít fyzikální vlastnosti samotného vesmíru. A to rozhodně nebude jednoduché.