Marek Rosa z GoodAI: v klasického Boha nevěřím (rozhovor)

  • V rozhovoru s šéfem českého projektu GoodAI jsme se dozvěděli čerstvé novinky z vývoje
  • Co se za poslední rok podařilo a kam spěje vývoje obecné umělé inteligence
  • Budeme pro vytvořenou umělou inteligenci my ten „Bůh“?

Českému projektu GoodAI od Marka Rosy se úspěšně daří postupovat ve vývoji obecné umělé inteligence. Od roku 2014 se podařilo překonat již několik významných milníků a sestavit i kvalitní tým inženýrů, kteří se zabývají jak vlastnostmi samotných neuronových sítí, tak i algoritmy a matematickými problémy.

V rozhovoru s Markem jsme se dostali jak k přehledu aktuálního stavu a zvládnutých věcí za poslední rok, tak i obecného pohledu na problematiku obecné umělé inteligence, která má za cíl napodobit lidský mozek, respektive člověka jako takového.

Z Brain simulatoru je Arnold simulator

Týmu GoodAI se podařilo vytvořit novou platformu Arnold simulator, která vychází z původního Brain simulatoru, který už se vyvíjí jen částečně. Hlavní rozdíl v architektuře je v tom, že Arnold simulator umožňuje vytvářet neuronové sítě, které jsou schopné velmi rychle a dynamicky růst. To je celkem nestandardní řešení oproti běžné architektuře postavené na hlubokých neuronových sítí, kde je obvykle nějaká topologie a dochází k nastavování jednotlivých vah.

Klepněte pro větší obrázek
Ukázka z Arnold simulatoru

Arnold simulator dokáže přidávat i ubírat velké skupiny neuronů, což je dle vyjádření Marka Rosy právě to důležité při postupném učení a získávání dovedností (skills) obecné umělé inteligence. Neuronová síť tak není omezována a může růst.

Arnold simulator zatím není dostupný, ale jakmile bude v použitelném stavu i pro ostatní, měl by být dostupný zdarma, stejně jako Brain simulator.

AI Roadmap Institute

GoodAI chce už od začátku zmapovat celou cestu vývoje, kterou bude v budoucnu nutné projít. Jaké vlastnosti má mít vytvořená obecná umělá inteligence, jaké problémy musí řešit a podobně.

Klepněte pro větší obrázek
Detailní soubor AI roadmapy si můžete stáhnout v PDF

Lze to přirovnat k vývoji od narozeného dítěte až k dospělému člověku s dospělým mozkem, který má určité dovednosti a schopnosti. Proces není jednoduchý, protože zahrnuje vlastnosti evoluce – některá zlepšování dovedností jsou důležitá jen v konkrétním období, nebo nejsou důležitá vůbec. Může se totiž jednat o slepou uličku nebo nevedou ke zlepšení finálních dovedností, které by měla umět daná univerzální umělá inteligence.

Marek Rosa to přirovnal k tygrovi, u kterého sice může docházet k neustálému zlepšování zubů (jsou ostřejší, svaly mají větší stisk) a rychlejšímu běhu, díky čemuž lokálně získá více potravy. V nějaké počáteční fázi přemůže člověka bez problému, ale člověk v pozdější fázi nakonec dosáhne pokroku v jiných oblastech, které dokážou porazit jak tygra, tak obecně i všechna další zvířata v jakékoli oblasti.

Klepněte pro větší obrázek

Cílem AI Rodmap Institue je tak prezentovat aktuální plán a důležitosti jednotlivých částí vývoje univerzální umělé inteligence a zároveň porovnávat tyto plány s dalšími týmy z celého světa. GoodAI se tak snaží v tomto směru spustit veřejnou debatu a komunikaci s týmy jako OpenAI a dalšími.

I umělou inteligenci bude nutné usměrňovat od malička

Od obecné umělé inteligence se očekává, že se například bude dobře chovat k lidem, bude vědět, co je dobré a co špatné. Nabízí se ale otázka, kdo o těchto hodnotách rozhoduje? V tomto směru nelze očekávat, že si bude inteligence učit pokusem a omylem, ale bude studovat například knihy o morálce a etice.

Klepněte pro větší obrázek
Jednotlivé dovednosti v průběhu vývoje obecné umělé inteligence jsou různé

Podle Marka Rosy tak lidé budou už od začátku usměrňovat vlastnosti i hlavně z toho důvodu, aby vývoj byl rychlejší a nebylo nutné zkoušet a analyzovat tak velký prostor možností.

Právě toto blízké spojení s lidmi vidí Marek jako důležité v tom, aby v budoucnu došlo k transhumanismu. I když tak půjde o obecnou umělou inteligenci, bude mít značně lidské vlastnosti, protože se bude učit i vyvíjet podobně jako člověk a bude vycházet i ze stejných informací a konceptů (učitel - rodič).

S tím souvisí i nebezpečí tvorby nějaké formy zákeřných vlastností, které celou dobu mohou být skryté, ale v nějaké době nebo při nějaké situaci se projeví natolik, že by překročily všechny „zabezpečovací“ vlastnosti. Dle Marka by se do budoucna měly vyvinout nástroje, které budou tyto slabiny odhalovat u samotného vývoje a budou tak minimalizovat takové budoucí vlastnosti.

Rozdělení týmů

GoodAI v současnosti tvoří několik týmů, které se zabývají specifickými oblastmi. Skupina Brain tvoří samotnou architekturu, tým School se zaměřuje na roadmapu a automatizované nástroje (škola pro umělé inteligence) a další skupina inženýrů pracuje na samotném Arnold a Brain simulátoru.

Klepněte pro větší obrázek

Součástí je i skupina, která řeší případná budoucí sociální a politická rizika, stejně tak oblasti, kde může dojít ke zneužití univerzální umělé inteligence. Zjednodušeně tvoří i obecnou roadmapu pro samotný svět, který bude obohacen o obecnou umělou inteligenci.

Za tajemstvím vesmíru

Proč Marek Rosa tohle všechno dělá? Důvod je jednoduchý – chce zjistit, jak a proč funguje vesmír. Podle Marka Rosy je inteligence obecně schopnost, jak optimalizovat vesmír a forma „ultimátní páky“, která umožní zjistit vše o něm.

Klepněte pro větší obrázek
Marek Rosa - šéf, zakladatel a hlavní investor GoodAI

„Věřím, že je ve vesmíru ještě stále spoustu věcí, o kterých nevíme a nejsme schopni s naším mozkem vůbec chápat, jak fungují a k čemu jsou.“ dodal Marek Rosa. Důvodem je pochopitelně omezení našeho mozku, který je připravený například pro trojrozměrné prostředí, fyzikální vlastnosti objektů v naší velikosti a podobně.

Bude mít vyspělá umělá inteligence vlastní práva?

V rozhovoru jsme se dostali k tématice práv samotné obecné umělé inteligence. Zda bude v budoucnu procházet procesem získávání vlastních práv, podobně jako to bylo v historii třeba u černochů nebo žen.

Marek Rosa vše zjednodušil do konceptu toho, že jakmile se umělá inteligence stane součástí nás v rámci různých vylepšení napojených na mozek, nanorobotů a podobně, už vlastně nebudeme řešit oddělená práva. Transhumanismus tak vše plynule vyřeší a nebude se zkoumat, zda dané rozhodnutí nebo čin udělala například biologická část našeho těla nebo už rozšířená část, protože vše bude součástí jedné entity s jedním cílem. A s tím souvisí i jedno právo.

Otázkou také je, zda bude tato postupná modifikace biologického těla dostupná všem. Jak ale můžeme sledovat i u současných technologií a myslí si to i Marek Rosa, místo skupinky vybraných lidí se nakonec nejspíše dočkají všichni. Podobně jako dnes má třeba i náčelník afrického kmene mobilní telefon, protože ho používá pro dohodnutí schůzky s odběratelem kožešin. Určitě se ale jako vždy najdou skupiny lidí, které budou žít v historii a použití novějších technologií a znalostí budou odmítat.

Spousta hloupé hmoty

I když Marek vidí příchod singularity jako reálný, není si příliš jistý nastaveným rokem kolem 2040. Podle Marka se může na cestě objevit několik zpomalujících prvků a problémů, které bude nutné nejdříve vyřešit a teprve potom dojde k dalšímu velkému skoku pro naší civilizaci.

„Když se podíváme okolo sebe a v nejbližším vesmíru, je tu samá hloupá hmota. Ani náš mozek, který je zatím nejinteligentnější konfigurace hmoty, není perfektní a lze ho nadále vylepšovat.“ popsal Marek Rosa.

K tomu lze jen dodat, že v základním pohledu jsou zde určitě fyzikální omezení jako je Planckova délka nebo rychlost světla (300 000 km/s). Tyto vlastnosti vesmíru a hmoty určují, jak malé mohou být jednotlivé logické prvky a jak daleko od sebe mohou být, aby to ještě bylo efektivní.

Jedinou možností jak překonat tyto překážky, je obejít fyzikální vlastnosti samotného vesmíru. A to rozhodně nebude jednoduché.

Témata článku: Rozhovory, Budoucnost, Umělá inteligence, Startupy, Strojové učení, Neuronová síť, Mozek

11 komentářů

Nejnovější komentáře

  • Jozef Kostelanský 3. 11. 2016 21:23:20
    Vždy sa trochu pousmejem nad tým, keď ľudia, ktorí si svoju existenciu...
  • ctverec F1 3. 11. 2016 19:20:50
    Není to jednoduchý úkol. Vzpomeňme třeba jak trnitou cestou museli projít...
  • Ředitel ČTÚ 3. 11. 2016 17:42:06
    Napřed je potřeba zjistit, jestli žijeme v počítačové simulaci. Na základě...
Určitě si přečtěte