Marek Rosa z GoodAI: v klasického Boha nevěřím (rozhovor)

  • V rozhovoru s šéfem českého projektu GoodAI jsme se dozvěděli čerstvé novinky z vývoje
  • Co se za poslední rok podařilo a kam spěje vývoje obecné umělé inteligence
  • Budeme pro vytvořenou umělou inteligenci my ten „Bůh“?

Českému projektu GoodAI od Marka Rosy se úspěšně daří postupovat ve vývoji obecné umělé inteligence. Od roku 2014 se podařilo překonat již několik významných milníků a sestavit i kvalitní tým inženýrů, kteří se zabývají jak vlastnostmi samotných neuronových sítí, tak i algoritmy a matematickými problémy.

V rozhovoru s Markem jsme se dostali jak k přehledu aktuálního stavu a zvládnutých věcí za poslední rok, tak i obecného pohledu na problematiku obecné umělé inteligence, která má za cíl napodobit lidský mozek, respektive člověka jako takového.

Z Brain simulatoru je Arnold simulator

Týmu GoodAI se podařilo vytvořit novou platformu Arnold simulator, která vychází z původního Brain simulatoru, který už se vyvíjí jen částečně. Hlavní rozdíl v architektuře je v tom, že Arnold simulator umožňuje vytvářet neuronové sítě, které jsou schopné velmi rychle a dynamicky růst. To je celkem nestandardní řešení oproti běžné architektuře postavené na hlubokých neuronových sítí, kde je obvykle nějaká topologie a dochází k nastavování jednotlivých vah.

Klepněte pro větší obrázek
Ukázka z Arnold simulatoru

Arnold simulator dokáže přidávat i ubírat velké skupiny neuronů, což je dle vyjádření Marka Rosy právě to důležité při postupném učení a získávání dovedností (skills) obecné umělé inteligence. Neuronová síť tak není omezována a může růst.

Arnold simulator zatím není dostupný, ale jakmile bude v použitelném stavu i pro ostatní, měl by být dostupný zdarma, stejně jako Brain simulator.

AI Roadmap Institute

GoodAI chce už od začátku zmapovat celou cestu vývoje, kterou bude v budoucnu nutné projít. Jaké vlastnosti má mít vytvořená obecná umělá inteligence, jaké problémy musí řešit a podobně.

Klepněte pro větší obrázek
Detailní soubor AI roadmapy si můžete stáhnout v PDF

Lze to přirovnat k vývoji od narozeného dítěte až k dospělému člověku s dospělým mozkem, který má určité dovednosti a schopnosti. Proces není jednoduchý, protože zahrnuje vlastnosti evoluce – některá zlepšování dovedností jsou důležitá jen v konkrétním období, nebo nejsou důležitá vůbec. Může se totiž jednat o slepou uličku nebo nevedou ke zlepšení finálních dovedností, které by měla umět daná univerzální umělá inteligence.

Marek Rosa to přirovnal k tygrovi, u kterého sice může docházet k neustálému zlepšování zubů (jsou ostřejší, svaly mají větší stisk) a rychlejšímu běhu, díky čemuž lokálně získá více potravy. V nějaké počáteční fázi přemůže člověka bez problému, ale člověk v pozdější fázi nakonec dosáhne pokroku v jiných oblastech, které dokážou porazit jak tygra, tak obecně i všechna další zvířata v jakékoli oblasti.

Klepněte pro větší obrázek

Cílem AI Rodmap Institue je tak prezentovat aktuální plán a důležitosti jednotlivých částí vývoje univerzální umělé inteligence a zároveň porovnávat tyto plány s dalšími týmy z celého světa. GoodAI se tak snaží v tomto směru spustit veřejnou debatu a komunikaci s týmy jako OpenAI a dalšími.

I umělou inteligenci bude nutné usměrňovat od malička

Od obecné umělé inteligence se očekává, že se například bude dobře chovat k lidem, bude vědět, co je dobré a co špatné. Nabízí se ale otázka, kdo o těchto hodnotách rozhoduje? V tomto směru nelze očekávat, že si bude inteligence učit pokusem a omylem, ale bude studovat například knihy o morálce a etice.

Klepněte pro větší obrázek
Jednotlivé dovednosti v průběhu vývoje obecné umělé inteligence jsou různé

Podle Marka Rosy tak lidé budou už od začátku usměrňovat vlastnosti i hlavně z toho důvodu, aby vývoj byl rychlejší a nebylo nutné zkoušet a analyzovat tak velký prostor možností.

Právě toto blízké spojení s lidmi vidí Marek jako důležité v tom, aby v budoucnu došlo k transhumanismu. I když tak půjde o obecnou umělou inteligenci, bude mít značně lidské vlastnosti, protože se bude učit i vyvíjet podobně jako člověk a bude vycházet i ze stejných informací a konceptů (učitel - rodič).

S tím souvisí i nebezpečí tvorby nějaké formy zákeřných vlastností, které celou dobu mohou být skryté, ale v nějaké době nebo při nějaké situaci se projeví natolik, že by překročily všechny „zabezpečovací“ vlastnosti. Dle Marka by se do budoucna měly vyvinout nástroje, které budou tyto slabiny odhalovat u samotného vývoje a budou tak minimalizovat takové budoucí vlastnosti.

Rozdělení týmů

GoodAI v současnosti tvoří několik týmů, které se zabývají specifickými oblastmi. Skupina Brain tvoří samotnou architekturu, tým School se zaměřuje na roadmapu a automatizované nástroje (škola pro umělé inteligence) a další skupina inženýrů pracuje na samotném Arnold a Brain simulátoru.

Klepněte pro větší obrázek

Součástí je i skupina, která řeší případná budoucí sociální a politická rizika, stejně tak oblasti, kde může dojít ke zneužití univerzální umělé inteligence. Zjednodušeně tvoří i obecnou roadmapu pro samotný svět, který bude obohacen o obecnou umělou inteligenci.

Za tajemstvím vesmíru

Proč Marek Rosa tohle všechno dělá? Důvod je jednoduchý – chce zjistit, jak a proč funguje vesmír. Podle Marka Rosy je inteligence obecně schopnost, jak optimalizovat vesmír a forma „ultimátní páky“, která umožní zjistit vše o něm.

Klepněte pro větší obrázek
Marek Rosa - šéf, zakladatel a hlavní investor GoodAI

„Věřím, že je ve vesmíru ještě stále spoustu věcí, o kterých nevíme a nejsme schopni s naším mozkem vůbec chápat, jak fungují a k čemu jsou.“ dodal Marek Rosa. Důvodem je pochopitelně omezení našeho mozku, který je připravený například pro trojrozměrné prostředí, fyzikální vlastnosti objektů v naší velikosti a podobně.

Bude mít vyspělá umělá inteligence vlastní práva?

V rozhovoru jsme se dostali k tématice práv samotné obecné umělé inteligence. Zda bude v budoucnu procházet procesem získávání vlastních práv, podobně jako to bylo v historii třeba u černochů nebo žen.

Marek Rosa vše zjednodušil do konceptu toho, že jakmile se umělá inteligence stane součástí nás v rámci různých vylepšení napojených na mozek, nanorobotů a podobně, už vlastně nebudeme řešit oddělená práva. Transhumanismus tak vše plynule vyřeší a nebude se zkoumat, zda dané rozhodnutí nebo čin udělala například biologická část našeho těla nebo už rozšířená část, protože vše bude součástí jedné entity s jedním cílem. A s tím souvisí i jedno právo.

Otázkou také je, zda bude tato postupná modifikace biologického těla dostupná všem. Jak ale můžeme sledovat i u současných technologií a myslí si to i Marek Rosa, místo skupinky vybraných lidí se nakonec nejspíše dočkají všichni. Podobně jako dnes má třeba i náčelník afrického kmene mobilní telefon, protože ho používá pro dohodnutí schůzky s odběratelem kožešin. Určitě se ale jako vždy najdou skupiny lidí, které budou žít v historii a použití novějších technologií a znalostí budou odmítat.

Spousta hloupé hmoty

I když Marek vidí příchod singularity jako reálný, není si příliš jistý nastaveným rokem kolem 2040. Podle Marka se může na cestě objevit několik zpomalujících prvků a problémů, které bude nutné nejdříve vyřešit a teprve potom dojde k dalšímu velkému skoku pro naší civilizaci.

„Když se podíváme okolo sebe a v nejbližším vesmíru, je tu samá hloupá hmota. Ani náš mozek, který je zatím nejinteligentnější konfigurace hmoty, není perfektní a lze ho nadále vylepšovat.“ popsal Marek Rosa.

K tomu lze jen dodat, že v základním pohledu jsou zde určitě fyzikální omezení jako je Planckova délka nebo rychlost světla (300 000 km/s). Tyto vlastnosti vesmíru a hmoty určují, jak malé mohou být jednotlivé logické prvky a jak daleko od sebe mohou být, aby to ještě bylo efektivní.

Jedinou možností jak překonat tyto překážky, je obejít fyzikální vlastnosti samotného vesmíru. A to rozhodně nebude jednoduché.

Diskuze (11) Další článek: OWC má první dok pro nový Macbook. Nabídne konektory i čtečku SD karet

Témata článku: Umělá inteligence, Budoucnost, Startupy, Rozhovory, Strojové učení, Neuronová síť, Mozek, Perfektní znalost, Ultimátní cíl, Budoucí vlastnost, Lidský mozek, Samotný tým, Hlavní rozdíl, Simulator, Významný milník, Mark, Fyzikální vlastnost, Marko, Marek Rosa, Mar, Hluboký vesmír, Základní pohled, Lidská morálka, Rozhovor, Neustálé zlepšování



Spousta řidičů v Česku riskuje pokutu kvůli umístění držáku mobilního telefonu. Zákon hovoří jasně

Spousta řidičů v Česku riskuje pokutu kvůli umístění držáku mobilního telefonu. Zákon hovoří jasně

** Kam s telefonem v autě, které nemá palubní počítač? ** Variant držáků je celá řada, ale každý má svá specifika ** Není možné jej umístit, kam se vám zlíbí

AutoRevue.cz
LegislativaPro řidičePříslušenství
Bývalý vývojář Messengeru tvrdí, že aplikace na pozadí může vybíjet telefony. A to zcela záměrně

Bývalý vývojář Messengeru tvrdí, že aplikace na pozadí může vybíjet telefony. A to zcela záměrně

** Bývalý vývojář Meesengeru odhalil nekalé praktiky aplikace ** Na dálku může dojít ke spuštění náročných výpočetních testů ** Díky tomu může dojít k velmi rychlému vybití telefonu

Martin Chroust
BaterieMessengerAndroid
Google není jen vyhledávač: 15 užitečných funkcí, o kterých možná ani nevíte

Google není jen vyhledávač: 15 užitečných funkcí, o kterých možná ani nevíte

** Google umí kromě vyhledávání i spoustu dalších věcí ** Vybrali jsme více než 15 užitečných funkcí a schopností ** Stačí zadat do vyhledávače ta správná klíčová slova

Karel Kilián
TipyVyhledávačeGoogle
Bude to o prsa. Facebook a Instagram pořád neví, kdy jsou zobrazené bradavky porno

Bude to o prsa. Facebook a Instagram pořád neví, kdy jsou zobrazené bradavky porno

**Meta má zjednodušit pravidla a být ke všem spravedlivá **Facebook s Instagram věnují samostatný odstavec bradavkám **Pravidla ale neřeší nebinární, transsexuální a intersexuální osoby

Petr Urban
InstagramFacebookSociální sítě
Za WhatsApp se bude platit! Za předplatné dostanete funkci, která je u konkurence zadarmo

Za WhatsApp se bude platit! Za předplatné dostanete funkci, která je u konkurence zadarmo

** Bylo to jen otázkou času ** Už i WhatsApp nabízí prémiové předplatné ** Za poplatek dostanete funkci, která je u konkurence zadarmo

Martin Chroust
předplatnéWhatsAppMobilní aplikace
Návod, jak dostat maximum z Peněženky Google

Návod, jak dostat maximum z Peněženky Google

Služba Google Wallet (Peněženka Google) schlamstla před několika měsíci platební aplikaci Google Pay. Díky tomu se původní platforma rozrostla o další funkce. Je zde však i prostor pro zlepšení.

Jan Spěšný
Šedý trh s předplatným se vymyká kontrole. Spotify, Netflix nebo Disney+ můžete mít doslova za pár korun

Šedý trh s předplatným se vymyká kontrole. Spotify, Netflix nebo Disney+ můžete mít doslova za pár korun

** Sdílení účtů mezi kamarády je jen začátek ** Dnes letí nákupy předplatných v Indii nebo na Aliexpressu ** Superlevné „netflixy“ ale mohou nakonec spíš škodit

Lukáš Václavík
PředplatnéNetflixSpotify
Facebook má nejspíš vaše telefonní číslo, i když jste mu ho nikdy nedali. Tímto tajným nástrojem ho můžete smazat

Facebook má nejspíš vaše telefonní číslo, i když jste mu ho nikdy nedali. Tímto tajným nástrojem ho můžete smazat

**Meta poskytuje nástroj na vymazání telefonních čísel a e-mailových adres z Facebooku a Instagramu **V minulosti Mark Zuckebrg popřel, že by Facebook vytvářel stínové profily **Metě teď můžete sebrat klíčové iddentifikátory, pořád o vás ale nejspíš ví mnoho dalšího

Petr Urban
MetaSledováníSociální sítě