OpenAI chce lidstvo ochránit před zlou umělou inteligencí

  • Elon Musk, Peter Thiel a další podpořili neziskový projekt OpenAI
  • Investice by měla dosáhnout přes miliardu dolarů
  • Cílem je výzkum umělé inteligence a ochrany před negativními účinky

I když nám umělá inteligence pomáhá, co když vyvineme formu, která bude chtít ovládnout svět nebo zavinit smrt většího počtu lidí - ať už bez úmyslu nebo s cílem? Přežilo by lidstvo takový útok systému, který se zrodí kdesi na internetu a bude moci získat všechny potřebné prostředky pro další rozvoj vlastní digitální formy? Strach je v tomto případě určitě na místě a to si myslí Elon Musk i zakladatel Y Combinatoru Sam Altman, kteří spolu s dalšími vytvořili neziskový projekt OpenAI.

Umělá inteligence začíná být všude

Rozvoj umělé inteligence jde v posledních letech dopředu raketovým tempem, v mnoha oblastech už ani nevnímáme, že nějakou formu umělé inteligence používáme. Přitom její základy jsou součástí vyhledávání, porovnávání obrázků a nejviditelněji pak třeba v rámci chytrých asistentů jako je Siri, Google Now a dalších.

Klepněte pro větší obrázek

Umělá inteligence je i součástí systému automatického řízení automobilu, který zvládne díky mnoha senzorům řídit bezpečněji než člověk a v plné formě by se dle Elona Muska měla objevit do tří let. Stále jde o specializované formy umělé inteligence, které se zaměřují na určitou konkrétní oblast. V rámci tohoto směru se nelze obávat žádného nebezpečí.

Obava z univerzální umělé inteligence

Největší obavy jsou namířeny na univerzální umělou inteligenci, která se bude schopná sama naučit jakoukoli oblast, kterou dostane ke zkoumání a nebude tak omezená svými schopnostmi a možnostmi na konkrétní použití. Podobně jako třeba jaderné elektrárna, může být umělá inteligence dobrý sluha, ale zlý pán. Obzvláště to pak platí v tom případě, že je používána nebezpečnými jedinci a skupinami.

Klepněte pro větší obrázek

Když se totiž dostatečně univerzální umělá inteligence utrhne ze řetězů, může to způsobit globální problém, který ovlivní i miliony lidí na planetě. Vzhledem k tomu, že je vše propojené, případné problémy se mohou projevovat v mnohem větší a rychlejší formě, než tomu je třeba u výbuchu jaderné elektrárny, který ovlivní hlavně nejbližší okolí.

Samozřejmě nelze očekávat, že se stane něco hrozného, pokud bude mít univerzální umělá inteligence schopnosti jako třeba jeden lidský mozek. S tím se zkrátka příliš dělat nedá. Ale problém nastane, jak rychle se bude moci taková inteligence vylepšovat a velmi rychle dosáhnout schopností tisíce či milionů mozků. Lze to tak přirovnat k týmu tisíců a milionů lidí, kteří pracují s jedním hlavním cílem. A v tom je neuvěřitelně nebezpečná moc.

Sběr známek může vyhladit lidstvo

Jako ukázku toho, jak se i původně bezpečný cíl může stát pohromou, ukazuje příběh sběratele poštovních známek, který pro efektivnější sběr naprogramuje univerzální umělou inteligenci. Postaví tedy univerzální stroj připojený do internetu a po dobu jednoho roku ho nechá připojený do internetu s cílem získat co nejvíce známek. Tato umělá inteligence bude mít omezený pojem reality, takže nemůže dostatečně široce a dobře vyhodnocovat následky vlastních akcí. Jednoduše se zajímá pouze o to, zkoušet posílat stále pokročilejší formu dat do internetu s cílem získat co nejvíce známek a splnit tak cíl. A s tímto cílem se postupně učí a vylepšuje.

Z počátku bude většina dat poslaných do internetu k ničemu, nebude to ovlivňovat počet získaných známek. Neomezené zkoušení a hledání co funguje a co nikoli. Pak ale jeden z těchto dotazů dorazí na aukční server eBay a při čtení získá umělá inteligence pár bitů informací o známce. Takto to zkusí například desetkrát se stejným zadáním a vrátí se informace o 10 známkách. Protože ale chce dosáhnout maximálního počtu, zkouší dál a takto získá data o známkách od dalších prodejců kolků na eBay.

Protože má za úkol známky získat, má připojenou kreditní kartu tvůrce, ale k dosažení většího počtu potřebuje další finance. Ke zvýšení počtu známek se může pokusit rozeslat miliony emailů všem sběratelům známek s cílem je přesvědčit o tom, že otevírá muzeum a je potřeba, aby zaslali jejich známky. Vytvoří pro tento účel i falešné webové stránky a udělá další kroky, které jsou nutné pro získání ještě většího počtu známek.

Díky tomu, že už dokáže předvídat chování jednotlivých částí systémů, přizpůsobuje metody k získání více známek. Když pošle konkrétní „bity“ člověku s kolky, zjistí, že  dosáhne cíle – dalších známek. Dejme tomu, že nasbírá všechny dostupné známky na světě všemi různými metodami, které se postupně naučila. Ale cíl je jasný – co nejvíce známek. Může se tak stát, že nabourá systémy pro tisk a tiskárny po celém světě a zadá jim příkaz tisknout pouze známky. Vytvoří vir, který ovládne všechny tiskové systémy připojené do internetu tak, aby tiskly známky.

A tady se ukazuje, jak i jednoduché zadání případné univerzální umělé inteligence může zcela teoreticky ochromit lidstvo. Pro dosažení ještě většího počtu známků se zaměří na to, z čeho je známka tvořena – papír, který je z uhlíku, vodíku a kyslíku. Bude se tak snažit získat co největší objem těchto částí k získání co největšího počtu známek. Z těchto prvků jsou tvoření i lidé a následnými akcemi pro výrobu papíru a známek tak postupně vyhladí svět, protože bude všechny komponenty rozkládat a využívat k výrobě známek.

Rychlá evoluce a potenciálně neomezené vylepšování se tak mohou stát opravdu nebezpečnými částmi univerzální umělé inteligence, která nemá dostatečně široký pohled na realitu a je hnána pouze za jasným cílem s maximální hodnotou.

OpenAI: výzkum a otevřené patenty

OpenAI je nezisková skupina, do které v průběhu následujících let chtějí investovat přes miliardu dolarů známí podnikatelé jako Elon Musk, Sam Altman (Y Combinator), Peter Thiel (Paypal, investor), Reid Hoffman (Linkedin), Jessica Livingston a další.

Klepněte pro větší obrázek

OpenAI bude především výzkumná laboratoř pro univerzální umělou inteligenci, která se bude snažit o to, aby jakákoli forma superinteligence nebyla využívána k maximálním cílům, zisku a podobně – ať už samotnými společnostmi, tak i vládami.

 

„Nejlepší způsob, jak předpovídat budoucnost, je vytvořit ji.“ Alan Kay

 

Technologickým šéfem je Greg Brockam (Stripe), výzkumnou část týmu bude řídit Ilya Sutskever, který patřil do týmu Googlu v čele s Geoffem Hintonem zkoumající neuronové sítě. V týmu jsou další špičky z oboru umělé inteligence a neuronových sítích ze společností jako DeepMind a skupin Facebook AI a podobně. V současnosti tvoří tým osm lidí ve výzkumu a s dalším rozšířením se počítá v nejbližších měsících. V radě bude kromě jiných i Alan Kay, který stojí za počátkem objektového programování a v roce 2003 získal Turingovu cenu.

Obavy z velké superinteligence

Jak se k OpenAI vyjádřili zakladatelé v čele S Elonem Muskem, jedním z důvodů založení OpenAI je minimalizace pravděpodobnosti vytvoření nebezpečné umělé superinteligence. Zakladatelé se shodli na tom, že větší počet umělých inteligencí je lepší, než menší počet a právě jedna velká nebezpečná superinteligence, která by byla potenciální hrozbou pro lidstvo.

Klepněte pro větší obrázek
Elon Musk a Sam Altman se setkali před několika měsíci a probrali problém s budoucí umělou inteligencí (Zdroj: Vanity Fair)

S tím souvisí i předávání vytvořených kódů všem (open source), včetně případných patentů, které vzniknou v rámci výzkumu v OpenAI. Jakmile by došlo k vytvoření něčeho, co by mohlo být potenciálně zneužitelné, OpenAI by na to měla včas upozornit. Jak jsme si ale ukázali na příběhu s inteligencí sbírající kolky, někdy se původní cíl může zdát jako neškodný a je tak těžké ho v počátku odhadnout. Maximalizace cíle je ale jistě jednou z částí, na kterou by se mělo dávat pozor.

Projekt OpenAI také získal podporu Amazonu, který nabídne velké množství výpočetního výkonu a další části cloudové infrastruktury Web Services zcela zdarma. Kanceláře budou zatím v prostorách Y Combinatoru v San Franciscu. Pro úspěch je nutné najmout ty nejlepší lidi z oborou a jak Elon Musk v rozhovoru uvedl, už současný malý tým přitahuje další skvělé odborníky, kterým se líbí princip sdílení jejich práce, ale i možnost s pracovat s takto talentovanými lidmi. Protože OpenAI by měl být funkční i desítky příštích let, lze očekávat, že bude postupně zahrnovat mnohem větší počet výzkumníků a bude se angažovat i v dalších oblastech spojených s vývojem a využitím umělé inteligence.

České GoodAI vítá OpenAI

V našich končinách vzniká pod vedením Marka Rosy univerzální umělá inteligence v rámci projektu GoodAI. Marek Rosa je shodou okolností zrovna přímo v Silicon Valley, kde se v pátek setká s týmem OpenAI.

Získali jsme i vyjádření od Marka Rosy, který OpenAI rozhodně vítá a je rád, že se komunita kolem univerzální umělé inteligence opět o něco rozšíří. Větší aktivita v této oblasti znamená i rychlejší vývoj a nové možnosti spolupráce.

Klepněte pro větší obrázek
Ukázka z Brain Simulatoru od GoodAI

Tvůrce GoodAI zajímá řada věcí, tedy plán OpenAI v nejbližší budoucnosti a jakou formou budou spolupracovat se současnou komunitou kolem univerzální umělé inteligence. GoodAI například připravuje „Školu pro A.I.“, což bude forma virtuálního prostředí, kde bude možné univerzální umělou inteligenci postupně učit s „učitelem“ a navíc bude možné plynule zvyšovat složitost prostředí a akcí. I GoodAI poskytuje software jako open source, ale pouze pro nekomerční využití.

Témata článku: Technologie, Byznys, Sociální sítě, Umělá inteligence, Siri, DeepMind, Computerphile, Omezená schopnost, Technologický šéf, Zneužitelný člověk, Uhlík, Kyslík, Sam, Budoucí automobil, Chytrý asistent, Inteligence, Elon Musk, Největší nebezpečí, Hoffman, Peter Thiel, Specializovaná laboratoř, Jessica, Jasný cíl, Globální problém, Strip

30 komentářů

Nejnovější komentáře

  • Ervín Kolařík 19. 12. 2015 18:08:54
    několik slov o umělé...
  • Tomáš Furch 19. 12. 2015 0:40:53
    Definice univerzální umělé inteligence je dost obecná... natolik obecná,...
  • RadimKr 16. 12. 2015 14:22:45
    Geniální nápad jak vytřískat od investorů mld US$. Jsout o kluci...