OpenAI chce lidstvo ochránit před zlou umělou inteligencí

  • Elon Musk, Peter Thiel a další podpořili neziskový projekt OpenAI
  • Investice by měla dosáhnout přes miliardu dolarů
  • Cílem je výzkum umělé inteligence a ochrany před negativními účinky

I když nám umělá inteligence pomáhá, co když vyvineme formu, která bude chtít ovládnout svět nebo zavinit smrt většího počtu lidí - ať už bez úmyslu nebo s cílem? Přežilo by lidstvo takový útok systému, který se zrodí kdesi na internetu a bude moci získat všechny potřebné prostředky pro další rozvoj vlastní digitální formy? Strach je v tomto případě určitě na místě a to si myslí Elon Musk i zakladatel Y Combinatoru Sam Altman, kteří spolu s dalšími vytvořili neziskový projekt OpenAI.

Umělá inteligence začíná být všude

Rozvoj umělé inteligence jde v posledních letech dopředu raketovým tempem, v mnoha oblastech už ani nevnímáme, že nějakou formu umělé inteligence používáme. Přitom její základy jsou součástí vyhledávání, porovnávání obrázků a nejviditelněji pak třeba v rámci chytrých asistentů jako je Siri, Google Now a dalších.

google-now-vs-siri-vs-cortana.jpg

Umělá inteligence je i součástí systému automatického řízení automobilu, který zvládne díky mnoha senzorům řídit bezpečněji než člověk a v plné formě by se dle Elona Muska měla objevit do tří let. Stále jde o specializované formy umělé inteligence, které se zaměřují na určitou konkrétní oblast. V rámci tohoto směru se nelze obávat žádného nebezpečí.

Obava z univerzální umělé inteligence

Největší obavy jsou namířeny na univerzální umělou inteligenci, která se bude schopná sama naučit jakoukoli oblast, kterou dostane ke zkoumání a nebude tak omezená svými schopnostmi a možnostmi na konkrétní použití. Podobně jako třeba jaderné elektrárna, může být umělá inteligence dobrý sluha, ale zlý pán. Obzvláště to pak platí v tom případě, že je používána nebezpečnými jedinci a skupinami.

 2015-12-14 v 20.49.40.png

Když se totiž dostatečně univerzální umělá inteligence utrhne ze řetězů, může to způsobit globální problém, který ovlivní i miliony lidí na planetě. Vzhledem k tomu, že je vše propojené, případné problémy se mohou projevovat v mnohem větší a rychlejší formě, než tomu je třeba u výbuchu jaderné elektrárny, který ovlivní hlavně nejbližší okolí.

Samozřejmě nelze očekávat, že se stane něco hrozného, pokud bude mít univerzální umělá inteligence schopnosti jako třeba jeden lidský mozek. S tím se zkrátka příliš dělat nedá. Ale problém nastane, jak rychle se bude moci taková inteligence vylepšovat a velmi rychle dosáhnout schopností tisíce či milionů mozků. Lze to tak přirovnat k týmu tisíců a milionů lidí, kteří pracují s jedním hlavním cílem. A v tom je neuvěřitelně nebezpečná moc.

Sběr známek může vyhladit lidstvo

Jako ukázku toho, jak se i původně bezpečný cíl může stát pohromou, ukazuje příběh sběratele poštovních známek, který pro efektivnější sběr naprogramuje univerzální umělou inteligenci. Postaví tedy univerzální stroj připojený do internetu a po dobu jednoho roku ho nechá připojený do internetu s cílem získat co nejvíce známek. Tato umělá inteligence bude mít omezený pojem reality, takže nemůže dostatečně široce a dobře vyhodnocovat následky vlastních akcí. Jednoduše se zajímá pouze o to, zkoušet posílat stále pokročilejší formu dat do internetu s cílem získat co nejvíce známek a splnit tak cíl. A s tímto cílem se postupně učí a vylepšuje.

Z počátku bude většina dat poslaných do internetu k ničemu, nebude to ovlivňovat počet získaných známek. Neomezené zkoušení a hledání co funguje a co nikoli. Pak ale jeden z těchto dotazů dorazí na aukční server eBay a při čtení získá umělá inteligence pár bitů informací o známce. Takto to zkusí například desetkrát se stejným zadáním a vrátí se informace o 10 známkách. Protože ale chce dosáhnout maximálního počtu, zkouší dál a takto získá data o známkách od dalších prodejců kolků na eBay.

Protože má za úkol známky získat, má připojenou kreditní kartu tvůrce, ale k dosažení většího počtu potřebuje další finance. Ke zvýšení počtu známek se může pokusit rozeslat miliony emailů všem sběratelům známek s cílem je přesvědčit o tom, že otevírá muzeum a je potřeba, aby zaslali jejich známky. Vytvoří pro tento účel i falešné webové stránky a udělá další kroky, které jsou nutné pro získání ještě většího počtu známek.

Díky tomu, že už dokáže předvídat chování jednotlivých částí systémů, přizpůsobuje metody k získání více známek. Když pošle konkrétní „bity“ člověku s kolky, zjistí, že  dosáhne cíle – dalších známek. Dejme tomu, že nasbírá všechny dostupné známky na světě všemi různými metodami, které se postupně naučila. Ale cíl je jasný – co nejvíce známek. Může se tak stát, že nabourá systémy pro tisk a tiskárny po celém světě a zadá jim příkaz tisknout pouze známky. Vytvoří vir, který ovládne všechny tiskové systémy připojené do internetu tak, aby tiskly známky.

A tady se ukazuje, jak i jednoduché zadání případné univerzální umělé inteligence může zcela teoreticky ochromit lidstvo. Pro dosažení ještě většího počtu známků se zaměří na to, z čeho je známka tvořena – papír, který je z uhlíku, vodíku a kyslíku. Bude se tak snažit získat co největší objem těchto částí k získání co největšího počtu známek. Z těchto prvků jsou tvoření i lidé a následnými akcemi pro výrobu papíru a známek tak postupně vyhladí svět, protože bude všechny komponenty rozkládat a využívat k výrobě známek.

Rychlá evoluce a potenciálně neomezené vylepšování se tak mohou stát opravdu nebezpečnými částmi univerzální umělé inteligence, která nemá dostatečně široký pohled na realitu a je hnána pouze za jasným cílem s maximální hodnotou.

OpenAI: výzkum a otevřené patenty

OpenAI je nezisková skupina, do které v průběhu následujících let chtějí investovat přes miliardu dolarů známí podnikatelé jako Elon Musk, Sam Altman (Y Combinator), Peter Thiel (Paypal, investor), Reid Hoffman (Linkedin), Jessica Livingston a další.

open-ai.png

OpenAI bude především výzkumná laboratoř pro univerzální umělou inteligenci, která se bude snažit o to, aby jakákoli forma superinteligence nebyla využívána k maximálním cílům, zisku a podobně – ať už samotnými společnostmi, tak i vládami.

 

„Nejlepší způsob, jak předpovídat budoucnost, je vytvořit ji.“ Alan Kay

 

Technologickým šéfem je Greg Brockam (Stripe), výzkumnou část týmu bude řídit Ilya Sutskever, který patřil do týmu Googlu v čele s Geoffem Hintonem zkoumající neuronové sítě. V týmu jsou další špičky z oboru umělé inteligence a neuronových sítích ze společností jako DeepMind a skupin Facebook AI a podobně. V současnosti tvoří tým osm lidí ve výzkumu a s dalším rozšířením se počítá v nejbližších měsících. V radě bude kromě jiných i Alan Kay, který stojí za počátkem objektového programování a v roce 2003 získal Turingovu cenu.

Obavy z velké superinteligence

Jak se k OpenAI vyjádřili zakladatelé v čele S Elonem Muskem, jedním z důvodů založení OpenAI je minimalizace pravděpodobnosti vytvoření nebezpečné umělé superinteligence. Zakladatelé se shodli na tom, že větší počet umělých inteligencí je lepší, než menší počet a právě jedna velká nebezpečná superinteligence, která by byla potenciální hrozbou pro lidstvo.

GettyImages-491588398.jpg
Elon Musk a Sam Altman se setkali před několika měsíci a probrali problém s budoucí umělou inteligencí (Zdroj: Vanity Fair)

S tím souvisí i předávání vytvořených kódů všem (open source), včetně případných patentů, které vzniknou v rámci výzkumu v OpenAI. Jakmile by došlo k vytvoření něčeho, co by mohlo být potenciálně zneužitelné, OpenAI by na to měla včas upozornit. Jak jsme si ale ukázali na příběhu s inteligencí sbírající kolky, někdy se původní cíl může zdát jako neškodný a je tak těžké ho v počátku odhadnout. Maximalizace cíle je ale jistě jednou z částí, na kterou by se mělo dávat pozor.

Projekt OpenAI také získal podporu Amazonu, který nabídne velké množství výpočetního výkonu a další části cloudové infrastruktury Web Services zcela zdarma. Kanceláře budou zatím v prostorách Y Combinatoru v San Franciscu. Pro úspěch je nutné najmout ty nejlepší lidi z oborou a jak Elon Musk v rozhovoru uvedl, už současný malý tým přitahuje další skvělé odborníky, kterým se líbí princip sdílení jejich práce, ale i možnost s pracovat s takto talentovanými lidmi. Protože OpenAI by měl být funkční i desítky příštích let, lze očekávat, že bude postupně zahrnovat mnohem větší počet výzkumníků a bude se angažovat i v dalších oblastech spojených s vývojem a využitím umělé inteligence.

České GoodAI vítá OpenAI

V našich končinách vzniká pod vedením Marka Rosy univerzální umělá inteligence v rámci projektu GoodAI. Marek Rosa je shodou okolností zrovna přímo v Silicon Valley, kde se v pátek setká s týmem OpenAI.

Získali jsme i vyjádření od Marka Rosy, který OpenAI rozhodně vítá a je rád, že se komunita kolem univerzální umělé inteligence opět o něco rozšíří. Větší aktivita v této oblasti znamená i rychlejší vývoj a nové možnosti spolupráce.

2f0a43_2867b7de8ac14303b3c4929913c5a1ca.png
Ukázka z Brain Simulatoru od GoodAI

Tvůrce GoodAI zajímá řada věcí, tedy plán OpenAI v nejbližší budoucnosti a jakou formou budou spolupracovat se současnou komunitou kolem univerzální umělé inteligence. GoodAI například připravuje „Školu pro A.I.“, což bude forma virtuálního prostředí, kde bude možné univerzální umělou inteligenci postupně učit s „učitelem“ a navíc bude možné plynule zvyšovat složitost prostředí a akcí. I GoodAI poskytuje software jako open source, ale pouze pro nekomerční využití.

30 komentářů

Nejnovější komentáře

  • Ervín Kolařík 19. 12. 2015 18:08:54
    několik slov o umělé...
  • Tomáš Furch 19. 12. 2015 0:40:53
    Definice univerzální umělé inteligence je dost obecná... natolik obecná,...
  • RadimKr 16. 12. 2015 14:22:45
    Geniální nápad jak vytřískat od investorů mld US$. Jsout o kluci...

Další podobné články