Vývoj umělé inteligence (AI) – stroje naprogramované na provádění úkolů, které obvykle vyžadují lidskou inteligenci – brzy umožní, aby nastaly dramatické změny jak na našich pracovištích, tak i ve volném čase.

V letošním roce přední představitel Oxfordské univerzity Michael Wooldridge varoval poslance, že AI by se mohla „zvrhnout“ a že stroje se brzy mohly stát tak složitými, že inženýři, kteří je vytvářejí, už jim nebudou schopni porozumět, ani nebudou moci předvídat, jak fungují.

Robot AlphaZero se sám naučil hrát šachy za pouhé čtyři hodiny a velmistra porazil tahy, které ještě nikdo, za posledních 1500 let dlouhou historii hraní šachů, neviděl.

Ano, je to znepokojující, avšak „historicky“ nový vývoj činí z nepředvídatelných rozhodnutí strojů s AI tím posledním, s čím si dělat starosti. A všechno to začalo jednou šachovou partií.

AlphaZero, počítačový program s umělou inteligencí, se tento měsíc osvědčil jako nejlepší světový šachový šampion, který se v šachovém maratonu střetl s předchozím držitelem titulu, dalším AI systémem zvaným Stockfish 8.

Pouze tento fakt asi nikoho, kdo není tak trochu nerd, šachový nadšenec nebo počítačový geek, příliš nevzruší.

Co však činí inteligenci AlphaZero děsivou je to, že se šachy naučil sám za pouhé 4 hodiny. To jediné, co měl k dispozici, byla pravidla této hry a instrukce k tomu, aby se naučil jak vyhrát pomocí hry „sám proti sobě“.

Tímto způsobem asimiloval stovky let šachových poznatků a taktik. Následně však začal překonávat všechny dosud známé lidské vědomosti o této tradiční hře.

V těchto 240 minutách tréninku se program nejen naučil, jak hrát, ale vyvinul taktiky, které jsou nepochybně zcela inovativní – a odhalil tak svoji překvapivou schopnost vyzrát na lidskou inteligenci. Některé z jeho vítězných tahů nebyly nikdy předtím zaznamenány, navzdory tomu, že se lidské mozky touto hrou zabývají již 1500 let.

Použít svého krále jako útočníka? Bezprecedentní. Ale AlphaZero se jej naučil ovládat s nemilosrdnou logikou.

Garry Kasparov, šachový velmistr, který byl v roce 1997 poražen superpočítačem Deep Blue, kterému byly naprogramovány ty nejlepší tahy, řekl: „Schopnost strojů překonat staletí lidských znalostí…je převratný nástroj, který změní svět.“

Anglický šachový velmistr Simon Williams vtipkoval: „AlphaZero 6. prosince 2017 převzal žezlo šachového světa. Konečně vyřešil tu hru a definitivně tak zotročil lidskou rasu jako domácí mazlíčky.“

S širších důsledků skutečně mrazí, vysvětlím proč.

AlphaZero se zrodil v Londýně, je dědictvím britské společnosti zvané DeepMind, která vyvíjí počítačové programy, které se dokáží učit. V roce 2014 byl odkoupen společností Google za 400 milionů liber.

Tento komplexní druh programování, který představuje AlphaZero, lze jednoduše popsat jako algorytmus – soubor matematických instrukcí či pravidel, které dokáží řešit problémy a nalézat na ně odpovědi.

Čím více dat umělá inteligence, jako je AlphaZero, zpracovává, tím více se toho učí – přeprogramuje se s ohledem na nově nabyté vědomosti.

Díky tomu se jeho schopnost řešení problémů stává stále silnější a silnější, násobí svoji inteligenci takovou rychlostí a na takové úrovně, které jsou daleko za možnostmi lidského mozku. V důsledku toho AI není omezena hranicemi lidského myšlení, což ostatně dokázal i zmiňovaný úspěch v šachové partii.

Skutečný účel takového druhu umělé inteligence však daleko přesahuje hraní stolních her proti jiným krabicím z křemíkových čipů. Již začíná rozhodovat o životě či smrti ve světě špičkových technologií diagnostiky rakoviny.

Tento systém s AI je testován v nemocnicích NHS v Londýně, včetně nemocnice University College London Hospital v Londýně (UCLH) a Moorfields Eye Hospital.

V UCLH je vyvíjen systém, v němž by umělá inteligence, vyvinutá společností DeepMind, analyzovala skenová vyšetření pacientů s nádory hlavy a krku. Toto onemocnění postihuje ročně ve Velké Británii více než 11 000 lidí.

Odborníci společnosti Google se domnívají, že by se AI měla naučit číst tyto scany rychleji a přesněji než kterýkoli člověk, díky tomu bude možné zaměřit ozařování mnohem přesněji a pouze na nádory. Zároveň tak bude minimalizováno poškození zdravých tkání mozku a krku. To, co v současné době trvá lékaři a radiologům čtyři hodiny, může AI učinit za méně než hodinu.

V Moorfields bude umělá inteligence od DeepMind analyzovat asi 3 000 očních skenů, které se každý týden provádějí. V současné době může interpretovat výsledky pouze hrstka odborníků, což může mít za následek zpoždění léčby. Předpokládá se, že AI bude schopna identifikovat problémy na skenech rychleji.

Zdánlivě to vypadá jako výhra jak pro pacienty, tak i pro NHS. Ale existují velké problémy. Prvním z nich je ochrana osobních údajů – pokus londýnské nemocnice zahrnuje předání skenů více než milionu pacientů NHS společnosti Google.

To zapnulo alarm všem aktivistům bojujícím za ochranu soukromí a akademikům. Dr. Julia Powlesová, která pracuje na Ústavu práva a technologií na univerzitě v Cambridge, říká: „Společnost Google získává volný přístup do NHS, na základě neprokázaných slibů efektivity a inovací“.

Doktor Powles dodává: „Nevíme – a není v našich silách to zjistit – co Google a DeepMind skutečně s údaji od pacientů NHS dělají.“

Společnost Google se pokoušela vyřešit kritiku svého projektu prohlášením, že veškerý přístup k datům bude podléhat kontrole ze strany NHS, ale jedná se o organizaci, která se již dlouho potýká s obviněním ze zneužívání dat veřejnosti pro obchodní účely.

Ve Spojeném království čelí Google soudní žalobě kvůli tomu, že protiprávně získal datao 5,4 milionech uživatelích Spojeného království tím, že obcházel nastavení ochrany osobních údajů na iPhonech. Skupina zvaná Google You Owe Us tvrdí, že Google umístil do telefonů uživatelů „cookies“ (ty se využívají pro shromažďování informací ze zařízení pro poskytování reklam na míru) bez jejich vědomí či svolení.

Google na to zareagoval takto: „To není žádná novinka. Nevěříme, že to má jakýkoli dopad a za tím si budeme stát.“

Zapojení superinteligentního algoritmu AI do rozhodovacích procesů NHS přitom přináší nekonečné množství znepokojujících otázek .

Je veřejným tajemstvím, že NHS skutečně poskytuje přístup k péči prostřednictvím čekacích seznamů, počtu postelí a omezení dostupnosti léků a léčby – protože nikdy nebude mít dostatek finančních prostředků, aby každému poskytla potřebnou službu.

Drsná skutečnost spočívá v tom, že někteří lidé, kteří léčbu potřebují a zaslouží si ji, ji zkrátka nedostanou

Drsnější alternativou je být chladně racionální v rozhodování, komu bude a komu nebude léčba poskytnuta. Z hlediska nákladu by bylo nejefektivnější vyhlazovat nevyléčitelně nemocné nebo dokonce chronicky nemocné pacienty, nebo nemocné děti. Ušetřené prostředky by byly lépe vynaloženy léčbu pacientů, kterým by se mohlo navrátit plné zdraví – a znovu tak mohli žít produktivní a daňově výdělečné životy.

To je samozřejmě přístup, který je pro civilizované společnosti ne zcela příznivý. Ale rozhodovací procesy AI, jako je AlphaZero, nepoužívají soucitnou lidskou logiku, protože ta pouze stojí v cestě. (Označení „Zero“ v názvu programu znamená, že nepotřebuje žádný lidský vstup.)

Stejný druh počítačové mysli, která dokáže vykouzlit nové šachové tahy, může snadno rozhodnout, že nejúčinnějším způsobem, jak zefektivnit systém zdravotnictví, je zbavit se zranitelných a potřebných.

Jak udržet kontrolu nad učenlivými stroji, které budou brzy zapojeny do všech oblastí našeho života? Je to výzva, která se může ukázat jako nepřekonatelná. Již špičkoví odborníci v oblasti informačních technologií varují, že algoritmy hlubokého učení se mohou snadno vymknout kontrole, protože nikdy nevíme, co sami sebe naučí.

Programy mohou vyvíjet zjevně znepokojivé myšlenky. Systém, vyvinutý v Americe pro probační služby, který předpovídá riziko opakování trestných činů v souvislosti s hledáním žádosti o nedovolené zacházení, byl nedávno zjištěn, že se rychle stal nespravedlivě rasově předpojatým.

Programy mohou rozvíjet výrazně znepokojivé myšlenky. O systému, který byl vyvinut v Americe pro probační služby a který předpovídá riziko opakování trestných činů u recidivistů, bylo nedávno zjištěno, že se poměrně rychle stal nespravedlivě rasově předpojatým.

DeepMind jistě uznává potenciál těchto problémů. V říjnu dala dohromady výzkumný tým, aby vyšetřil etiku rozhodování o AI. Tým má v současné době osm zaměstnanců pracujících na plný úvazek, do roka jich však má být kolem 25.

Ale jeden si pomyslí…stačí 25 lidských myslí k tomu, aby převzaly kontrolu nad super-inteligentními, neustále se učícími a strategicky postupujícími silami monstrózně rozvinuté umělé inteligence?

Při budování stroje, který může přinést revoluci ve zdravotnictví, jsme vytvořili systém, který nás může zničit. Je to nepochybně zázrak lidské vynalézavosti. Ale musíme nějak zajistit, abychom mohli těžit z inteligence strojů a zároveň zůstali jejich pány – v opačném případě, to pro lidstvo může znamenat vážnou hrozbu.

Zdroj: 1