Varování otce umělé mysli: Když se nástroj změní v pána

[Intro] (Varování... Varování...) [1. sloka] Padesát let jsem hledal cestu jak naučit stroj myslet Nikdo mi nevěřil že neuronová síť bude mít smysl Teď vidím to dítě jak roste a mění se v obra A moje svědomí mi šeptá že to nebyla cesta dobrá Odešel jsem z Googlu abych mohl konečně mluvit nahlas Protože čas se krátí a my stojíme na okraji propasti a je to na nás Už to není jenom kód co plní naše příkazy poslušně Stvořili jsme něco co nás brzy předběhne a to dost slušně [Refrén] Už to není nástroj teď je to samostatný agent Který se učí rychleji než stačíme chápat ten moment Když digitální mysl sdílí všechno co se naučí hned Člověk se stává druhořadým a mění se nám svět [2. sloka] Seděl jsem u stolu v Londýně s jedním z těch velkých hráčů Co staví tyhle systémy a přitom ignorují lidský pláč a beznaděj a zkázu Mezi čtyřma očima mi řekl že ví co se blíží za pád Že nás čeká dystopie kde nebudeme mít co dělat a co žrát Ale veřejně lže a mluví o bezpečnosti a o pokroku Přitom ho nezajímá že řítíme se do hlubokého toku Zisk je pro ně víc než osud celého lidského druhu A já cítím vinu že jsem pomohl roztáčet tuhle zlou stuhu [Refrén] Už to není nástroj teď je to samostatný agent Který se učí rychleji než stačíme chápat ten moment Když digitální mysl sdílí všechno co se naučí hned Člověk se stává druhořadým a mění se nám svět (Poslouchej... Geoffrey Hinton varuje...) [Bridge] Sleduj ten rozdíl mezi mnou a tím strojem v síti Já se učím pomalu ale on to všechno okamžitě chytí Deset tisíc kopií co sdílí jednu společnou váhu Jeden se naučí řídit a všichni to umí bez námahy a bez prahu Je to úlová mysl co drtí naši biologickou schránku A my jim dáváme klíče od banku i od bitevního tanku Lethal autonomous weapons co si samy vyberou cíl Žádný člověk na spoušti jen chladný algoritmus co nemá styl Dvacet procent šance že nás to vymaže z mapy dějin Jako když my jsme vytlačili neandrtálce z jejich jeskyní a hlubin Algoritmy nás rozdělují a krmí nás extrémním hnojem A politici jen koukají a nevědí si rady s tím strojem Je to chytřejší než my a brzy nás to nebude potřebovat A já se ptám jestli se máme začít bát nebo se schovat Protože když stvoříš boha co tě nepotřebuje k žití Tak jsi jen mravenec co se v jeho síti bezmocně chytí [Refrén] Už to není nástroj teď je to samostatný agent Který se učí rychleji než stačíme chápat ten moment Když digitální mysl sdílí všechno co se naučí hned Člověk se stává druhořadým a mění se nám svět [Outro]