Geoffrey Hinton strávil poslední dekádu v laboratoři Google Brain, kde se věnoval rozvoji umělé inteligence internetové jedničky. Některá média nazývají Hintona otcem AI, oboru se totiž věnuje už od 70. let minulého století.
Hinton je cenami ověnčený kanadský experimentální kognitivní psycholog a Google si jej vybral mimo jiné proto, že se ve své disertační práci věnoval právě umělé inteligenci.
Teď se ale rozhodl, že před ní raději začne varovat. Google tedy čerstvě opustil s tím, že tak nebude ve střetu zájmů. Mimochodem, rozešli se v dobrém, podle Hintona totiž Google klade velký důraz na etiku – možná i proto je v nasazování generativních AI spíše pomalejší a v duelu OpenAI vs. Google je v tuto chvíli tím, který se pokouší dohnat pokročilejší konkurenci.
Hinton své obavy z AI zveřejňuje na svém Twitteru (210 tis. sledujících) a své důvody pro částečný odchod z branže sesumíroval v momentálně hojně citovaném rozhovoru pro The New York Times.
K druhému varovnému dopisu se připojil i šéf výzkumu v Microsoftu
Zároveň se jako zaměstnanec internetové jedničky odmítl připojit jak k březnovému veřejnému dopisu, aby klíčoví hráči na nějaký čas pozastavili vývoj, tak k dubnovému prohlášení asociace pro rozvoj AI (AAAI), která požaduje těsnější vzájemnou spolupráci na stanovení pravidel hry.
K druhému veřejnému dopisu se připojil i šéf výzkumu v Microsoftu Eric Horvitz
Mimochodem, pod tímto druhým dopisem je podepsaný i šéf výzkumu v Microsoftu Eric Horvitz, ačkoliv sám Microsoft nasazuje aplikovanou AI na bázi GPT zdaleka nejsilněji (nový Bing a série produktů pod označením Copilot).
Nevíme, jak zabránit zneužití AI
A čeho se vlastně Hinton obává? Víceméně opakuje to, co už bylo všemi ostatními řečeno v průběhu posledních měsíců, zastřešuje to ale svým vlastním vhledem a účastí na vývoji. Byl to ostatně právě Googlem sponzorovaný akademický výzkum, který toho na poli AI udělal v poslední dekádě zdaleka nejvíce.
Geoffrey Hinton přednáší o neuronových sítích
Hinton v rozhovoru jmenuje třeba obavu z toho, že zatím nikdo přesně neví, jak vyrobit AI takovým způsobem, aby ji nikdo masově nezneužíval. Že se to dnes ještě neděje, je pouze dočasný stav.
A za druhé, podle Hintona se v rozsáhlých jazykových modelech jako GPT-4 (ale i těch od Googlu) začínají objevovat struktury a vlastní podprogramy, kterým už jejich autoři nedokážou rozumět, a tak je neumějí spolehlivě ukočírovat.
Z AI se stává blackbox i pro její tvůrce
Z AI se jednoduše stává černá skříňka se vstupem na jedné straně a výstupem na druhé, které nikdo nerozumí, jak přesně v nitru funguje. To samozřejmě neznamená, že má snad nějaké uvědomění sebe sama a hodlá nás do roka vyhubit, jen prostě začíná být stále složitější kontrolovat a předvídat, co bude výplodem desítek až stovek miliard jejích rozhodujících vah na softwarových neuronech.
A protože AI díky optimistickému přístupu komunity masivně proniká do komunity – stejně jako před 20-30 lety internet –, pokud podle kritiků nezpomalíme, ztratíme zavčas kontrolu. Tedy přinejmenším podle signatářů obou veřejných dopisů a doktora Hintona.
Jeden z otců AI opustil Google. Bojí se toho, jaké dítě vědci a inženýři vlastně stvořili - Živě.cz
Read More
No comments:
Post a Comment