👋 Pokrok v AI – newsletter č. 21
Další číslo nabité novinkami ze světa AI. Tentokrát se věnujeme očekávanému dopadu amerických voleb na AI regulaci, otázce, jestli je AI jen trend, francouzskému přístupu k AI a robotické ruce.
Vítejte ve dvacátém prvním vydání našeho newsletteru Pokrok v AI, ve kterém shrnujeme nejnovější poznatky a vývoj v oblasti používání umělé inteligence (AI), strojového učení (ML) a AI policy a regulace.
🇺🇸 Co znamenají americké volby pro AI?
Americké prezidentské volby, které by se měly konat letos v listopadu, už nyní budí velké emoce i zájem ze strany veřejnosti. I proto bychom rádi shrnuli, co zatím kandidátská dua Kamala Harris a Tim Waltz (Demokraté) a Donald Trump a J. D. Vance (Republikáni) prozradili o svých plánech pro AI.
Kandidátka na prezidentku Spojených států Kamala Harris byla v oblasti AI relativně aktivní již v předchozích letech, která strávila v Bílém domě – vyjednávala s velkými AI společnostmi, zúčastnila se AI summitu v Británii a tlačila na Kongres, aby se více věnoval regulaci AI. Přestože se zasazuje o to, aby byla veřejnost chráněna před negativními dopady AI a mohla využívat jejích benefitů, zatím se jí nepodařilo dosáhnout závazné regulace AI sektoru v USA a není zcela jasné, jestli o to bude usilovat. Aktivně se ale zajímá hlavně o krátkodobé a střednědobé dopady AI, jako je diskriminace v AI systémech a vliv AI na trh práce. O pozicích Tima Waltze, kandidáta na viceprezidenta, toho zatím také příliš nevíme, ale jeho domovský stát Minnesota má přísnější zákony vztahující se k různým aspektům AI, jako je například AI generovaný obsah.
Od kandidátského dua Trump-Vance se v oblasti AI očekává silně deregulační přístup, který se odráží i v jeho slibu zrušit Bidenovo výkonné nařízení o AI (Executive Order 14110, o kterém jsme psali zde), protože prý brání AI inovaci. Vzhledem k jejich jestřábímu postoji k Číně se také očekává, že budou podporovat “soutěživou” dynamiku mezi USA a Čínou i v oblasti AI. J. D. Vance v minulosti působil v technologických společnostech v Silicon Valley, což pravděpodobně formovalo jeho protiregulační přístup. Kampaň Trump-Vance má také mnoho donorů z řady velkých technologických společností, což dále způsobuje shovívavost k tomuto sektoru.
Hodně informací o tom, jak by v detailu obě dua chtěla přistoupit k AI, zatím chybí. Pokud se ale vlády ujme Donald Trump, novou regulaci AI na federální úrovni bychom v USA spíše očekávat neměli.
💡Krátkodobě přeceňovaná, dlouhodobě podceňovaná
Na X/Twitteru bylo živo kolem tvrzení, že ChatGPT (a potažmo OpenAI) dochází dech. Dokonce o tom reportoval deník Financial Times v kategorii “Top Stories,” konkrétně v tomto článku. Situace proběhla přibližně takto: nějaký (docela známý, ale očividně ne moc kvalitní ani inteligentní) analytik se podíval na to, kolik návštěvníků má doména chat.openai.com měsíc po měsíci. Toto byla historicky ta adresa, na které lidé používali webovou verzi ChatGPT. Analytik viděl, že návštěvníci klesají a protože měl pravděpodobně už od začátku silný prior (základní přesvědčení), že AI je stejně jen trend, usoudil z toho, že ChatGPT ztrácí svůj lesk — klasický confirmation bias (tzn. potvrzovací zkreslení). Neuvědomil si totiž, že od dubna 2024 je primární doménou pro ChatGPT chatgpt.com a když se člověk podívá na návštěvnost obou domén vedle sebe, vidí, že provoz z jedné se v podstatě plynule přesunul na doménu druhou.
Tento konkrétní příklad je dobrou ukázkou toho, jak motivovaní jsou někteří lidé vidět v AI pouhý hype. To je podle nás postoj očividně chybný a pokud se jím bude člověk řídit, povede k velký překvapením v budoucnosti — v době, kdy ani největší skeptik nebude moci velice reálné schopnosti a ekonomicko-společenské dopady AI ignorovat.
Hlavní problém vidíme v tom, že může být zároveň pravda, že:
AI je v krátkodobém horizontu přeceňovaná
AI je v dlouhodobém horizontu podceňovaná.
Pokud člověk konzumuje hlavně tisková prohlášení firem, které AI pouze používají a nebo které se snaží pomocí AI naskočit na další trend (podobně třeba jako když společnost Deloitte začala předstírat, že se zabývá kvantovou informatikou 🤡 — spoiler alert, nezabývá se jí), tak může nabýt dojmu, že je to vše jen marketing bez reálné substance za ním.
Opak je ale pravdou. Pokud se podíváme na dlouhodobé trendy, není ani pochyb o tom, že jsme na pokraji jedné z největších technologických revolucí, které Homo Sapiens Sapiens kdy zažil. Její začátek sice může vypadat jako chatbot na úrovni dobrého bakalářského studenta, což může být (pro nás nepochopitelně) pro některé nenaplňující očekávání, ale musíme se podívat na historický trend — kdybychom GPT-4 ukázali někomu 5 let zpátky, nevěřil by, že je to reálné.
Neexistuje dobrý důvod si myslet, že dnešní stav je konečná. Slavný AI výzkumník Nicholas Carlini napsal blogový příspěvek o tom, jak moc je pro něj AI dnes užitečná v jeho vlastní oblasti expertízy. To je dobrou ukázkou toho, že mnozí, kteří tvrdí, že AI jim nemůže pomoci, protože sami jsou příliš velcí experti v tom, co dělají, je spíše ukázkou jejich nedostatečných schopností využívat AI než jejich nadměrných schopností v jejich oboru.
Scott Aaronson, jeden z (podle nás) nejchytřejších žijících lidí na světě, který během své “dovolené” od kvantových algoritmů pracoval v OpenAI na otázkách bezpečnosti AI napsal na svůj blog:
Judged against where AI was 20-25 years ago, when I was a student, a dog is now holding meaningful conversations in English. And people are complaining that the dog isn’t a very eloquent orator, that it often makes grammatical errors and has to start again, that it took heroic effort to train it, and that it’s unclear how much the dog really understands.
Náš volný překlad:
Soudě podle toho, kde byla AI před 20-25 lety, když jsem byl student, je to dnes, jako by pes vedl smysluplné konverzace v angličtině. A lidé si stěžují, že ten pes není příliš výmluvný řečník, že často dělá gramatické chyby a musí začínat znovu, že vycvičit ho stálo hrdinské úsilí a že není jasné, jak moc tomu pes skutečně rozumí.
Vidíme to podobně — podstatné pro budoucí predikce není, že dnes AI ještě neumí samostatně napsat doktorskou práci z matematiky (i když již dnes v matematice více než 99,99% světové populace porazí — ach, jak se standardy posouvají!), podstatné je, že před pár lety ještě neporazila nikoho!
🥐 AI po francouzsku
O Francii jako lídrovi evropské umělé inteligence jsme psali už v předchozích vydáních. Francie má politickou scénu, která o tématu AI přemýšlí, jak ukázal například i report zvláštního vládního panelu s 25 doporučeními pro rozvoj AI ve Francii. Má také relativně úspěšný AI startup Mistral AI a na světovém žebříčku se umístila třetí mezi státy, které generují důležité AI modely. Brzy snad bude mít i národní centrum pro evaluace AI, které by mělo podporovat unijní AI Office. Především ale Francii čeká v únoru 2025 globální summit, který by měl navázat na summity v Jižní Koreji (květen 2024) a ve Velké Británii (listopad 2023). Přípravy jsou již v plném proudu, a proto dnes o něm píšeme.
Pozornost vzbudil už jeho název, neboť se Francie rozhodla summit nazvat “AI Action Summit” (velmi volně přeloženo “AI summit činu”), odklánějíc se od předchozího bezpečnostního zarámování. Místo toho chce Francie ukázat svoji vizi otevřené a inovativní AI v akci. Vedením této akce byla pověřena zkušená manažerka Anne Bouverot, která dlouho pracovala v technologiích, ale má zkušenosti i z univerzitního prostředí. Summit by se měl věnovat AI v pěti oblastech: public interest AI (AI pro veřejný zájem), innovation and culture (inovacím a kultuře), AI of trust (důvěře v AI – za tímto kryptickým názvem se skrývá zabezpečení a bezpečnost AI), global AI governance (globální vládě nad AI) a future of work (budoucnosti práce). Konkrétní témata a rozhodnutí zatím nejsou známá.
Jak je již francouzskou tradicí, snaží se summit distancovat od britsko-amerického bezpečnostního přístupu k AI i od americko-čínského závodu v AI vývoji, a místo toho představit vlastní “třetí cestu”. Podle všeho tak Francie chce klást důraz na otevřenost a propagovat například rozvoj open source modelů. Zatím je nejisté, jak přesně plánuje tuto vizi Francie na “svém” summitu uchopit, ale je jisté, že se bude jednat o jednu z hlavních a nejsledovanějších AI akcí roku 2025.
🏓 Robotická ruka z DeepMind hraji stolní tenis
Pokrok v robotice býval historicky výrazně pomalejší než pokrok v jiných oblastech spojených s umělou inteligencí. Toto pozorování je taktéž známé jako takzvaný Moravcův paradox (Moravac’s paradox, podle Hanse Moravce rakouského původu, ale českého příjmení). Společnost Google DeepMind představila v novém článku robota, který umí hrát stolní tenis na relativně vysoké úrovni a podle článku je krokem k získání rychlosti a výkonu na úrovni člověka na problémech z reálného, fyzikálního světa.
Hlavní zajímavostí je zde ne hardware, ale software, který robota ovládá. Jde o modulární hierarchickou architekturu, která sestává z nízko-úrovňových kotrolérů, jež modelují schopnosti robota, a vysoko-úrovňového kotroléru, který vybírá, kterou z nízko-úrovňových akcí v jednotlivých okamžicích použít. To vše je spojeno technikami, které umožňují takzvanou zero-shot (= bez nutnosti vidět příklady) generalizaci ze simulací do reálného světa. Systém taktéž používá adaptaci na předem neznámé protivníky v reálném čase.
To vše dohromady tvoří robotického agenta na stolní tenis, který je schopen v 29 zápasech proti předem neznámým oponentům porazit 100% začátečníků, 55% středně pokročilých a 0% nejpokročilejších soupeřů. To z něj děl solidního hráče stolního tenisu na středně pokročilé úrovni!
Zajímavým meta-pozorováním je to, že robot není ovládán jednou velkou end-to-end trénovanou neuronovou sítí, ale je v něm explicitně lidmi zakódovaná modularita a hierarchičnost. To je velice podobné dalším přístupům, které úspěšně používají AI v reálném světě, jakou jsou například samořídící auta společnosti Waymo v San Franciscu a několika dalších amerických městech.
⚡Rychlé odkazy a myšlenky
🫶 Rada Evropy (neplést s Evropskou unií) představila první právně závaznou mezinárodní úmluvu týkající se AI. Ta signatáře (mezi nimiž je Evropská unie, Spojené státy americké, Velká Británie či Izrael) zavazuje k přijetí regulace jež zajistí, že AI reflektuje hodnoty lidských práv, demokracie a právního státu.
🚪Kristina publikovala článek Breaking into AI policy: Insights from five industry experts jako součást svého letního Fellowshipu. Článek shrnuje odpovědi pěti expertů na AI policy o tom, jak do tohoto oboru vstoupit.
🖼️ Standa napsal blog post Solving adversarial attacks in computer vision as a baby version of general AI alignment o tom, proč je problém adversariálních útoků na systémy strojového vidění v hodně ohledech podobný svatému grálu bezpečnosti obecné umělé inteligence
🛑 Narrative violation: TSMC (největší výrobce čipů na světě) továrna v Arizoně je stejně produktivní, jako jejich továrny na Taiwanu, což jde proti běžné domněnce, že výroba v Asii je efektivnější a že Američani jsou neproduktivní
🧠 Ilya Sutskever, bývalý hlavní vědec a spoluzakladatel OpenAI, založil nový startup Safe Superintelligence (SSI) a vybral na něj od investorů $1B = 23 miliard korun. To je hodně!
🇪🇺 Minulý newsletter jsme vydali v den, kdy oficiálně vstoupil v platnost Akt o AI, byť žádná z jeho částí ještě “neplatí”, neboť se začnou aplikovat postupně. Tato stránka mapuje, kdy vstoupí v platnost jednotlivé podčásti Aktu o AI, konkrétně nejdříve začne platit zákaz některých AI systémů a to v únoru 2025.
📚 Standa si teď hodně užívá knihu A Brief History of Intelligence (autor Max Bennett). Je to podle něj asi nejlepší kniha o inteligenci, co kdy četl.
🏛️ Společnost OpenAI slíbila, že dá americkému AI Safety Institute (Institutu pro bezpečnost AI) “včasný” přístup ke svému nejnovějšímu modelu. Snaží se tím pravděpodobně zlepšit svou reputaci co se AI bezpečnosti týče, jak jsme zmiňovali v jednom z předchozích vydání, ale zatím není jasné, jak přesně to bude vypadat.
🤝 Jak bude vypadat spolupráce mezi EU a UK v oblasti umělé inteligence? Nad tím se zamýšlí tento článek a přichází se čtyřmi hlavními doporučeními. EU a Británie by měly investovat do sdílené výpočetní infrastruktury, harmonizovat své AI standardy, rozvíjet spolupráci mezi unijní AI Office a britským AI Safety Institute a umožnit Británii členství v Radě EU–USA pro obchod a technologie (Trade and Technology Council, TTC). Uvidíme, jestli se toho podaří nové britské vládě docílit.
Líbilo se vám dvacáté první vydání newsletteru Pokrok v AI? Odebírejte ho přímo do vaší emailové schránky a podpořte tím naši práci!
Můžete ho také sdílet s přáteli na sociálních sítích. Jsme vděční za každé sdílení!
Napsali Stanislav a Kristina Fort.