👋 Pokrok v AI — newsletter č. 9
Tentokrát od nás máte docela nálož! Sam Altman už (asi) není CEO OpenAI, AI vytváří hudbu, EU AI Akt má nejistou budoucnost a samořídící auta od Waymo jsou bezpečná...
Vítejte v devátém vydání našeho newsletteru Pokrok v AI, ve kterém shrnujeme nejnovější poznatky a vývoj v oblasti používání umělé inteligence (AI), strojového učení (ML) a AI policy a regulace.
🤡 Sam Altman vyhozen z OpenAI (?)
Sam Altman, jedna z nejviditelnějších tváří umělé inteligence, mnohonásobný dolarový miliardář a podle některých jeden z nejlepších “operátorů” (manažerů) světa, byl v sobotu 18. listopadu 2023 vyhozen představenstvem OpenAI z pozice CEO. Spolu s ním odešel i prezident Greg Brockman a několik dalších prominentních výzkumníků. Nikdo samozřejmě neví, co se stalo, ale množí se spekulace, že mohlo jít o palácový převrat pramenící z konfliktu mezi lidmi, kteří zastávali opatrnější přístup k AI a lidmi, kteří chtěli být rychlejší ve vytváření a vydávání nových produktů. Zdá se také, že představenstvo pravděpodobně nekonzultovalo toto rozhodnutí s hlavními investory, kteří by se mohli pokusit získat Sama zpátky, což by pravděpodobně posílilo jeho interní pozici.
Stojí za připomenutí, že interní rozepře kolem bezpečnosti AI byly důvodem, proč Dario Amodei v roce 2020 opustil svou pozici více-prezidenta pro výzkum v OpenAI a společně s množstvím dalších skvělých lidí založil startup Anthropic, jehož dnešní hodnota je blízko $30 miliard a který vytvořil jediný jazykový model, Claude-2, který je inteligencí ekvivalentní GPT-4 od OpenAI. Pokud by k podobnému schizmatu došlo znovu, naše sázka by byla na Sama Altmana, který by si do své nové AI společnosti nejspíše odnesl hodně talentu a unikátních znalostí z OpenAI — znalostí, které jsou dnes snad ještě méně dostupné než kapitál a GPUs.
Sam po svém propuštění tweetoval toto:
Konspiračně laděným čtenářům neušlo, že první věta, “i love you all.”, obsahuje slova, jejichž první písmena, I L Y A, jsou křestním jménem člena představenstva a hlavního vědce OpenAI jménem Ilya Sutskever. Nejspíše o nic nejde, ale v informační pustině, která kolem propuštění Sama Altmana panuje, se hodně lidí chytá stébel.
Vzhledem k chaosu a obecnému informačnímu šumu kolem této situace ale uvidíme, jak se v dalších dnech vše vyvine. Jedno je ale jasné — Anthropic a Google se svým blízkým (🙏) představením svého modelu Gemini, GPT-4 konkurenta, si dnes určitě mnou ruce.
🌩️ Nejistá budoucnost Aktu o AI
Nad Aktem o AI, na jehož finální podobě se čekala shoda již na začátku prosince, se stahují mračna. Vývoj v některých členských státech totiž mění jejich přístup k této stěžejní regulaci. V předchozích vydáních našeho newsletteru jsme již zmiňovali, že vzhledem k rostoucím investicím do AI a založení startupu Mistral.AI roste ve Francii apetit po více pro-inovačnímu přístupu, který by jí umožnil vybudovat prosperující AI ekosystém. Nyní pro svůj skeptičtější přístup našla spojence.
V Německu se totiž startupu Aleph Alpha (který zatím nebyl moc úspěšný v konverzi peněz v umělou inteligenci) podařilo vybrat $500 milionů a slibuje, že jako evropská společnost umožní vládním agenturám a společnostem stavět a uplatňovat umělou inteligenci v suverénním prostředí a zabránit tak závislosti na amerických společnostech. Společnost aktuálně disponuje jazykovým modelem Luminous, který je ale pravděpodobně výrazně pozadu oproti nejaktuálnějším modelům, jako GPT4 od OpenAI nebo Claude 2 od Anthropic. Přesto se Německo spojilo s Francií (a také Itálií) a aktuálně brání tomu, aby Akt o AI obsahoval pravidla pro základní modely (foundation models). To je nepřípustné pro Evropský parlament, což znamená významný problém pro hledání konečné shody na této regulaci, která vzniká již více než dva roky…
🚗 Samořídící auta (od “Googlu”) jsou bezpečnější než řidiči
Swiss Re, jedna z největších takzvaných reinsurance firem světa, která pojišťuje pojišťovny, vydala studii bezpečnosti samořídících aut od společnosti Waymo, která je součástí společnosti Alphabet a vznikla v rámci akcelerátoru nových nápadů jménem X, ze kterého vyšel třeba také Google Brain.
Během 3,8 milionů mil (6,1 milionu kilometrů), které autonomní vozidla společnosti Waymo najezdila bez lidského řidiče za volantem v San Franciscu a Phoenixu, nedošlo ani k jediné pojistné události, při které by byl zraněn člověk, a k výraznému snížení frekvence pojistných událostí zahrnujících poškození majetku. V porovnání s velice robustní datovou sadou pro lidské řidiče, kterou má Swiss Re k dispozici a která obsahuje data o 125 miliardách ujetých mil, snížila samořídící auta Waymo frekvenci majetkových pojistných událostí o 76 % (z 3,26 pojistných událostí na milion mil na 0,78 pojistných událostí na milion mil).
Asociovaná studie na pre-printovém serveru arXiv říká přímo:
“Waymo One service is substantially safer … compared to robust and highly significant private passenger vehicle baselines” [Služba Waymo One je výrazně bezpečnější …. v porovnání s robustním a vysoce statisticky významným srovnáním s osobními vozidly.]
Uber taktéž navázal partnerství s Waymo a začne ve své aplikaci nabízet možnost samořídících jízd v americkém Pheonixu. To uzavírá pomyslný kruh. Uber se snažil vyvinout vlastní samořídící vozidla ve své divizi Advanced Technologies Group (ATG), ale během nehody jednoho z nich v roce 2018 dokonce zemřel člověk a autonomní divizi tak nakonec prodal během finančních problémů.
Novinky o masivním bezpečnostním úspěchu firmy Waymo přicházejí v době, kdy její konkurent, startup Cruise, který je z velké části vlastněný automobilkou General Motors, přišel o licenci operovat v San Franciscu poté, co se jedno z jeho vozidel dostalo do kontaktu s chodcem, který byl odražený jiným (člověkem řízeným) vozidlem. Zdá se, že Cruise chodce po kolizi táhl delší dobu s sebou, když se vozidlo pokoušelo zastavit u krajnicie
Cesta k samořídícím autům je tak pomalejší, než největší nadšenci čekali, ale určitě o hodně rychlejší, než by předpokládala jejich skeptická protistrana. Na rozdíl od lidí se ale samořídící auta zlepšují každým měsícem a vzhledem k tomu, že už dnes je Waymo levnější (alespoň pro koncového zákazníka v SF) než Uber a zároveň robustně bezpečnější, je možné, že jen díky levnějšímu pojištění samu o sobě může nakonec závod s lidskými řidiči vyhrát.
📉 💰 Bílé límečky na volné noze mají už teď nižší příjmy kvůli AI
Během prvních měsíců po veřejném představení ChatGPT zaznamenali grafičtí designéři a copywriteři na jedné z největších platforem pro lidi na volné noze, Upwork, významný pokles v počtu zakázek, které dostávali, a ještě prudší pokles ve svých příjmech. Na toto přišli tři výzkumníci z USA v důmyslně zkonstruované ekonomické studii, která je popsána v článku Financial Times i s několika skvělými grafy.
To, že je pokles příjmů rychlejší než pokles počtu zakázek, ukazuje, že AI nejen bere těmto lidem práci, ale zároveň snižuje hodnotu práce, která na ně zbývá. Snad nejzajímavějším detailem je taktéž to, že i ti, kteří měli původně nejvyšší příjmy a získávali nejvíce zakázek, byli zasaženi úplně stejně jako ostatní pracovníci na volné noze. Jinak řečeno, vyšší schopnosti některých pracovníků pro ně nebyly dostatečnou ochranou proti technologické disrupci. Práce na volné noze na Upwork je velice specifickou a malou součástí pracovního trhu bílých límečků. Velkou neznámou tedy. zůstává, jaký bude mít AI dopad na jejich práci obecně.
Jedna ze studií, která by tento problém mohla lépe objasnit, byla zorganizována Harvard Business School a věnovala se vlivu použití GPT-4 (v dnešní době nejsilnější a nejchytřejší veřejně dostupný AI model) na produktivitu (vysoce placených) konzultantů z Boston Consulting Group (BCG). Jejím výsledkem bylo, že konzultanti, kteří dostali v rámci randomizované studie přístup k GPT-4, byli o 25 % rychlejší, dokončili o 12 % více úkolů a jejich práce byla hodnocena jako o 40 % kvalitnější než práce jejich AI neobdařených kolegů a kolegyň. Jak je již typické pro studie dopadu AI na kvalifikovanou práci, největší výhodu přinesla AI konzultantům, kteří měli relativně horší schopnosti. O tomto efektu píše také Ethan Mollick, substacker a profesor na The Wharton School na University of Pennsylvania — jedné z nejlepších business škol na světě.
🏖️ Španělské regulační pískoviště
Jedním z regulačních nástrojů zmiňovaných v souvislosti s AI jsou tzv. regulační sandboxy (v češtině občas bohužel taktéž nazývané regulační pískoviště). Ty mají umožnit testování a zavádění inovativních produktů v kontrolovaném prostředí. V České republice zatím žádné regulační sandboxy neexistují, ale evropská regulace by měla vést k tomu, že regulační sandbox vznikne pro finanční služby (v rámci naplňování Národního plánu obnovy) a později i pro AI (v závislosti na již zmiňovaném Aktu o AI).
Unijním lídrem v této oblasti se snaží být Španělsko, které na začátku listopadu schválilo legislativu, která má za cíl vytvořit první regulační sandbox pro AI. Jinak ale nejde o nic nového, podobné sandboxy už existují ve Spojeném království, Norsku či Koreji. Přesto bude zajímavé vývoj v této oblasti sledovat, neboť by regulační sandboxy mohly přispět k růstu evropských AI společností v souladu s místními pravidly. Taktéž by systém sandboxů mohl do státního sektoru přinést potřebná data, umožňující více na datech založené politické rozhodování (evidence-based policy-making).
🎶 DeepMind má nejlepší generátor hudby na světě
Google DeepMind (vzniklý nedávným spojením AI laboratoří vlastněných Alphabet, DeepMind a Google Brain) ukázal světu svůj AI generátor hudby jménem Lyria, který je asi to nejlepší, co jsme v tomto prostoru zatím viděli (určitě si poslechněte ukázky!). Nejen, že je jejich AI úžasná, ale zároveň se jim podařilo spolupracovat se známými hudebníky a hudebnicemi, vytvořit skvělý editor pro AI-asistovanou tvorbu a integrovat svou AI rovnou přímo do Youtube Shorts, aby automaticky generoval hudební podkres pro (zatím limitovanou) skupinu tvůrců. Navíc svoje výtvory označují (watermarking) pomocí dalšího ze svých AI nástrojů. Podle nás je toto příklad perfektního provedení! Vidíme pravděpodobně dopad šoku ze zveřejnění ChatGPT na Google a jeho výzkum — nové produkty, které využívají jeho interní AI modely, které jsou často lepší než konkurence, ale nejsou veřejně k dispozici, jsou dnes vydávány častěji a odvážněji.
Úspěch Googlu přichází ve stejnou dobu, kdy ze Stability AI, která taktéž měla (a možná stále má) ambici postavit AI hudební model, odešel vice-prezident pro audio Ed Newton-Rex kvůli rozporům kolem autorských práv a copyrightu. Svou rezignaci veřejně oznámil na Twitteru/X.
⚡Rychlé odkazy a myšlenky
📈 Trendy kolem AI, hezky zobrazené. Například výpočetní výkon použitý na největší AI systémy roste 4,2-krát za rok (to je hodně) posledních deset let.
🤝 OECD upravilo svoji definici umělé inteligence, aby zapadala do evropského Aktu o AI.
🇨🇿 Výroční zpráva české Bezpečnostní informační služby (BIS) poprvé upozornila na rizika spojená s umělou inteligencí, především v oblasti generování syntetického zavádějícího obsahu.
🇬🇧 Pár týdnů starý článek od Politico poskytuje velmi zajímavý pohled do zákulisí a ukazuje, kdo ovlivňuje britský přístup k AI (plot twist: efektivní altruisté)
📏 Dobrý rozhovor s dvěma výzkumníky z Anthropicu o obtížích s měřením inteligence jazykových modelů
💵 Moc děkujeme našim platícím předplatitelům a předplatitelkám. Pokud chcete finančně podpořit naši práci, můžete přejít z Free na Paid subscription.
Líbilo se vám deváté vydání newsletteru Pokrok v AI? Odebírejte ho přímo do vaší emailové schránky a podpořte tím naši práci!
Můžete ho také sdílet s přáteli na sociálních sítích.
Napsali Stanislav a Kristina Fort.