👋 Pokrok v AI — newsletter č. 16
Po měsíční pauze se vracíme s dalším vydáním našeho newsletteru, tentokrát o nových iniciativách mezinárodních organizací v AI, technických novinkách či světě AI mimo USA/UK/EU.
Vítejte v šestnáctém vydání našeho newsletteru Pokrok v AI, ve kterém shrnujeme nejnovější poznatky a vývoj v oblasti používání umělé inteligence (AI), strojového učení (ML) a AI policy a regulace.
🌏 Aktuální přístup k AI na “globálním jihu”
V tomto newsletteru často píšeme o věcech, které se dějí primárně v USA, ve Velké Británii či v Evropské unii. Byť jsou evropské, britské a americké přístupy k regulaci AI rozdílné a situace v těchto zemích rozhodně není homogenní, chceme ukázat i zajímavé dění mimo takzvaný “globální sever”.
Jednou z překvapivých zpráv posledních týdnů bylo oznámení Saudské Arábie investovat skrze nový fond 40 miliard dolarů do umělé inteligence. Toto oznámení přišlo krátce po zprávách ze Spojených arabských emirátů o vytvoření technologické investiční firmy MGX, která se také plánuje zaměřovat na umělou inteligenci a polovodiče a podle Reuters by mohla mít jmění až přes 100 miliard dolarů. Vzhledem k výši dostupných prostředků i například nízkým cenám energií mohou mít státy Perského zálivu reálnou šanci na úspěch v oblasti AI, neboť mají zdroje na přitažení globálního AI talentu i provozování části AI fyzické infrastruktury na svém území díky levným energiím (byť voda na chlazení jim zase chybí).
O AI je zájem i v Africe a Africká unie tak připravuje ambiciózní AI strategii, která má cílit na využívání AI pro rozvoj kontinentu, ale také nastavit regulaci této technologie. Tato celokontinentální strategie pravděpodobně bude doplňovat již existující individuální národní strategie sedmi afrických států, ale její přijetí se očekává až na dalším summitu v únoru 2025. Byť aktuálně cílená státní podpora AI v afrických státech spíše chybí, na AI založené aplikace se používají v různých odvětvích, ať už jde o zemědělství nebo bezpečnost. AI tak opravdu není tématem jen “globálního severu” a mezinárodní spolupráce na přístupu a regulaci AI je nutná.
⚙️ Výběr technických novinek
📘 Anthropic uveřejnil Claude 3
Americký startup Anthropic představil novou generaci svého velkého jazykového modelu Claude, Claude 3, který přichází ve třech velikostech: nejmenší a nejlevnější Haiku, prostřední Sonnet a největší Opus. Claude 3 Opus (největší z nové rodiny modelů) byl například úspěšně použit k automatické detekci slabin softwarových systémů. Uživatelé na sociální síti X obecně interakce s ním hodnotí hodně pozitivně.
🕹️🧞 DeepMind Genie tvoří kontrolovatelné 2D světy z videí na internetu
Tým, který pracuje na “open-endedness” v DeepMind, publikoval nový článek jménem Genie: Generative Interactive Environments, ve kterém představují nový model Genie. Ten dokáže z obrázku (třeba dětského nákresu) vytvořit ovladatelnou, interaktivní “hru”. Tohle může být velký krok pro generování simulací pro budoucí AI agenty.
✍️ Neinvazivní čtení z “dlaně” (ze zápěstí) od Mety
Společnost Meta představila svůj hardware pro neinvazivní čtení neuromotorických signálů ze zápěstí. Mělo by jít o první takový model, který funguje rovnou “z krabice” i na nového člověka, na kterého nebyl přímo natrénovaný. To umožní například ovládání počítače na dálku.
♟️Demis Hassabis by nebyl překvapený z AGI do deseti let
Dwarkesh Patel udělal velký rozhovor s Demisem Hassabisem, zakladatelem a CEO DeepMind, který mimo jiné řekl, že by nebyl překvapený příchodem AGI do deseti let.
🤖 Automatizace softwarových inženýrů pomalu pokračuje
Americký startup Cognition Labs představil svého na jazykových modelech postaveného agenta jménem Devin, který v těžkém softwarově-inženýrském testu SWE-Bench získal skoro 14 %, což byl výrazný pokrok proti předchozím modelům. Open source alternativy na sebe nenechaly dlouho čekat a třeba SWE-Agent z Princeton University získal skoro stejné skóre. To, kde mají startupy, které fundamentálně nestaví LLMs, ale jen je používají, výhodu nad open-source, zůstává otázkou.
🤝 Mezinárodní organizace chtějí řešit AI
Mezinárodní organizace jsou si vědomy potřeby spolupracovat na regulaci AI, což dokazují dva dokumenty, které se v posledních týdnech objevily. Prvním z nich je rezoluce Valného shromáždění Organizace spojených národů (OSN), která vyzývá k ochraně lidských práv i osobních dat v kontextu AI a monitorování rizik s ní spojených. Tato rezoluce, která je první rezolucí Valného shromáždění zabývající se AI, byla podpořena všemi členskými státy OSN. Jednomyslnost je důležitým symbolem a sama rezoluce ukazuje zájem OSN zabývat se tímto tématem, byť nepřináší regulace nebo další mechanismy pro kontrolu AI.
Druhým dokumentem je finální návrh Rámcové úmluvy o AI (Framework Convention on AI) schválené Radou Evropy (což je mezinárodní organizace, která není součástí EU struktur). Tato úmluva se také věnuje především ochraně lidských práv a demokracie a bude zavazovat své signatáře k tomu, aby dohlíželi na a vymáhali dodržování stanovených principů a standardů vývojáři AI systémů. Zároveň zavádí reportovací povinnosti pro veřejný i soukromý sektor. Tuto úmluvu mohou ratifikovat členské i nečlenské státy Rady Evropy a má tak potenciál širšího dosahu. Nejdříve se ale musí na finálním znění ve Štrasburku dohodnout Výbor ministrů, v němž by měl za Česko zasednout ministr zahraničních věcí Jan Lipavský.
⚡Rychlé odkazy a myšlenky
🍎 Apple po deseti letech končí s vývojem autonomního elektrického vozidla bez očividných pozitivních výsledků.
🇫🇷 Francouzská Komise pro AI publikovala doporučení pro Francii, jak lépe využít AI, ať už jde o přitahování talentu nebo zaručení suverenity co se kapacit v oblasti výpočetní techniky týče. Nejen tím Francie prokazuje své ambice stát se evropskou AI velmocí.
🇪🇺 EU potřebuje do nově založeného Úřadu pro umělou inteligenci (EU AI Office) přitáhnout technický talent.
🏎️ Člověk se v LA pokusil ukradnout samořídící auto Waymo, ale nepodařilo se mu ho rozjet a byl zatčen. Je to možná první pokus o krádež autonomního vozu?
🇮🇳 Indie plánuje do konce července představit svůj vlastní rámec pro regulaci AI, budeme vás o něm v rámci našich snah o zachycení globálního AI dění informovat.
👔 Sam Altman se vrací do správní rady OpenAI, společně se třemi novými lidmi.
🇨🇳 Na výročních “dvou zasedáních”, nejmasovějším politickém setkání v Číně, představil premiér Li Čchiang iniciativu AI Plus, která má za cíl podpořit rozvoj čínské digitální ekonomiky.
💥 Emad Mostaque, zakladatel a toho času CEO Stability AI, už CEO není
🙏 Další vydání našeho newsletteru dorazí do vašich e-mailových schránek znovu standardně za dva týdny v pondělí.
Líbilo se vám šestnácté vydání newsletteru Pokrok v AI? Odebírejte ho přímo do vaší emailové schránky a podpořte tím naši práci!
Můžete ho také sdílet s přáteli na sociálních sítích.
Napsali Stanislav a Kristina Fort.