Summit o AI bezpečnosti a Grok od xAI
Největší AI událost podzimu v Bletchley Parku a Muskův Grok.
Vydání #29:
Summit ve Velké Británii propojil AI a politické lídry
Ojedinělý rozhovor Musk-Sunak
Muskovo xAI představuje Grok
MIT Technology Review vyzpovídalo Ilyu Sutskavera (Chief Scientist, OpenAI)
Podcast se spoluzakladatelem DeepMind o AGI
🏆 Zpráva týdne
AI Safety Summit v britském Bletchley Parku byl první globální akcí, která usiluje o propojení regulátorů a technologických lídrů v zájmu AI bezpečnosti. To nejdůležitější:
Více než 25 přítomných zemí, včetně Spojených států, Číny a mnoha států EU, podepsalo "Bletchleyskou deklaraci", v níž se uvádí, že státy musí spolupracovat a vytvořit společný přístup k dohledu nad AI.
Hlavním lákadlem z tech lídrů byl Elon Musk, jenž zastínil přítomnost Sama Altmana (OpenAI), Demise Hassabise (DeepMind), či Hoffmana (Inflection).
Agenda deklarace se soustředila především na 2 oblasti: identifikaci a porozumění AI rizik a vytvoření mezinárodních politik na jejich mitigaci.
Jen několik dní poté, co americký prezident Joe Biden podepsal exekutivní příkaz o umělé inteligenci, využila jeho vláda britského summitu k oznámení, že založí U.S. AI Safety Institute (Británie učiní analogicky totéž).
Sifted si všímá toho, že přestože šlo o britskou akci, největší vliv v otázce regulace asertivně prosazovaly USA. Ty jasně deklarovaly, že hodlají vytvářet svá pravidla. EU (zastoupená mj. Věrou Jourovou) se snažila připomenout, že její AI Act je první a potenciálně nejsilnější regulací AI, které se budou muset podřídit i nejvýznamnější americké firmy.
Zajímavost: Bletchley Park je místem, kde působil Alan Turing, průkopník AI a kryptografie, a řada tzv. code-breakers v období 2. světové války.
Následující konverzace britského premiéra Rishiho Sunaka a Elona Muska stojí za zhlédnutí. Jeden z lídrů západního světa zpovídá nejbohatšího muže planety (a následně vede Q&A, kde padnou dobré dotazy). Baví se nejen o AI, ale i startupech či akciových opcích pro zaměstnance (ESOP). Velké PR vítězství britské administrativy, ale i překvapivě vysoká edutainment hodnota.
⏩ Ve zkratce
Elon Musk sdílel několik informací a screenshotů z AI systému Grok od xAI. Jak naznačuje obrázek výše, Grok by měl mít smysl pro humor. Díky přístupu k obsahu X v reálném čase by mohl mít obrovskou zpravodajskou hodnotu. Oproti jiným AI službám by pak měl odpovídat i na “citlivější” dotazy. Nyní je Grok v uzavřeném testování, poté bude pro prémiové předplatitele X. Více na webu.
V nadcházejícím týdnu má OpenAI vývojářskou konferenci. Objevuje se spousta uniklých informací o tom, co čekat. Tyto zní nejzajímavěji.
Yann LeCun z Mety a více než 70 dalších podepsali dopis, v němž vyzývají k posílení podpory pro open-source AI. Dopis publikovala Mozilla v den zahájení AI Safety Summitu.
Cohere vydalo nový embeddingový model Embed v3. Měl by mít daleko lepší výsledky v rámci vyhledávání i v rámci komplexních datasetů.
Stability AI přináší do systému Stable Diffusion 3D model (dříve jen 2D), další oznámení zahrnují také API pro business.
Ze Stability nedávno odešli šéf HR a hlavní právník, firmu tak opustila již řada vedoucích pracovníků. Mezi nimi i Čech Stanislav Fořt, jenž vyvíjel konkurenci ChatGPT StableLM.
DeepMind představil vylepšenou verzi AlphaFold, své revoluční AI pro předpovídání proteinových struktur.
Forbes spustil Adelaide, nástroj pro vyhledávání zpráv založený na Google Cloudu, který nabízí personalizovaná doporučení zpráv pomocí AI.
📚 Co si přečíst a poslechnout
䷉ Velmi podnětný článek/rozhovor MIT Review s Ilyou Sutskeverem, hlavním vědcem OpenAI.
You’re saying that while the neural network is active—while it’s firing, so to speak—there’s something there? I ask.
“I think it might be,” he says. “I don’t know for sure, but it’s a possibility that’s very hard to argue against. But who knows what’s going on, right?”
▶️ Podcast Dwarkeshe Patela se Shanem Leggem, jedním ze zakladatelů DeepMind. Primární téma je AGI a superalignment. Pravděpodobnost AGI do konce dekády vidí jako 50%.
䷉ Článek o obavách zakladatelů, kteří jdou budovat druhý startup. Aneb proč je to podruhé často těžší.
🎧 Poslední epizoda podcastu Business Breakdowns se věnovala Databricks.
💰Investice
🇺🇸 Google pošle $2B do Anthropicu. Předtím již do firmy vložil $550M. Nedávno do firmy, jenž platí vedle Google DeepMind za nejvážnějšího konkurenta OpenAI, investoval Amazon $4B.
🇫🇷 Mistral AI má dle zdrojů The Information brzy získat investici v hodnotě $300M. Půl roku stará firma by měla mít valuaci >$1B. Potenciálními investory jsou mj. Andreessen Horowitz a General Catalyst. (o seed kole Mistralu a jejich plánech jsme psali).
🇺🇸 Shield AI získává $200M při valuaci $2.7B na škálování jejich autonomních létajících systémů pro vojenské užití.
🇨🇦 Arteria AI získala $30M v rámci Series B. Firma vytváří moderní dokumentační infrastrukturu pro finanční instituce.
🇺🇸 Freeplay získal $3.25M seed financování, na němž se podílely Conviction a Matchstick Ventures. Startup umožňuje firmám vytvářet a testovat aplikace založené na LLMs.
🇪🇸 Shakers získal €6M od Brighteye Ventures, Adevinta Ventures a Athos Capital. HR tech startup se s pomocí AI věnuje náboru externistů.
🆇 Výběr z X
Celkem jistá sázka: podobná akce brzy vznikne.
Absurdní, ale pro debatu snad užitečný myšlenkový experiment o SkyNetu. Hinton reagoval otázkou, zda by i jaderné zbraně měly být open-source. Zajímavá diskuse pod příspěvkem.
Nová metrika pro posuzování kvality sociálního kapitálu: kolik % vašich IRL konverzací je lepších než těch, které máte s LLMs?
Thiel tyto 2 oblasti porovnával takto: "Crypto is libertarian, AI is communist.” Na mysli měl ale především decentralizaci vs centralizaci, nikoli politický podtext.
🤖 a 😇
Jeden z důkazů, že Balaji se svým příspěvkem ⬆️ nemíří vedle. Obrázek níže sdílel Marc Andreessen (a16z). Stvoření Adama v kontextu inteligence se věnuje závěr tohoto staršího vydání.