Amazon vsází na Anthropic i Olympus
Velká investice do tvůrce Claude i vlastního vývoje
Vydání #49:
Amazon pokračuje v investicích do Anthropicu a Olympu
xAI uvádí Grok 1.5. a říká, že verze 2 bude brzy
Databricks uvádí největší otevřený model na trhu
Novinky od AI21 Labs, OpenAI, Hume, Perplexity
Záznamy z AI Ascent od Sequoia Capital a YC partneři o tvorbě modelů
🏆 Zprávy týdne
Amazon investuje do Anthropicu
Amazon posílá do Anthropicu dalších $2.75B, což je největší externí investice v jeho historii.
Amazon již do firmy investoval $1.25B, celkově tak investuje $4B.
Amazon získává menšinový podíl bez zastoupení v představenstvu a vychází z valuace z posledního kola (tehdy $18.4B, konkurenční OpenAI je až 5x tolik)
AWS se stane hlavním poskytovatelem cloudu pro Anthropic a využije jeho čipy navržené na míru pro trénování a nasazování modelů AI.
Amazon není jediným hráčem s těsným vztahem k Anthropicu – Google se zavázal do Anthropicu vložit v průběhu času až $2B. Na jedné straně tak je OpenAI-Microsoft a na druhé Anthropic-Amazon-Google.
Amazon investuje do Olympu a datacenter
Podle informací The Verge má “AGI tým” Amazonu vedený Rohitem Prasadem agresivní cíl překonat v rámci letošního roku nejnovější modely Claude.
Jeho chystaný vlajkový model s interním kódovým označením Olympus je ve fázi tréninku, je poměrně rozsáhlý a má stovky miliard parametrů.
Po svém uvedení na trh bude Olympus zapojený do téměř všech částí Amazonu a prostřednictvím AWS bude k dispozici dalším firmám.
Amazon také plánuje v příštích 15 letech vynaložit téměř 150 miliard dolarů na datová centra, což gigantovi v oblasti cloud computingu umožní zvládnout očekávaný prudký nárůst poptávky po AI aplikacích a dalších digitálních službách.
⏩ Ve zkratce
xAI oznámila Grok-1.5, nejnovější iteraci svého open-source LLM, který se může pochlubit vylepšenými schopnostmi uvažování a délkou kontextu 128 000 tokenů.
Databricks oznámila DBRX, LLM s pokročilými schopnostmi v oblasti porozumění jazyku a kódu. Tento model, navržený s architekturou směsi expertů, má za cíl nově definovat výkonnostní standardy v AI.
AI21 Labs uvádí na trh model Jamba, který integruje dvě architektury: transformátor a Mambu, která je založena na modelu strukturovaného stavového prostoru.
Microsoft a OpenAI plánují projekt datového centra za 100 miliard dolarů. Má pracovní název Stargate a měl by v něm být superpočítač s miliony AI čipů, které budou pohánět modely nové generace OpenAI.
Model Claude 3 Opus od Anthropicu poprvé překonal v žebříčku LMSYS Chatbot Arena model GPT-4 od OpenAI. Claude je o něco lepší v programování - udržuje delší kontext, vytváří úplnější úryvky kódu a vyžaduje méně komunikace. Claude je taky o něco lepší v psaní - je přirozenější, poutavější a dodržuje styl/tón.
Hume AI představila konverzační AI s názvem Empathic Voice Interface (EVI) s emoční inteligencí. EVI rozumí tónu hlasu uživatele, který každému slovu dodává význam, a používá jej k řízení svého jazyka a řeči.
Elon Musk říká, že X plánuje zpřístupnit xAI Grok všem předplatitelům Premium "ještě tento týden" a rozšířit podporu Premium+; X Premium stojí 8 dolarů měsíčně.
OpenAI již nevyžaduje účet pro používání ChatGPT, ale s "mírně restriktivnějšími zásadami obsahu", počínaje několika trhy a postupným zaváděním po celém světě.
ChatGPT vylepšuje a dále vylepšovat plánuje své prohlížení o další odkazy a citace. Více se tak bude podobat tomu, co dělá Copilot od MSFT nebo Perplexity.
Airtable spouští Airtable AI a přidává shrnutí, kategorizaci a překlad pomocí GPT-3.5, GPT-4 a Claude od Anthropicu.
AI vyhledávač Perplexity uvádí, že startup plánuje monetizaci i skrz reklamy.
Demis Hassabis (Google DeepMind) získal za své AI zásluhy rytířský titul.
📚 Co si přečíst a zhlédnout
▶️ AI Ascent 2024 – záznamy z akce Sequoia Capital, 100+ AI výzkumníků, podnikatelů, a investorů. Vystupuje např. Andrew Ng, Mensch (Mistral), Amodei (Anthropic), Karpathy.
▶️ YC partneři mluví o vytváření vlastních modelů: bez stamilionů a dlouhých měsíců tréninku. Začátek se věnuje modelu Sora.
▶️ Dwarkesh Patel podcast s 2 AI výzkumníky (DeepMind / Anthropic) se zabývá tím, jak se LLMs trénují, jaké schopnosti budou pravděpodobně brzy mít, a co přesně se v nich děje.
䷉ Fortune zpracoval po rozhovorech s 20 lidmi delší článek o Stability AI a zejména jejich ex-CEO Emadu Mostaqueovi (minulý týden rezignoval). Zajímavé čtení mapuje, jak může špatné řízení vést k obrovské ztrátě hodnoty – a jak může hype nachytat i ty nejlepší světové investory.
💰Investice
🇺🇸 The Brandtech Group získal $115M v Series C kole při ocenění $4B. Poskytuje nástroje založené na generativní AI pro reklamní a marketingové kampaně.
🇺🇸 Hume získal $50M v Series B kole při ocenění $219M. Vyvíjí konverzační AI, která údajně dokáže interpretovat emoce na základě hlasu lidí.
🇺🇸 Fieldguide získal $30M v Series B kole, které vedl Bessemer Venture Partners, s účastí 8VC a dalších. Startup ze San Francisca poskytuje AI platformu pro poradenské a auditorské služby.
🇺🇸 Fireworks AI získal $25M ve financování Series A. Pomáhá vývojářům vytvářet nová AI řešení. Kolo vedl Benchmark.
🇺🇸 Tennr získal $18M ve financování Series A. Startup využívá AI k extrakci relevantních informací z doporučení ve zdravotní péči a automatizuje úkoly jako domlouvání pacientských schůzek a řešení problémů s pojišťovnami. Kolo vedl Andreessen Horowitz.
🇬🇧 Oriole Networks získal £10m v seed financování. Londýnský startup se zaměřuje na urychlení trénování LLM. Investovali UCL Technology Fund, Clean Growth Fund, XTX Ventures, Dorilton Ventures a Innovate UK Investor Partnership.
🇸🇪 Dema získala €7m seed financování. Startup se sídlem ve Stockholmu využívá AI pro podporu rozhodování v e-commerce. Kolo vedly společnosti J12 Ventures a Daphni.
🆇 Výběr z X
První úroveň je vědomí, že můžete být cílem útoku. Další pak aktivní prevence, kdy máte v rámci firmy/rodiny validační slova/fráze, která nelze zjistit ani dedukovat na základě veřejných dat.
Dvě populární teze: 1) Promptování je superschopnost a cesta k velmi lukrativní práci budoucnosti. 2) Časové okno pro získání extra benefitů z promptování se uzavírá: LLMs se budou nejlépe promptovat samy a lidem bude stačit podobně jako na Googlu formulovat základní požadavek.
🧵Seznam YC startupů, které trénují vlastní modely. Nejde však o základní modely, ale spíše menší a specializovanější, většinou vyvíjené pro vlastní produkt.
🧵9 konkrétních nápadů z oblasti agentů a AgentOps.
🤖 a 🤑
Soudce zvýšení hodnoty krypto aktiv FTX, ale i existujícího a exitovaného podílu z Anthropicu (FTX se zbavilo 2/3 svého podílu za $884M, celkově vlastnilo 8 % firmy) nechalo chladným – SBF dostal trest odnětí svobody na 25 let.
V odůvodnění uvedl soudce Kaplan následující:
"Zloděj, který odjede se svým lupem do Las Vegas a ukradené peníze úspěšně vsadí, nemá nárok na nižší trest díky tomu, že výhru z Las Vegas použije na splacení ukradené částky nebo její části, když jej nakonec chytí."
