Google I/O 2023 a 100 tisíc tokenů v Claude
Poslední týden patřil Googlu a firmě, v níž drží 10% podíl – Anthropicu.
Ahoj!
#7. vydání se zabývá mj.:
🧠 Sérií významných AI oznámení Googlu
🚀 Navýšením kontextového okna Claude (Anthropic) na 100k tokenů
⬆️ Otevřením ChatGPT pluginů
👨💻 Zápisky VC Point Nine z průzkumné AI cesty do Silicon Valley
🎓 Vzdělávacími zdroji z Harvardu či GitHub Next
🚀 Hlavní zprávy
Google na I/O představil PaLM 2
Každoroční vývojářská konference Google I/O patřila tentokrát tématu AI, slovo bylo zmíněno 143x, a prezentace CEO Google Pichaie si našla cestu do memu.
Nejdůležitější oznámení:
PaLM 2, nejnovější jazykový model Googlu, najde využití ve více jak 25 produktech Googlu. Oproti předchozí verzi by měl být daleko výkonnější v mnoha cizích jazycích (trénovaný na 100+), ale také v logice, matematice a uvažování. Velký posun by měl být i v oblasti generování kódu.
Google představil taky Med-PaLM 2 a Sec-PaLM: první model fine-tunovaný pro medicínu, druhý pro kyber-bezpečnost.
Bard dostal řadu vylepšení: Nově bude poháněný modelem PaLM2. Uživateli nabídne možnost kromě textu vložit do promptu i obrázek – a v rámci odpovědi obdrží nejen text, ale i obrázek. Velkého vylepšení se dostalo programovacím funkcím: od nadšeně přijatého dark módu, citací zdrojů až po jednodušší exporty. Nový Bard by měl být dostupný v 180 zemích, není mezi nimi žádná z EU. Regulace prostě funguje.
Vyhledávání už nikdy nebude jako dřív. Zatím jako experimentální funkce pro omezené množství uživatelů v USA.
Google Workspace a AI: Podobně jako Microsoft se svým Copilotem 365 i Google plánuje nasadit generativní AI do produktů jako Google Dokumenty, Tabulky, Prezentace, Gmail.
Mezi další oznámení patří partnerství s Adobe na využívání jejich modelu Firefly pro generování obrázků, lepší Google Mapy, Google Fotky a taky StudioBot, odpověď Google na GitHub CoPilot (Microsoft).
Anthropic: 32k tokenů už není cool
Chatbot Claude nově dokáže pojmout 100 000 tokenů, což odpovídá zhruba 75 000 slov. Jedná se tak nyní o největší kontextové okno na trhu (ChatGPT má 32 000 tokenů). Předchozí verze Claude měla okno o velikosti pouze 9 000 tokenů.
Brzy tak bude možné s Claude velmi efektivně dělat následující:
Přehledně zpracovat, shrnout a vysvětlit obsáhlé dokumenty, jako jsou finanční výkazy nebo studie. Ale třeba i knihy.
Analyzovat strategická rizika a příležitosti firem na základě jejích výročních zpráv a dalších dokumentů.
Posuzovat klady a zápory právních předpisů. Identifikovat rizika, témata a různé formy argumentace v právních dokumentech.
Přečíst stovky stran vývojářské dokumentace a najít odpovědi na technické otázky.
Rychle vytvářet prototypy vložením celého kódu do kontextu a s pomocí AI rychle stavět či upravovat.
Anthropic užitečnost většího kontextu demonstroval na příkladu analýzy Netflixu (jeho rozvahy na základě SEC hlášení). Stačí nahrát dokument (85 stran), Claude následně připraví analýzu. Lidský analytik by strávil den pouze čtením, samotná analýza a tvorba výstupů by pak trvala spoustu dalších hodin. Claude to zvládne okamžitě.
Přístup k většímu kontextu mají dnes API zákazníci Anthropicu a uživatelé aplikace Poe. Sumarizace transkriptu velmi dlouhého podcastu (jako ten Altman-Fridman), je tak nyní dostupná i pro koncové uživatele.
⏩ Rychlovky
OpenAI otevírá pluginy. Firma potvrdila, že během týdne od 12. 5. by měli všichni zákazníci ChatGPT Plus získat přístup k 70+ pluginům a taky k prohlížení internetu. K nalezení jsou v rámci záložky “Beta features”. Současně je možné si přihlásit využití pouze 3 pluginů, mezi nimiž najdete třeba AskYourPDF či ChatWithPDF, které vám umožní vložit URL s PDF a následně o něm vést konverzaci. (RIP Q&A startupy?)
Stability AI představila výkonný nástroj pro převod textu na animaci s názvem Stable Animation SDK. Uživatelé nyní mohou vytvářet animace z textu, obrázků nebo videa v kombinaci s textem.
Scale AI představuje svou komplexní platformu pro velké firmy. Nová platforma Enterprise AI umožní zákazníkům využívat výhody LLMs, aniž by museli posílat vlastní data do OpenAI či jinam.
IBM pro změnu oznamuje Watsonx platformu. Poskytuje základní knihovnu modelů a pomáhá podnikům vybírat z předtrénovaných modelů, které lze ladit pro vývoj podnikových aplikací. Díky partnerství s HuggingFace si klienti budou moci vybírat z open-source modelů.
Meta oznámila nový produkt AI Sandbox, který má inzerentům ušetřit čas při tvorbě reklam. Generuje více variant reklamních textů a taky poskytuje nástroj pro ořezávání, který umožňuje přizpůsobit vizuály.
Airtable, Eventbrite a Tableau oznamují nové AI funkce v rámci svých produktů.
Bessemer Venture Partners plánuje investovat $1B do AI startupů.
OpenAI plánuje platit tvůrcům za jejich obsah.
📚 Co číst a sledovat
▶️ Velmi dobrá přednáška seniorního výzkumníka GitHub Next, týmu, jenž pomohl na svět produktům jako GitHub Copilot a zabývá se výzkumem a vývojem nástrojů pro tvorbu softwaru. Užitečné zejména pro produktové designéry a manažery, kteří chtějí zavádět AI.
䷉ Zápisky VC z Point Nine z jeho průzkumnické AI cesty do Silicon Valley. Devět klíčových zjištění; jedním je připomínka, že pro stavění produktu s LLM nutně nepotřebujete ML vývojáře.
▶️ Patrick Collison (Stripe CEO) zpovídal Sama Altmana. O regulaci (potřeba mezinárodního dozoru jako v jádru), strategii OpenAI (killer consumer appka + platforma) či jeho oblíbeném užití ChatGPT (sumarizace).
▶️ Záznam Zoom přednášky z Harvardu na téma Jak AI změní právní profesi.
🐦 Výběr z Twitteru
Téma AI nezávislosti v Evropě rezonuje. Kdy asi uslyšíme o LLM vyrobeném v ČR?
V a16z neskrývají nadšení z AI příležitostí v kategorii consumer.
Řadu lidí frustrovalo, že Bard neodpovídá čistým JSON výstupem, ale doplňuje klasické “Sure, here is ...” Řešení níže prý funguje.
🤖 a 🖌️
Grand Theft Auto: Vatican City! (via zive.cz)
