OpenAI DevDay: masivní oznámení z 6/11
Nejdůležitější AI lab světa představil zásadní novinky pro vývojáře, ale i běžné zákazníky.
Vydání #30:
Oznámení od OpenAI opět mění hrací pole v AI
Nové modely od Amazonu, Samsungu, Mozilly
Velká investice do Aleph Alpha, Česku nejbližšímu AI labu
Čtení od guru ze Stanfordu, o AI ve Francii, nebo GPUs a Nvidii
I tento newsletter má vlastní GPT (na 29 vydání, stále WIP)
Blížíme se k 1000 odběratelů! Pokud vás NL baví, pošlete jej dál e-mailem či skrz sítě. Víc odběratelů => ještě lepší obsah.
🏆 Zpráva týdne
Oznámení z OpenAI DevDay
OpenAI měla 6/11 vysoce očekávanou akci DevDay, na které představila řadu důležitých novinek:
Možnost vytvářet vlastní GPTs
GPT Builder (nyní dostupný uživatelům ChatGPT Plus a Enterprise) umožní každému vytvářet a sdílet vlastní asistenty/boty pro různé způsoby užití.
Při tvorbě zadáváte prompty / specifické instrukce, díky přiložení souborů pak bot může vycházet ze znalostní základy, kterou mu poskytnete. Každého bota můžete pojmenovat, dát mu vlastní obrázek, přiřadit akce a schopnosti jako Code Interpreter, procházení internetu, nebo generování obrázků.
OpenAI později v listopadu spustí obchod GPT Store, který lidem a firmám umožní vydělávat peníze prodejem nově vytvořených GPTs. (podobnou věc nedávno představil Poe, který nabízí možnost tvorby vlastních botů již od dubna).
Máte-li ChatGPT Plus, zkuste GPT Miton AI Newsletteru (disclaimer: Je to experiment, nevěřte ničemu.)
První zkušenosti naznačují, že kromě správně sepsaných instrukcí hraje roli, jak dobře připravíte data (“knowledge”) a v jakém formátu je nahrajete (nejčastěji to bude PDF / JSON). Lze nahrát jen 10 souborů (pokud zkusíte víc, update neuložíte). Pokud máte aktivovaný Code Interpreter, uživatel může získat k souborům přístup.
GPT-4 Turbo
OpenAI představila vylepšený model GPT-4 Turbo.
Kontextové okno 128 tisíc tokenů (16x víc než předtím), což stačí na nahrání knihy v rámci promptu (konkurenční Anthropic dlouho vedl se 100k oknem).
Přichází s aktualizovanými znalostmi až do dubna 2023. A Sam Altman slibuje, že již nikdy nebudou jejich modely tak pozadu, jako tomu bylo dosud.
Další vylepšení zahrnují lepší volání funkcí, lepší následování instrukcí, JSON mód, nebo reprodukovatelné výstupy.
API pro Asistenty, vyhledávání a Code Interpreter
Rozhraní Assistants API umožní vývojářům vytvářet AI asistenty v rámci vlastních aplikací.
Případy použití zahrnují: aplikaci pro analýzu dat, asistenta pro kódování, AI plánovač dovolené a mnohé další.
API bude mít přístup k funkci Code Interpreter, vyhledávání a volání funkcí.
API k vidění, Dall-E 3 a Text-to-speech
GPT-4 Turbo může jako vstupy přijímat obrázky. Případy použití zahrnují: generování popisků, podrobnou analýzu obrázků reálného světa a čtení dokumentů s obrázky.
API pro obrázky umožní vývojářům programově generovat obrázky a návrhy v jejich produktech.
API pro převod textu na řeč umožní vývojářům generovat z textu řeč v lidské kvalitě.
Nižší ceny a vyšší limity
Input tokeny GPT-4 Turbo budou nyní 3x levnější než GPT-4 za 0.01 USD. Výstupní tokeny budou 2x levnější za 0.03 USD.
GPT-3.5 Turbo bude mít také podobně nižší ceny.
OpenAI také zdvojnásobuje limit tokenů za minutu pro všechny platící zákazníky GPT-4.
Právní štít
OpenAI uvedla, že bude bránit zákazníky ChatGPT Enterprise a vývojářské platformy a hradit náklady, pokud budou čelit právním nárokům v souvislosti s porušením autorských práv. Podobou nabídku v minulosti představil Google i Microsoft.
Pro další novinky, mezi které zahrnují novou verzi Whisperu (v3), si projděte článek na webu OpenAI nebo keynote Sama Altmana, kde vše krátce představí.
⏩ Ve zkratce
01.AI, firma čínské AI hvězdy Kai-Fu Leeho, představila svůj první open-source model Yi-34B, který má být další čínskou odpovědí na ChatGPT.
Amazon údajně vytváří model s kódovým označením "Olympus" – má mít 2 biliony parametrů, což by z něj mohlo učinit jeden z největších trénovaných modelů (GPT-4 má mít jeden bilion parametrů).
Samsung představil svůj model Samsung Gauss – plánuje jej integrovat do svých chytrých telefonů, tabletů a notebooků.
Phind představil svůj model 7. generace, který má překonávat GPT-4 v kódování, rychlosti GPT-3.5 a kontextu 16 tisíc tokenů.
Mozilla představuje Fakespot Chat, svůj první model a chatbota, který pomáhá uživatelům vyhledávat online produkty.
IBM oznámila vytvoření AI fondu v hodnotě $500M, který podpoří startupy zaměřené na umělou inteligenci pro podniky a firemní zákazníky.
Humane dala do prodeje svůj “AI pin” (odznak). Nový typ výpočetní techniky má stát $699 + $24/měsíc za doprovodnou aplikaci.
EU AI Act narazil na odpor velkých zemí (Francie, Německo, Itálie) – ty odmítají navrhované úpravy pro základní modely, čímž vrací do hry možnost, že ve stávající formě se legislativa neprosadí.
📚 Co si přečíst, zhlédnout, a poslechnout
▶️ Ilya Sutskever (Chief Scientist, OpenAI) v povedeném mini-dokumentu (12 min) přirovnává situaci lidé vs AGI k zvířata vs lidé. Paráfrazuji: zvířata máme sice rádi, ale pokud někde potřebujeme postavit dálnici, neptáme se jich na povolení. Vynikající produkce dodává některým slovům (z let 2016-2019) silně dystopický podkres. Jde o remix záběrů ze staršího dokumentu iHuman.
🎧 Podcast Latent Space se věnuje rozboru OpenAI DevDay. Ideální zdroj pro vývojáře.
䷉ Techcrunch si všímá rozmachu francouzské AI scény. Nejen Mistral, ale i Dust či Poolside budují z Paříže, jenž se po Londýnu pyšní nejvyšší koncentrací AI talentu v Evropě.
䷉ Luttig z Founders Fund se podíval na GPUs a Nvidii a položil si otázku: může současná horečka pokračovat?
䷉ IDC vydalo report o ROI generativní AI ve firmách (2100 respondentů z businessu, objednaný Microsoftem), jenž říká, že průměrná návratnost investic do AI je 3,5x.
䷉ Ještě jednou doporučení na český newsletter o AI od prg.ai. Pokrývá všechno lokální, co my ne.
📕 Stanfordská profesorka a jedna z nejvýznamnějších AI výzkumnic Fei-Fei Li vydává knížku The Worlds I See: Curiosity, Exploration, and Discovery at the Dawn of AI.
💰Investice
🇩🇪 Čtyři roky starý německý AI lab Aleph Alpha získal v rámci Series B $500M. Kolo vedly Innovation Park Artificial Intelligence, Schwarz Group a Bosch Ventures za účasti dalších (např. SAP and HP Enterprise). Aleph Alpha sídlí v Heidelbergu a podobně jako Mistral AI chce být evropskou alternativou k OpenAI/Anthropicu.
🇬🇧 Stability AI po náročném období získala od Intelu konvertibilní úvěr v hodnotě necelých $50M. V principu jde o tzv. bridge a firma bude brzy potřebovat další financování. Coatue a Lightspeed opouští board.
🇮🇱 Tabnine získala $25M v rámci Series B vedeném Telstra Ventures, do kterého přispěly také Atlassian Ventures a další. Firma podobně jako GitHub Copilot využívá AI ke generování kódu.
🇺🇸 Wraithwatch získala $8M seed, kolo vedl Founders Fund. Firma chce bojovat proti AI generovaným kyberhrozbám.
🆇 Výběr z X
“AI je jenom hype.”
Podobný názor se objevuje při každém velkém oznámení OpenAI (např. fine-tuning). Tento týden je to ale konsenzus. Jeden příklad s Assistants API.
Aktuální situace v HR je, že náboráři si stěžují, že jsou zahlcení AI generovanými žádostmi. Frustrovaní kandidáti (mj. i z absence či pomalosti odpovědí) sahají po nástrojích jako LazyApply či Sonara, jež pomáhají rychleji reagovat na mnoho nabídek.