Otevřený dopis: Zastavte AI experimenty

Po ChatGPT pluginech je největší AI zprávou výzva, jež varuje a žádá: dejme si 6 měsíců pauzu!

Mar 31, 2023

Ahoj!

Startujeme newsletter, jehož cílem je informovat o posledním vývoji v oblasti umělé inteligence, se zaměřením na velké jazykové modely a generativní AI.

O čem to bude? Pohled businessu na trendy, use-casy a startup příležitosti.

Pro koho? Zakladatele současné i budoucí, investory, a všechny nadšence do AI.

Jak? Procházíme stovky zdrojů, filtrujeme šum a shrnujeme jen to nejdůležitější.

A proč vlastně? Sdílením obsahu, jejž sami sledujeme, chceme přispět k rozvoji místní AI scény. Věříme, že v ČR brzy vzniknou nové AI firmy s globální ambicí (jako naše portfoliové Rossum či Equilibre).

Díky, že jste tady, a přeji příjemné čtení!
Za Miton tým, František Dalecký

🚀 Hlavní zpráva

Pause Giant AI Experiments: An Open Letter - Future of Life Institute

Otevřený dopis o AI, jenž se se dostal i do televizních zpráv

Nezisková organizace Future of Life Institute publikovala otevřený dopis, který vyzývá k zastavení vývoje modelů silnějších než GPT-4, a to na dobu alespoň 6 měsíců. Dopis není adresovaný konkrétně, ale jde vytušit, že cílí především na OpenAI, případně Google. Mezi známé signatáře patří Elon Musk, spoluzakladatel Applu Steve Wozniak, historik Yuval Noah Harari, nebo šéf Stability AI Emad Mostaque. Dopis si získal pro svou naléhavost značnou pozornost.

Varuje, že lidstvo není na nástup AI připraveno. Nedostatek plánování a rychlost vývoje může vést ke katastrofě; AI je existenciální riziko. Konkrétně dopis varuje před záplavou dezinformací, dopady automatizace práce a také tím, že neexistuje žádný dohled a regulace.

K výzvě se připojila řada zvučných jmen AI světa, mnozí další jej ale odsoudili. Arvind Narayanan a Sayash Kapoor z Princetonu tvrdí, že dopis ignoruje reálná rizika a prezentuje ta více sci-fi. V konečném důsledku tak jen živí AI hype a pomáhá nejsilnějším hráčům.

Andrew Ng (zakladatel Coursery, CEO Landing AI) se pak na LinkedInu vyjádřil, že návrh na AI moratorium vnímá jako velmi špatný nápad – navíc nepraktický a nevynutitelný. Jediná možnost, jak vývoj zastavit, je vstup regulátorů, což je nekompetitivní a špatná inovační politika. Yaan LeCun z Mety souhlasí, dopis mu taky nedává smysl. A pak je na zvážení: Pokud už se nyní OpenAI chová jako CloseAI, jak asi zareaguje na podobný tlak?

Pro některé je ale 6měsíční stopka málo. Eliezer Yudkowsky říká, že bychom to měli vypnout všechno.

Ať už je to jakkoli, zvykejme si na to, že debata o AI začne být nejen všudypřítomná, ale i daleko vyhrocenější.

🗞️ Rychlovky

AI search startup Perplexity AI získává $26m v rámci Series A a spouští aplikaci pro iPhone. Pokud vás téma vyhledávání zajímá, projeďte si naše starší vlákno na Twitteru.

Microsoft postupně buduje kopiloty pro různé pracovní funkce. Nyní spustil asistenta pro kyberbezpečnost.

Google Cloud a Replit navazují strategické partnerství. Replit získá přístup k AI infrastruktuře a modelům. Google Cloud a Workspace vývojáři budou moci využívat nástroje na kolaborativní práci s kódem od Replitu. Potenciálně jde o konkurenci pro GitHub Co-pilot, jejž vlastní Microsoft (minulý týden oznámil Co-pilot X).

Konkurence GPT-4 od Google Brain + DeepMind se jmenuje Gemini. Práce na modelu v podobných parametrech měla údajně začít před několika týdny.

Report Goldman Sachs tvrdí, že AI zasáhne až 300 milionů pracovních pozic. Největší dopad bude mít dle analytiků GS na právní a administrativní pozice.

🛠️ AI prakticky

David Sacks (Craft Ventures) vytvořil ve spolupráci s ChatGPT článek, ve kterém vzpomíná na Jigsaw a jeho give-to-get model. Výměnou za svá data získávali uživatelé přístup ke službě. Unikátní datasety jsou jedním z mála zdrojů defensibility AI startupů; jejich získání ale může být náročné. Článek naznačuje, že crowdsourcing dat od uživatelů výměnou za body či kredity k užívání dané služby může být pro startupy jednou z cest. Zajímavé je i projít si chat Sacks-ChatGPT a způsob, jakým pracoval. Inspirace pro tvorbu obsahu i výzkum.

📚 Co číst, vidět a slyšet

▶️Podcast s Ilyou Sutskeverem (OpenAI Chief Scientist) se věnuje tématu AGI, alignmentu, ale řeší i technické aspekty, např. jak naloží s nedostatkem tokenů na internetu.
▶️Poslední All-In podcast se věnuje především AI: ChatGPT pluginům, AGI i zmíněnému dopisu.
▶️Historické okénko: krátký klip Arthura C. Clarka z roku 1964 s několika predikcemi o AI. Tenkrát to divákům BBC muselo připadat šílené!
䷉Long read s názvem Attention is All You Need (reference na paper, jenž představil Transformery) se podrobněji dívá na OpenAI a ChatGPT pluginy. Autor ukazuje, jak se OpenAI ze svého “research preview” rychle a možná i trochu omylem dostalo do pozice, která v historii technologií nemá obdoby: Super-agregátor s dokonalým business modelem.