Miton AI Newsletter

Share this post

Otevřený dopis: Zastavte AI experimenty

mitonainewsletter.substack.com

Otevřený dopis: Zastavte AI experimenty

Po ChatGPT pluginech je největší AI zprávou výzva, jež varuje a žádá: dejme si 6 měsíců pauzu!

Miton
Mar 31, 2023
Share

Ahoj!

Startujeme newsletter, jehož cílem je informovat o posledním vývoji v oblasti umělé inteligence, se zaměřením na velké jazykové modely a generativní AI.

O čem to bude? Pohled businessu na trendy, use-casy a startup příležitosti.

Pro koho? Zakladatele současné i budoucí, investory, a všechny nadšence do AI.

Jak? Procházíme stovky zdrojů, filtrujeme šum a shrnujeme jen to nejdůležitější.

A proč vlastně? Sdílením obsahu, jejž sami sledujeme, chceme přispět k rozvoji místní AI scény. Věříme, že v ČR brzy vzniknou nové AI firmy s globální ambicí (jako naše portfoliové Rossum či Equilibre).

Díky, že jste tady, a přeji příjemné čtení!
Za Miton tým, František Dalecký


🚀 Hlavní zpráva

Pause Giant AI Experiments: An Open Letter - Future of Life Institute

Otevřený dopis o AI, jenž se se dostal i do televizních zpráv

Nezisková organizace Future of Life Institute publikovala otevřený dopis, který vyzývá k zastavení vývoje modelů silnějších než GPT-4, a to na dobu alespoň 6 měsíců. Dopis není adresovaný konkrétně, ale jde vytušit, že cílí především na OpenAI, případně Google. Mezi známé signatáře patří Elon Musk, spoluzakladatel Applu Steve Wozniak, historik Yuval Noah Harari, nebo šéf Stability AI Emad Mostaque. Dopis si získal pro svou naléhavost značnou pozornost.

Varuje, že lidstvo není na nástup AI připraveno. Nedostatek plánování a rychlost vývoje může vést ke katastrofě; AI je existenciální riziko. Konkrétně dopis varuje před záplavou dezinformací, dopady automatizace práce a také tím, že neexistuje žádný dohled a regulace.

K výzvě se připojila řada zvučných jmen AI světa, mnozí další jej ale odsoudili. Arvind Narayanan a Sayash Kapoor z Princetonu tvrdí, že dopis ignoruje reálná rizika a prezentuje ta více sci-fi. V konečném důsledku tak jen živí AI hype a pomáhá nejsilnějším hráčům.

Andrew Ng (zakladatel Coursery, CEO Landing AI) se pak na LinkedInu vyjádřil, že návrh na AI moratorium vnímá jako velmi špatný nápad – navíc nepraktický a nevynutitelný. Jediná možnost, jak vývoj zastavit, je vstup regulátorů, což je nekompetitivní a špatná inovační politika. Yaan LeCun z Mety souhlasí, dopis mu taky nedává smysl. A pak je na zvážení: Pokud už se nyní OpenAI chová jako CloseAI, jak asi zareaguje na podobný tlak?

Pro některé je ale 6měsíční stopka málo. Eliezer Yudkowsky říká, že bychom to měli vypnout všechno.

Ať už je to jakkoli, zvykejme si na to, že debata o AI začne být nejen všudypřítomná, ale i daleko vyhrocenější.

🗞️ Rychlovky

Perplexity - Ask AI

AI search startup Perplexity AI získává $26m v rámci Series A a spouští aplikaci pro iPhone. Pokud vás téma vyhledávání zajímá, projeďte si naše starší vlákno na Twitteru.

Microsoft postupně buduje kopiloty pro různé pracovní funkce. Nyní spustil asistenta pro kyberbezpečnost.

Google Cloud a Replit navazují strategické partnerství. Replit získá přístup k AI infrastruktuře a modelům. Google Cloud a Workspace vývojáři budou moci využívat nástroje na kolaborativní práci s kódem od Replitu. Potenciálně jde o konkurenci pro GitHub Co-pilot, jejž vlastní Microsoft (minulý týden oznámil Co-pilot X).

Konkurence GPT-4 od Google Brain + DeepMind se jmenuje Gemini. Práce na modelu v podobných parametrech měla údajně začít před několika týdny.

Report Goldman Sachs tvrdí, že AI zasáhne až 300 milionů pracovních pozic. Největší dopad bude mít dle analytiků GS na právní a administrativní pozice.

🛠️ AI prakticky

David Sacks (Craft Ventures) vytvořil ve spolupráci s ChatGPT článek, ve kterém vzpomíná na Jigsaw a jeho give-to-get model. Výměnou za svá data získávali uživatelé přístup ke službě. Unikátní datasety jsou jedním z mála zdrojů defensibility AI startupů; jejich získání ale může být náročné. Článek naznačuje, že crowdsourcing dat od uživatelů výměnou za body či kredity k užívání dané služby může být pro startupy jednou z cest. Zajímavé je i projít si chat Sacks-ChatGPT a způsob, jakým pracoval. Inspirace pro tvorbu obsahu i výzkum.

📚 Co číst, vidět a slyšet

  • ▶️Podcast s Ilyou Sutskeverem (OpenAI Chief Scientist) se věnuje tématu AGI, alignmentu, ale řeší i technické aspekty, např. jak naloží s nedostatkem tokenů na internetu.

  • ▶️Poslední All-In podcast se věnuje především AI: ChatGPT pluginům, AGI i zmíněnému dopisu.

  • ▶️Historické okénko: krátký klip Arthura C. Clarka z roku 1964 s několika predikcemi o AI. Tenkrát to divákům BBC muselo připadat šílené!

  • ䷉Long read s názvem Attention is All You Need (reference na paper, jenž představil Transformery) se podrobněji dívá na OpenAI a ChatGPT pluginy. Autor ukazuje, jak se OpenAI ze svého “research preview” rychle a možná i trochu omylem dostalo do pozice, která v historii technologií nemá obdoby: Super-agregátor s dokonalým business modelem.

🇨🇿 Z Česka

  • ChatGPT si podmanil český byznys. Používají ho bankéři, startupisté i výrobci.

  • První AI hackathon v ČR bude v Praze, 21.-22. 4. Pokud máte nápad na AI produkt nebo chcete jen prozkoumat dosavadní hranice AI modelů, přihlaste se.

    Twitter avatar for @PetrBrzek
    Petr Brzek @PetrBrzek
    Tak hackathon se nám pěkně plní. Sponzory se podařilo najít, takže bude co jíst 🎉. Ještě řešíme kredity od OpenAI. Nicméně pokud jste se ještě nepřihlásili a máte zájem, tak je pořád dost času. 👇 pragueaihackathon.cz
    pragueaihackathon.czPRAGUE AI HACKATHONPřidejte se k nám na AI hackathonu v Praze 21.-22. dubna 2023 a spolupracujte s odborníky na vytváření inovativních řešení pomocí generativních AI technologií, jako je ChatGPT. Nezmeškejte tuto příležitost!
    1:30 PM ∙ Mar 31, 2023
    1Like1Retweet

🐦 Výběr z Twitteru

Twitter avatar for @gdb
Greg Brockman @gdb
Retrieval is probably going to be the most ubiquitous language model plugin for the near future, since it allows any organization to make their data searchable (with full control over permissions etc) by an AI:
Twitter avatar for @isafulf
Isabella Fulford @isafulf
🌟 Our ChatGPT Retrieval Plugin is #1 trending on GitHub! Improve your ChatGPT experience by accessing relevant information from your personal or organizational documents using OpenAI's embeddings models and vector databases. Here's a quick overview:
3:02 PM ∙ Mar 26, 2023
1,752Likes210Retweets

Potenciální zabiják mnoha knowledge management startupů se jmenuje ChatGPT Retrieval Plugin.

Twitter avatar for @karpathy
Andrej Karpathy @karpathy
Good example of us not seeing max GPT-4 capability yet, imo. Prompt design, tool use, meta cognition strategies (eg idea of attempt, critique, retry, capabilities model, etc) are very likely to go a long way.
Twitter avatar for @ericjang11
Eric Jang @ericjang11
Instead of finding the perfect prompt for an LLM (let's think step by step), you can ask LLMs to critique their outputs and immediately fix their own mistakes. Here's a fun example:
5:26 PM ∙ Mar 26, 2023
1,981Likes203Retweets

Tip: zkuste říct ChatGPT, ať sám hodnotí a opravuje své výstupy.

Twitter avatar for @EMostaque
Emad @EMostaque
@SubsetTopology About $200-300m roughly assuming appropriate talent is there Lots of important questions about who decides some key decisions around how it is built
6:04 PM ∙ Mar 26, 2023
205Likes10Retweets

Odpověď na otázku: kolik by stálo postavit konkurenta GPT-4 od nuly?

Twitter avatar for @amasad
Amjad Masad ⠕ @amasad
"Make me an app"—just talk to your @Replit app to make software
7:56 PM ∙ Mar 24, 2023
5,720Likes914Retweets

Jaká je budoucnost no-code, pokud bude možné vytvářet aplikace na základě přirozeného jazyka?

🤖 Vtip na konec

Twitter avatar for @elonmusk
Elon Musk @elonmusk
Old joke about agnostic technologists building artificial super intelligence to find out if there’s a God. They finally finish & ask the question. AI replies: “There is now, mfs!!”
6:37 AM ∙ Mar 30, 2023
203,602Likes21,384Retweets

To je z prvního vydání vše. Pro další novinky sledujte náš Twitter, LinkedIn či blog.

A pokud se vám newsletter líbil, přihlaste si odběr a sdílejte jej prosím dál.

Moc díky za váš čas a pozornost!

Share
Next
Top
New

No posts

Ready for more?

© 2023 Miton
Privacy ∙ Terms ∙ Collection notice
Start WritingGet the app
Substack is the home for great writing