Discovery Loop is de nieuwe onderneming van vier van de meest invloedrijke AI-onderzoekers ter wereld. Jeff Dean, Sanjay Ghemawat, Quoc Le en Oriol Vinyals verlaten Google en DeepMind om de volledige experimentele cyclus van wetenschappelijk onderzoek en engineering te automatiseren. Google is een belangrijke investeerder en cloudpartner. De missie: ontdekkingen versnellen door repetitieve experimentele loops over te laten aan AI-systemen. Als dat lukt, verandert de snelheid waarmee de mensheid wetenschappelijke vooruitgang boekt fundamenteel.

Het knelpunt van de wetenschappelijke methode

De wetenschappelijke methode is een van de krachtigste instrumenten die de mensheid ooit heeft ontwikkeld. Toch is de dagelijkse uitvoering ervan traag. Onderzoek volgt een repetitieve cyclus: je stelt een experiment voor, je implementeert en voert het uit, je bestudeert de resultaten en je verfijnt je aanpak voor de volgende ronde.

Historisch gezien rustte wetenschappelijke vooruitgang op deze opeenvolgende menselijke iteraties. In veel domeinen is dat proces nog altijd uitzonderlijk langzaam en arbeidsintensief. Elke cyclus kost weken of maanden, terwijl de wereld op cruciale terreinen juist snellere doorbraken nodig heeft.

De experimentele loop automatiseren

Discovery Loop bouwt systemen de volledige experimentele loops zelfstandig laten lopen. Door frontier AI-modellen te koppelen aan grootschalige computationele infrastructuur kunnen deze systemen razendsnel experimenten voorstellen, uitvoeren en van de uitkomsten leren.

Het verschil met klassiek onderzoek zit in de schaal. Waar een menselijk team experimenten sequentieel achter elkaar afwerkt, maakt de aanpak van Discovery Loop de parallelle uitvoering van duizenden experimenten mogelijk. De iteratietijd krimpt drastisch en de kwantiteit en kwaliteit van de wetenschappelijke en technische output gaan omhoog.

Dean schetste op de Startup School van Y Combinator hoe ver dat kan gaan: het systeem kan het hele proces overnemen, van het bedenken en uitvoeren van een experiment tot het evalueren van de resultaten en het bepalen van de volgende test.

Machine learning als eerste domein

De eerste focus van Discovery Loop ligt op het automatiseren van machine learning research en engineering. Resultaten in machine learning zijn direct meetbaar, waardoor de loop van voorstellen, testen en leren relatief goed te automatiseren is.

Daarnaast treedt het bedrijf op als zijn eigen eerste klant. De geautomatiseerde ML-capaciteiten worden eerst ingezet om de eigen technologiestack razendsnel te optimaliseren. Pas daarna volgt uitbreiding naar andere domeinen. Wie zijn eigen onderzoeksproces al versnelt, bouwt bovendien een voorsprong die zichzelf versterkt.

De ambitie reikt van medicijnen tot clean energy

Het einddoel is veel groter dan machine learning alleen. Discovery Loop gelooft dat zijn aanpak elk leerproces met meetbare uitkomsten kan oplossen binnen wetenschap en engineering. Concreet mikt het bedrijf op de Grand Challenges van de National Academy of Engineering: betere medicijnen ontwikkelen, gezondheidsinformatica vooruithelpen, zonne-energie betaalbaar maken, toegang tot proper water verhogen, cyberspace beveiligen en de instrumenten van wetenschappelijke ontdekking zelf verbeteren.

Hoe sneller de loops van ontdekking draaien, hoe sneller de voordelen van wetenschap en technologie de wereld bereiken.

Wie zijn de oprichters van Discovery Loop

Het oprichtend team bestaat uit drie van de meest geciteerde onderzoekers in kunstmatige intelligentie en twee van de meest geciteerde onderzoekers in gedistribueerde systemen. Dean, Ghemawat, Le en Vinyals kennen elkaar al decennia en werkten intensief samen aan de systemen waarop het moderne internet draait.

Hun gezamenlijke erfenis omvat meerdere generaties van Google Search, Google Ads, Google News en Google Translate, plus fundamentele infrastructuur als het Google File System, MapReduce, BigTable en Spanner. Op AI-gebied staan ze aan de basis van TensorFlow, Pathways, TPU’s, AlphaChip, AlphaStar, AlphaCode, AlphaFold en Gemini. Ook model distillation, mixture-of-experts architecturen, word2vec, sequence-to-sequence modellen, chain of thought reasoning en neural architecture search dragen hun handtekening.

Dean werkte sinds 1999 bij Google, hielp Google Brain oprichten en was technisch co-lead van Gemini. Vinyals en Le schreven in 2014 samen met Ilya Sutskever de invloedrijke paper die sequence-to-sequence learning met neurale netwerken introduceerde.

Het voordeel van dit team is niet alleen technisch kunnen. Het is vooral de ongekende schaal van wat ze eerder bouwden. Full-stack systemen, chips, hardware, software-infrastructuur, ML-modellen en producten.

Verschuiving bij Google

Het vertrek van de vier onderzoekers valt samen met een grotere reorganisatie. DeepMind-oprichter Demis Hassabis stapt terug uit de dagelijkse operatie en wordt voorzitter van Google DeepMind en chief scientist van Alphabet. Koray Kavukcuoglu, dertien jaar actief bij DeepMind en oprichter van het deep learning team, krijgt de leiding over de ontwikkeling van Gemini, frontier AI-onderzoek en de Gemini-app. Hassabis concentreert zich voortaan op de langetermijnstrategie rond AGI en op Isomorphic Labs, het bedrijf voor medicijnontdekking dat uit DeepMind voortkwam.

Het vertrek valt extra op na eerdere exits van prominente onderzoekers als Noam Shazeer en John Jumper. De aandelen van Alphabet daalden meer dan vijf procent na de aankondiging.

Waarom Google investeert

Discovery Loop is opgericht als public benefit corporation, een vennootschapsvorm die naast winst ook een maatschappelijke missie formeel vastlegt. Google snijdt de band met de vertrekkende engineers niet door. Alphabet is founding investor en tekende een cloudpartnerschap die de startup van rekenkracht voorziet.

Discovery Loop krijgt toegang tot infrastructuur voor enorme aantallen experimenten zonder eerst eigen datacenters te hoeven bouwen. Google krijgt een belang in alles wat het bedrijf ontdekt en er komt een forse AI-workload bij voor Google Cloud.

Ghemawat legde aan Wired uit waarom het team ondanks die warme band toch vertrekt. Google’s systemen zijn ontworpen om producten als Search, advertenties en grote consumententoepassingen te ondersteunen. Discovery Loop wil daarentegen gespecialiseerde infrastructuur rond onderzoek bouwen. “We willen iets anders bouwen” aldus Ghemawat.

Wat Discovery Loop betekent voor de toekomst van ontdekking

Stel je een toekomst voor waarin een handjevol mensen sneller en met hogere kwaliteit onderzoek doet dan de enorme teams van vandaag. Dat is het toekomstbeeld dat Discovery Loop.

De timing is gunstig. Dat AI wetenschappelijke ontdekking kan automatiseren, is niet langer speculatief. Recent bewees Astra, een AI-systeem van OpenAI, tien lang bestaande wiskundige en wetenschappelijke stellingen voor ongeveer tweeduizend dollar aan tokenkosten. Het bewijs dat geautomatiseerd onderzoek werkt, begint zich op te stapelen.

De lakmoesproef voor Discovery Loop wordt niet de automatisering van machine learning zelf, maar de overdraagbaarheid ervan naar andere vakgebieden. Als de loop ook werkt voor materiaalwetenschap, medicijnen of energie, ontstaat een fabriek voor ontdekkingen.