Het blijkt dat het huidige AI-landschap terug te voeren is op angst, jaloezie en intense kapitalistische ambitie. Ten eerste de e-mails die zijn onthuld in de antitrustzaak van het ministerie van Justitie tegen Google genoemd door Geïnteresseerd in handel, toont leidinggevenden van Microsoft die hun ergernis en afgunst uiten over de vooruitgang van Google op het gebied van kunstmatige intelligentie. Dit creëerde een urgentie die ertoe leidde dat de Windows-maker een initiële investering van $1 miljard deed in zijn nu onmisbare partner, OpenAI.
In een zwaar geredigeerde e-mailserie uit 2019 met de titel ‘Thoughts on OpenAI’ stuurt Microsoft-CEO Satya Nadella een lange brief van CTO Kevin Scott naar CFO Amy Hood. “Een zeer goede e-mail waarin wordt uitgelegd waarom ik wil dat we dit doen… en ook waarom we ervoor zullen zorgen dat onze infrastructuurmedewerkers dit doen”, schreef Nadella.
Scott schreef dat hij “diep bezorgd” was over de snelgroeiende AI-mogelijkheden van Google. Hij zegt dat hij aanvankelijk de 'opwindende gameplay-games' van het bedrijf heeft afgewezen, waarschijnlijk een verwijzing naar de AlphaGo-modellen van Google. Eén van hen versloeg in 2017 wereldkampioen Go Ke Jie, destijds een indrukwekkende prestatie. (Latere Google-modellen gingen verder dan dit model, waardoor de noodzaak voor menselijke training helemaal werd geëlimineerd.)
Maar Scott zegt dat het negeren van de vooruitgang van Google op het gebied van gaming 'een vergissing was'. “Toen ze alle infrastructuur overnamen die ze hadden aangelegd [natural language] “Modellen die we niet gemakkelijk konden repliceren, begonnen de zaken serieuzer te nemen”, schreef Scott. “Toen ik dieper verdiepte in mijn pogingen om te begrijpen waar alle hiaten in de mogelijkheden lagen tussen Google en ons op het gebied van modulaire training, voelde ik me heel erg bezorgd.”
Scott vertelt hoe Microsoft moeite had om het grote BERT-model van Google te kopiëren, het AI-model dat de betekenis en context van woorden in een zin decodeert. Scott gaf de schuld aan de sprongen in de infrastructuur van zijn concurrent, wat Microsoft niet deed.
“Het bleek dat het simpelweg repliceren van het grote BERT-model niet eenvoudig voor ons was. “Hoewel we het model al hadden, kostte het ons ongeveer zes maanden om het model te trainen, omdat onze infrastructuur niet opgewassen was tegen de taak”, aldus de CTO van Microsoft. schreef: “Google had hiervoor al minstens zes maanden BERT, dus in de tijd die het ons kostte om de mogelijkheid te hacken om een 340M-parametermodel te trainen, hadden ze een jaar om uit te zoeken hoe ze het in productie konden krijgen en verder konden gaan. naar bredere, interessantere modellen.
Hij uitte ook zijn bewondering en afgunst voor de automatische aanvulmogelijkheden van Google in Gmail en zei dat deze “beangstigend goed zijn geworden”. Hij merkte op dat Microsoft “een aantal jaren achterliep op de concurrentie op het gebied van… [machine learning] Volume.” Hij gaf commentaar op de “interessante” groei in OpenAI, DeepMind en Google Brain.
Scott prees de ‘zeer slimme’ mensen van Microsoft in zijn machine learning-teams, maar zei dat hun ambities aan banden waren gelegd. “Maar de kernteams voor diepgaand leren binnen elk van deze grote teams zijn erg klein en hun ambities zijn ook beperkt, wat betekent dat zelfs als we ze middelen gaan geven, ze nog steeds een leerproces moeten doorlopen om het werk op te schalen,” Scott schreef. “En we lopen een aantal jaren achter op de concurrentie als het gaat om machine learning.”
Nadat Hood erop aandrong dat Scott zich zorgen maakte over “waarom wil ik dat we dit doen”, namelijk investeren in OpenAI, voerde het bedrijf de wensen van de CEO uit. Microsoft investeerde in 2019 $1 miljard in de door Sam Altman geleide startup, en de rest is een snel veranderende geschiedenis. (Het heeft nu $ 13 miljard geïnvesteerd.) Het is een technologie die ongelooflijke dingen doet, maar de arbeidsmarkt dreigt te vernietigen en predikers het krachtigste instrument tot nu toe geeft in een tijdperk van ongebreidelde desinformatie.
‘Reader. Furious humble travel enthusiast. Extreme food scientist. Writer. Communicator.’
