AI-onderzoekers zeggen dat DeepMind’s zoektocht naar AI mogelijk niet succesvol is

Computerwetenschappers vragen zich af of DeepMind en het alfabetEen Brits bedrijf dat algemeen bekend staat als een van ’s werelds toonaangevende laboratoria voor kunstmatige intelligentie, zal ooit machines kunnen maken met het soort ‘algemene’ intelligentie dat we bij mensen en dieren zien.

In zijn streven naar kunstmatige algemene intelligentie, ook wel AI op menselijk niveau genoemd, richt DeepMind een groot deel van zijn inspanningen op een benadering die ‘reinforcement learning’ wordt genoemd.

Dit omvat het programmeren van een AI om bepaalde acties te ondernemen om de kansen op het verdienen van een beloning in een bepaalde situatie te maximaliseren. Met andere woorden, het algoritme “leert” een taak te voltooien door te zoeken naar deze voorgeprogrammeerde beloningen. Deze techniek is met succes gebruikt om AI-modellen te trainen in het spelen van (en uitblinken in) spellen zoals Go en schaken. Maar het blijft relatief dom of “smal”. De populaire AlphaGo AI-software van DeepMind kan bijvoorbeeld geen stickman tekenen of het verschil zien tussen een kat en een konijn, terwijl een zevenjarige dat wel kan.

Desondanks gelooft DeepMind, dat in 2014 door Google werd overgenomen voor ongeveer $ 600 miljoen, dat AI-systemen die worden aangedreven door versterkend leren theoretisch kunnen groeien en zoveel kunnen leren dat ze de theoretische barrière voor AI doorbreken zonder nieuwe technologische vooruitgang.

Onderzoekers van het bedrijf, dat is uitgegroeid tot ongeveer 1.000 mensen die eigendom zijn van Alphabet, voerden aan dat de een laken Ik presenteerde vorige maand aan het peer-reviewed Artificial Intelligence Journal dat “de beloning voldoende is” voor toegang tot algemene AI. was de krant Voor het eerst gerapporteerd door VentureBeat vorige week.

In de paper beweren de onderzoekers dat als je een algoritme blijft “beloont” elke keer dat je iets doet dat je wilt, wat de kern is van versterkend leren, het uiteindelijk tekenen van algemene intelligentie zal vertonen.

De auteurs schrijven: “Beloning is voldoende om gedrag aan te sturen dat de bestudeerde vaardigheden in natuurlijke en kunstmatige intelligentie vertoont, inclusief kennis, leren, cognitie, sociale intelligentie, taal, generalisatie en imitatie.”

“We stellen voor dat klanten die door middel van vallen en opstaan ​​leren om de beloning te maximaliseren, gedrag kunnen leren dat de meeste, zo niet al deze mogelijkheden vertoont, en dus kunnen krachtige leermiddelen voor versterking een AGI-oplossing vormen.”

Niet iedereen is echter overtuigd.

Sam Weniger, een onderzoeker op het gebied van kunstmatige intelligentie in Berlijn, vertelde CNBC dat DeepMind’s “beloning is genoeg”-opvatting “een enigszins marginale filosofische positie is, misleidend gepresenteerd als een harde wetenschap”.

Hij zei dat het pad naar AGI complex is en dat de wetenschappelijke gemeenschap erkent dat er talloze uitdagingen en bekende onbekenden zijn die “terecht een gevoel van nederigheid bijbrengen” bij de meeste onderzoekers in het veld en hen ervan weerhouden om “grootvaders uitspraken” zoals “RL is het ultieme antwoord, wat je ook nodig hebt is de beloning.”

DeepMind vertelde CNBC dat hoewel versterkingsleren achter enkele van de meest bekende onderzoeksresultaten zit, AI-technologie slechts een fractie is van het totale onderzoek dat het doet. Het bedrijf zei dat het het belangrijk vindt om dingen op een meer fundamenteel niveau te begrijpen, en daarom streeft het naar andere gebieden, zoals ‘symbolische AI’ en ‘populatiegebaseerde training’.

“In de ietwat typische benadering van DeepMind kozen ze ervoor om gedurfde uitspraken te doen die koste wat kost de aandacht zouden trekken, in plaats van een meer subtiele benadering,” zei Weiniger. “Dit staat dichter bij politiek dan bij wetenschap.”

Stephen Meriti, een onafhankelijke onderzoeker in kunstmatige intelligentie, vertelde CNBC dat er een “verschil is tussen theorie en praktijk”. Hij merkte ook op dat “een stapel dynamiet waarschijnlijk genoeg zou zijn om er een naar de maan te brengen, maar het is niet echt praktisch.”

Uiteindelijk is er in beide gevallen geen bewijs om te zeggen of versterkend leren ooit zal leiden tot kunstmatige algemene intelligentie.

“De waarheid is dat niemand het weet en het belangrijkste product van DeepMind is nog steeds public relations, niet technische of productinnovatie”, vertelde Rodolfo Rosini, een tech-investeerder en ondernemer gericht op kunstmatige intelligentie, aan CNBC.

Ondernemer William Tunstall-Pedoe, die de Siri-achtige Evi-app verkocht aan Amazone, vertelde CNBC dat zelfs als de onderzoekers gelijk hadden “het niet betekent dat we er snel zullen zijn, noch betekent het dat er geen betere, snellere manier is om daar te komen.”

DeepMind’s Reward is genoeg paper is co-auteur van Richard Sutton en David Silver, die in de jaren negentig DeepMind CEO Demis Hassabis ontmoetten aan de universiteit van Cambridge.

Het grootste probleem met de stelling van “beloning is voldoende” is niet dat het verkeerd is, maar dat het niet verkeerd kan zijn, en daarom niet bevredigt. De beroemde Karl Popper-standaard “Alle wetenschappelijke hypothesen zijn falsifieerbaar”, zei een senior AI-onderzoeker bij een groot Amerikaans technologiebedrijf, die vanwege het gevoelige karakter van de discussie anoniem wilde blijven.

“Omdat Silver et al. in het algemeen spreken en het beloningsidee niet voldoende is gedefinieerd, kun je altijd gevallen kiezen waarin aan de hypothese wordt voldaan, of het beloningsidee kan worden gewijzigd zodat het wordt bevredigd”, voegde de bron eraan toe.

“Als zodanig is het ongelukkige oordeel hier niet dat deze prominente leden van onze onderzoeksgemeenschap het op de een of andere manier fout hebben gedaan, maar eerder dat wat er is geschreven triviaal is. Wat wordt er uiteindelijk uit dit artikel geleerd? Bij gebrek aan praktische , bruikbare bevindingen Van de erkenning van de onvervreemdbare waarheid van deze hypothese, was dit document voldoende?”