Hoe neutraal is de Nobelprijs nog?

Bij de vredesprijs kan ik me nog voorstellen dat het Zweedse Nobelcomité invloed probeert uit te oefenen op de richting van de geschiedenis en de vaart der volkeren*. Maar nu bij natuurkunde, is het dan nodig om richting te willen geven in een net opgestart AI-debat en de ethische gevolgen? Hopfield is een informaticus - begrijp ik - of werkt in de IT en doet onderzoek naar neurale netwerken, en is zodoende geen echte fysicus die "fundamenteel" onderzoek doet. Ook zo'n ouderwets woord, overigens. Wat is nog fundamenteel in deze wereld?

Computable

"De Nobelprijs voor Natuurkunde gaat dit jaar naar de ai-wetenschappers Geoffrey Hinton en John Hopfield. Beiden worden gezien als de grondleggers van de kunstmatige intelligentie.

Voor Geoffrey Hinton kwam de aankondiging van de Zweedse Academie van Wetenschappen als een grote verrassing. De 76-jarige ai-veteraan werkte tot mei 2023 nog voor Google. Maar omdat hij zich vrijuit wilde uitspreken over de risico’s van ai-technologie, keerde Hinton Google de rug toe.

De Brits-Canadese computerwetenschapper geldt als pionier op gebied van kunstmatige neurale netwerken die de ruggengraat van de huidige ai-revolutie vormen. Samen met de Amerikaan John Hopfield (Princeton University) deed hij ontdekkingen en uitvindingen die het computers mogelijk maken om te leren met behulp van kunstmatige neuronetwerken. Het duo stond aan de wieg van de technologie die toepassing vindt bij ai-bedrijven als OpenAI. ...

 

Hinton beseft maar al te goed welke risico’s zijn onderzoek naar zelflerende machines met zich mee kunnen brengen. Ook Robert Oppenheimer, de vader van de atoombom, kwam tot dit soort zelfreflectie. Hij werd na de eerste testen van deze wapens diep bezorgd over hun verwoestende kracht. Anders dan Oppenheimer heeft Hinton geen spijt van zijn ontdekkingen. Wel maakt hij zich zorgen over de  ‘mogelijk slechte gevolgen’ van zijn onderzoek. Hij is met name bang dat we de controle daarover verliezen. Eerder sprak hij de vrees uit dat de concurrentiestrijd tussen techbedrijven de ontwikkeling van ai-systemen zo opvoert dat die te snel gaat.

Tijdens de aankondiging van de Nobelprijzen in Stockholm uitte Hinton opnieuw zijn zorgen over machine learning en de invloed van ai op de samenleving. ‘Het zal vergelijkbaar zijn met de Industriële Revolutie,’ zei hij. ‘In plaats van mensen te overtreffen in fysieke kracht, zal het mensen overtreffen in intellectuele capaciteiten. We hebben geen ervaring met hoe het is om dingen slimmer te hebben dan wij.’

Dr. Hopfield begon zijn carrière bij Bell Laboratories in 1958 als natuurkundige die de eigenschappen van vaste materie bestudeerde, maar voelde zich beperkt door de grenzen van zijn vakgebied. Hinton en Hopfield hanteerden hulpmiddelen uit de natuurkunde om fundamenteel onderzoek op ai-gebied te bevorderen. Hopfield creëerde een associatief geheugen dat afbeeldingen in data kan opslaan en reconstrueren, terwijl Hinton een manier bedacht om eigenschappen in data te vinden en taken uit te voeren zoals het identificeren van specifieke elementen in afbeeldingen.

Hinton gebruikte het Hopfield-netwerk als de basis voor een nieuw netwerk genaamd de Boltzmann-machine die elementen binnen een bepaald type data kan leren herkennen. De Boltzmann-machine kan afbeeldingen classificeren en nieuwe voorbeelden genereren van het patroon waarop hij is getraind. Hinton en zijn afgestudeerde studenten bouwden later voort op dit werk om de huidige snelle ontwikkeling van machinaal leren in te luiden – een technologie die nu ten grondslag ligt aan een groot aantal toepassingen, variërend van grote taalmodellen zoals ChatGPT tot zelfrijdende auto’s" (https://www.computable.nl/2024/10/09/nobelprijs-voor-natuurkunde-naar-ai-onderzoekers-hinton-en-hopfield/)

El Economista

"De recente winnaar van de Nobelprijs voor de Natuurkunde 2024, Geoffrey E. Hinton, beter bekend in de technologiesector als de ‘peetvader van de kunstmatige intelligentie’, verzekerde tijdens zijn toespraak afgelopen dinsdag dat hij, afgezien van al zijn prestaties gedurende zijn carrière, ‘bijzonder trots was dat een van mijn studenten Sam Altman ontsloeg", terwijl hij een duidelijke gifpijl naar de CEO van OpenAI gooide.

Hinton won deze zeer belangrijke prijs deze week gedeeltelijk voor zijn werk met kunstmatige neurale netwerken, maar hij is een van de eerste mensen en een van de historisch gezien belangrijkste profielen in de wereld van AI. Iets meer dan een jaar geleden besloot hij zijn baan bij Google op te zeggen om de samenleving te waarschuwen en te informeren over de potentiële gevaren van deze technologie en het gebruik ervan, zonder de reputatie van het bedrijf aan te tasten of te beschadigen.

En Hinton is een van de vaandeldragers geworden in het bieden van context en het werpen van licht op de gevaren en slechte praktijken die bepaalde bedrijven uitvoeren om AI maximaal te gelde te maken. En in een scenario dat zo belangrijk is als dat van het innen van een Nobelprijs, aarzelde Hinton niet om Sam Altman, CEO van OpenAI en maker van ChatGPT, als gevaar te bestempelen vanwege zijn ambities met deze technologie.

"Ik ben bijzonder trots dat een van mijn studenten Sam Altman heeft ontslagen. En ik denk dat het het beste is om het daarbij te laten", zei Hinton, verwijzend naar Ilya Sutskever, mede-oprichter van OpenAI, die zijn student was terwijl hij promoveerde aan de Universiteit van Toronto.

De reden dat hij dat zei was omdat Sutskever verantwoordelijk was voor het feit dat bijna een jaar geleden de CEO van OpenAI, Sam Altman, werd ontslagen vanwege zijn "agressieve" benadering van de ontwikkeling van AI en zijn geheimhouding.

Hoewel het waar is dat het OpenAI-bestuur kort daarna rectificeerde en Altman werd hersteld en zijn positie terugkeerde, veroorzaakte dat echter een domino-effect dat bij alle bestuursleden buiten het bedrijf terechtkwam, inclusief Sutskever, dat hij zijn eigen bedrijf oprichtte Veilige SuperIntelligence (SSI).

Maar Hilton heeft niet alleen last van Altmans benadering van de ontwikkeling van AI, maar is ook zeer kritisch over de wending die OpenAI heeft genomen, waarbij altruïsme is opgegeven ten gunste van winstgevendheid, wat weer tot hetzelfde leidt: de focus verlaten , en plaats het vóór ontwikkeling.

Bij andere technologieën is het misschien niet zo gevaarlijk, maar als we het over AI hebben, hebben we het over het geven van menselijke capaciteiten aan machines, iets dat zonder controle heel slecht kan aflopen, omdat het steeds moeilijker zal worden om de resultaten van deze technologieën te voorspellen en te controleren. die AI-modellen.

Hinton is niet de enige persoonlijkheid in de sector die Altman heeft bekritiseerd, en mensen die zo invloedrijk en machtig zijn als Elon Musk hebben dat ook bij talloze gelegenheden om soortgelijke redenen gedaan. Niemand twijfelt eraan dat AI een instrument is dat ons leven radicaal zal veranderen, maar bij de ontwikkeling ervan moeten de mens en zijn veiligheid altijd voorrang krijgen, precies zoals deskundigen zonder monetaire belangen achter zich vragen." (Bron: Miguel Terán Haughey, https://www.eleconomista.es/tecnologia/noticias/13027258/10/24/el-dardo-envenenado-que-el-nobel-de-fisica-y-padrino-de-la-inteligencia-artificial-ha-lanzado-a-sam-altman-openai.html)

... Als contraire denker zou je deze toekennen kunnen zien als het hoogtepunt van de AI-hype. Net zoals de vredesprijs aan Obama in 2009 ook het begin was van het eind van de vredestijd in de wereld. Sindsdien en vooral sinds de GFC (Great Financial Crisis) neemt de onrust in de wereld toe.

Zou AI daar een antwoord op hebben?

-- zoals bijna ieder jaar zorgde het Nobelcomité ook bij deze toekenning van de Vredesprijs voor een verrassing. Geen organisatie in het Midden-Oosten of in Oekraïne werd bekroond, maar het Japanse Nihon Hidankyo dat alle kernwapens uit de wereld wil hebben. Verrassend, maar zeker geen onlogische keus: bij veel brandhaarden wordt immers geregeld gedreigd nucleaire wapens in te zetten (bron: NRC). 

-- 15 oktober lees ik de verontwaardiging van een bekende econoom over de toekenning aan Daron Acemoglu. Maar daar moet ik nog op zoek naar de on-neutraliteit.

--

2023/10/nobelprijs-economie-voor-claudia-goldin