Ethiek voor machines (Latorre)
Hoogleraar theoretische natuurkunde geeft zijn visie op het thema van ethiek in het licht van de opkomst van AI.
In de inleiding (het legaat van de mensheid) schrift hij dat de mens altijd met machines heeft gewerkt en de mens is slaaf geworden van comfort. In de winter willen we verwarming in de zomer airco, en bij kiespijn gaan we naar de tandarts die op een machinale wijze ons probleem oplost. IN vergelijking met de dieren is de intelligente van de mens superieur, maar ethisch is er nog ruimte voor verbetering, zo zou de mens bv meer pacifistisch kunnen zijn. En deze vraag is belangrijk nu machines nog meer beginnen te doen en vooral te denken: kunnen we morele waarden in-programmeren in deze machines?
1- machines zonder ziel.
Friederich Nietzsche zei dat het gehoor het gevoelsapparaat van de angst is. En hij refereert hieraan in het kader van de stem van de AI-agent en of we - met onze ziel - vrienden zouden kunnen worden van deze intelligentie. Om die vraag te beantwoorden gaat hij terug de geschiedenis in. De geschiedenis van de machines begon met die van brute kracht. De mens werd een verbeterde mens (aumented) door de hulp en inzet van de technologie en techniek. Machines zijn onvermoeibaar, maar daar is wel energie voor nodig. En in de industriële revolutie begon deze onvermoeidheid met de stoommachine. Machines konden krachten vervangen van de mens, als ook later, snelheid vergroten, en later volgde de precisie, bijv. bij horloges. Moord Machines kwamen er ook, en wapens zijn machines waar de ethiek per excellentie ontbreekt.
IN essentie gebruiken de machines de voordelen van energie - en zijn zo ver met een Latijns motto te typeren, alsaltius, citius, fortius. De mens houdt de ethiek van de machines in toom [behalve voor de wapens, lijkt me] en het gaat tot nu toe over brute kracht van machines zonder ziel.
Echter, wat volgt is een nieuwe kracht, de rekenmachines. Hier moet de mens het al snel afleggen en machines krijgen hun eigen (computer) taal en een imago, en Deep Blue verslaat dan de eerste mens (Kasparov). IN al deze verandering heeft de mens aan (spier)kracht ingeboet. We gaan nu naar de sportschool, maar onze spiermassa krimpt van de mensheid. "Die kracht is niet meer nodig."
[knappe structuur wat je voelt nu waar het heen gaat.]
2- machines die intelligent lijken.
Dat begint met Kunstmatige Intelligentie. Hier gaan de weddenschappen omhoog, in de zin dat er meer te verdienen valt. Latorre bespreekt hier diverse onderdelen - als voorstadia - van AI, zoals Datamining, modelleren, expert systemen en ... leren. dat doet een kind ook , door steeds maar hetzelfde te proberen tot iets lukt. Onze hersenen zijn - par excellence - systemen om te leren (overleven). Via neuronen worden paden die in feite biologische informatiesystemen nabootsen (en dan andersom gezegd). Een neuraal netwerk wordt op een zelfde manier getraind, bijv. door een letter te onderscheiden van een andere (T van C) en daarmee het herkennen van een patroon. en het meta-leren ontstaat wanneer dit een een standaard proces wordt waar de fout geminimaliseerd moet worden.
dan zijn er slimme machines. Dat begon met het herkennen van zaken. het element Deep / diep werd gebruikt wanneer een systeem veel lange van patroon herkenning in zich heeft en van scratch af aan, met kleine stapje kan leren.. Bij schaken begon het met een expert-systeem, met eenvoudige strategieën, en later werd dit complexer. Maar de menselijke hersenen zijn begrensd, we maken triviale fouten en worden beïnvloed door emoties, en die last heeft AI niet.
En daar stopt het niet. Dan komen er machines die uitvinden, en of genereren. Zoals het journalistieke werk van een AI-agent die een sport-wedstrijd kan verslaan. Zo is er ook het project, DeepBach is bedoeld om te componeren a la Bach...
Beslismachines zijn een moeilijkere stap en beslissen, zoals (bij) het rijden van een auto, het kopen van een bedrijf of het diagnosticeren van een ziekte. Wat we hier zien is ook een risico, namelijk dat van hackers. De zelf-rijdende auto kan een virus ontvangen of gehacked worden waardoor een misbruik kan ontstaan, met gevolgen.. Menselijke machines zijn die robots die op mensen lijken. Automaten en androides. Isaac Asimov verkondigde drie wetten van robots:
- - do no harm (deze wet is duidelijk overtreden bij robots voor oorlogsvoering, maar hier door denkend: zijn alle wapens niet machines met een onethische code?)
- - luister naar opdrachten
- - bescherm je eigen bestaan.
Angst voor inteligente machines. Is deze terecht? De mens is een controlerend wezen dat bang wordt van zaken waar die controle uit de hand kan lopen of waar de mens geen controle bezit. En in dat proces zijn we nu aangeland...
3 - Ethiek voor machines.
Zijn versus hoe het moet zijn. De protestante (werk) ethiek moet het opgeven voor het kapitalisme waar geld bepaalt wat goed of slecht is. In het huis van Luculus of de kunst van het eten (1927) schrijft de journalist Julio Camba over de Romeinse militair Lucius Licinio Luculus en zijn verfijnde gevoel voor (culinaire) cultuur. Hier volgt een groot aantal afscheid-nemingen, van adios aan sociale strijd, niet verantwoordelijke bedrijvigheid, adios aan het werk, religie...? Misschien blijft religie het enige niet -rationele waar de mens zich aan vast zal houden. De ethiek vervolgens? Hoe zit het daarmee, die begint - in het verhaal - met Kant en zijn categorische imperatief. Kant staat - in tegenstelling tot Aristoteles, voeg ik toe - een absolute ethiek voor: doe wij gij niet wilt dat u geschied... Zo werkt een arts. Hij ziet een ziekte bij een patiënt en zou deze zelf ook genezen willen zien.
Maar het kwaad heeft geen grote hersenen (groot brein) nodig. [vind ik een mooie uitspraak]. Het utilitarisme werkt tot onze tijdperk. Daarmee vinden we geen liefde, maar zo werkt het wel: "waar dient dit voor?", die vraag stuurt onze acties. De ethiek tot nu toe moet van de mens komen en in de machines opgenomen worden. Maar kan het ook anders, bv een coherente wil opgelegd via extrapolatie? Dat si een idee van Eliezer Yudkowski. De ethiek van Nietzsche loopt al vooruit op de AI, de supermens, maar hoe verloopt dit proces van verbeteren van de mens bij computers en machines? de ethica van Aristoteles (daar is ie) gaat over het weten van het uiteindelijke doel. Dat doel mag je niet confundir met de middelen. Maar is AI hiertoe in staat, en zal het dan de literatuur [ik neem aan over het verkrijgen van empathie] bestuderen zodat ze menselijke beslissingen kan nemen?
Hoe gaan we ethiek programmeren? Er zijn (weer) drie niveaus:
- - de fout verkleinen, zoals het begon bij een patroon herkennen van een foto
- - complexe fouten. Bijvoorbeeld bij een zelf-rijdende auto. Hier moeten ethische principes ingebouwd worden dat een ongeluk vermijden van een kind meer waarde heeft dan dat van een oudere?
- - zelfverbeterde fouten
een van de thema's is ook open-source-code. Zou niet alle code van AI-machines openbaar moeten zijn? Tracerbaarheid, die we voor tomaten hebben ontwikkeld zou hier ook moet ontworpen. Maar hier wordt het lastig in de zin, van de raaklijnen met het recht [t ik zelf toevoeg: altijd naloopt op de ontwikkelingen: recht op onze eigen data, op onze gezondheidsgegevens, en het recht op het vergeten: wanneer het rechtssysteem een fout maakt, wordt die fout dan verwijderd?] Hoe zit het breder met rechtspraak voor machines?
[ik ga hier sneller doorheen omdat er veel uitgezocht moet worden, en daarmee is het weinig interessant.]
4- machines die ons zelf overtreffen.
uiteindelijk zullen machines in hun intelligentie niet begrensd worden door biologische factoren zoals bij de mens. AI die geavanceerd is ontvangt de naam (van het natuurkundige thema singularity): Singleton, en daarvan zegt de auteur dat deze zich al vervelen.
Hoe zou je om kunnen gaan met de energietransitie, ik bedoel de AI-transitie. Je krijgt natuurlijk een [ik denk hardop] een academische stroming die AI-transitie gata heten, en een mooi principe daarin vond ik deze: het maakt niet uit wat, als het maar langzaam gaat.
De snelheid moet die van de mens zijn, niet die van de machine! [zeg ik dan]
5- Imiteren van de geest.
Het kunstmatige geweten! Waaraan denkt een superieure intelligentie? Is alles te programmeren, zoals Passie?
Er blijven vele vragen over, en ik had niet anders verwacht en in die zin valt het boek wat tegen...
"Twee tegenovergestelde denkbeelden
Prof. dr. Slavkovik’s kijk op de zaak is optimistisch. Zij gelooft dat AI en ethiek wel moeten samengaan omdat dit niet anders kan. Ze ziet twee kanten van het probeem: het gedrag van de machines zelf en de manier waarop mensen omgaan met de machines. Volgens haar kan het gedrag van de machines andere waarden weerspiegelen dan die van onszelf, en daarom zal elk besluit dat we delegeren aan machines ook betekenen dat we de verantwoordelijkheid over het vastleggen van onze waarden delegeren.
...
Dr. Antono Bikić’s standpunt is wat minder optimistisch. Hij gelooft dat machines utilitaire waarden volgen. AI’s zijn optimaliserende algoritmes getraind met een doel voor ogen, en voor de AI heiligt het doel altijd de middelen. Regels zullen worden omzeild om dit doel te bereiken zonder rekening te houden met enige grenzen. Dit strookt echter niet met de West-Europese deontologische ethiek, waarin waardigheid en mensenrechten onder geen enkele omstandigheden mogen worden geschonden." (Gaan AI en ethiek het met elkaar vinden?, www.leidensciencemagazine.nl/articles/ai-and-ethics-will-this-work-out)
--
Zoeken op het niternet, zijn er diverse vergelijkbare boeken te vinden (zie afbeelding). Er is ook een samenvatting (Spaans) te vinden van het boek, als verzameling van quotes:
https://julianmartinezbartolome.com/etica-para-maquinas/
Reacties