Doelgerichtheid en AI

-

Hoofdstuk zeven van Life 3.0 (Max Tegmark) is volledig geconcentreerd op doelen. Tegmark is fysicus en beschrijft AI in termen van natuurkundige wetten zoals die van thermodynamica (entropie bij verandering) en in dit geval over doelen. Het voorbeeld van de figuur laat zien dat een reddingszwemmer eerst iets langer over het strand loopt om voordeel te krijgen dat hij sneller vooruit gaat en dan pas afwijkt richting het doel. De optimale weg is korter, maar minder snel.

  • The mystery of human existence lies not in just staying alive, but in finding something to live for. (Fyodor Dostoyevsky, The Brothers Karamazov)
  • Life is a journey, not a destination (Ralph Waldo Emerson)

Hij begint met de doelen van de natuurkunde: "de oorsprong van doelen." De wiskundige equivalent om natuurkundige wetten te beschrijven   zijn: 

  • het verleden als oorzaak van de toekomst 

  • de natuur die iets optimaliseert

Biologie gaat vervolgens om de evolutie van doelen. 

Psychologie: is de navolging van en rebellie tegen doelen. Dat heeft te maken met gevoelens zoals depressie die niet rationeel (of irrationeel) zijn. De mens weten de economen sinds Herbert Simon is bounded rational, en dat betekent dat het teveel energie en tijd of resources in het algemeen kost om rationele beslissingen te nemen. Dus is de mens minder rationeel.

  • Engineering, gaat over het Outsourcing van doelen 
  • Vriendschappelijke Kunstmatige Intelligentie (Friendly AI) gaat om Aligning / afstemming van doelen.
  • Bij ethiek, als laatste gaat het om het kiezen van de juiste doelen.

Wat, zo sluit hij af, is het Ultimate Goals?

Bijzonder treffend in dit onderzoek naar de impact van AI is deze focus op doelen. Maar het blijft dan niet bij bovenstaande doelen. Uiteindelijk gaat het om de volledige mens(heid) en dan zijn er nog meer invalshoeken. Naast psychologie, juist ook geneeskunde en psychiatrie.

Geneeskunde gaat om het doel van gezondheid, psychiatrie gaat om het doel van binnen rationele grenzen blijven, als kenmerk van psychische gezondheid

Rechten gaat om het doel van veiligheid en vertrouwen.

Economie gaat (ook) om het doel van optimaliseren, maar ook over welvaart.

--

2020/07/doel-en-doelgerichtheid



Reacties

Een reactie posten

Populaire posts van deze blog

Typisch Spaans: Balay

-
Afbeelding
Balay is een Spaanse fabrikant van huishoudelijke apparaten. Het bedrijf is opgericht in Zaragoza en staat symbool voor de Spaanse trots, maar geeft ook een indicatie van de Spaanse industriële structuur, vooral als we die vergelijken met de architectuur van de Nederlandse economische. In Nederland fabriceert men relatief veel minder dan in Spanje waar nog autoproductiebedrijven bestaan. Spanje fabriceert zelfs onderdelen voor de Airbus (in de buurt van Sevilla) en Spanje heeft dus nog een eigen traditionele apparatenfabrikant terwijl "ons" Philips daar al lang geleden van afgestapt is in haar zoektocht naar hoge marges. Het bedrijf is inmiddels niet meer in Spaanse handen, maar opgegaan in de joint venture tussen Bosch en Siemens (BSH). Toch is het merk een bekende in de Spaanse huishouding. De laatste tv-reclame van het bedrijf gaat in op het leven van een oud-medewerker die ontvangen wordt in het bedrijf en wordt rondgeleid in de nieuwe productielijn. Zijn dochter hee
Read more »

Voorbij goed en kwaad (Nietzsche)

-
Afbeelding
 Eindelijk een boek uit 1886, in de Engelse vertaling Beyond Good and Evil, en ik las eerst de samenvatting van Blinkist, daarna het boek.  Ook al hoor je ... (bron) dat Nietzsche's legaat voor de filosofie nauwelijks bestaat, spreekt zijn schrijven me erg aan. Bijvoorbeeld wanneer het als volgt begint: Supposing that Truth is a woman? Het boek bestaat uit negen hoofdstukken. Een. Over de vooroordelen van de filosofen. De samenvatting begint hier met de observatie van de eenvoudige-lijkende gedachte van Descartes, "ik denk dus ik ben," bij nader inzien of onderzoek, toch niet zo eenvoudig is, maar bestaat uit een aanname. Voor de voorgangers van Descartes was dit een voorbeeld van Immediate Certainty. Een idee dat zo vanzelfsprekend lijkt dat er geen rechtvaardiging voor nodig zou zijn. Je weet dat je denkt, dus je weet ook dat je bestaat. Eenvoudiger kan het niet. Descartes bouwde zijn hele filosofische systeem op deze ene gedachte. Maar is het werkelijk zo voor de hand
Read more »

Begraven of cremeren?

-
Afbeelding
Ik zou me geen wereld kunnen voorstellen zonder begraafplaatsen. Toch nemen ze waarschijnlijk in aantal af, minimaal relatief gezien. Is dat niet inherent aan het moderne leven? Moeten we de aarde die toch al schaars is, bezetten met begraafplaatsen voor onze overledenen? Wat zegt het Intelligente Internet?  " Hoewel recente studies aantonen dat het verschil tussen begraven en cremeren qua invloed op het milieu aan elkaar gewaagd is, zijn er enkele overwegingen die we kunnen maken: Begraven: Bij begraven komen schadelijke stoffen van het lichaam in de grond en het grondwater terecht. Er is vaak veel vervuilend materiaal betrokken, zoals de kist en eventuele kunststoffen of metalen onderdelen. Het gebruik van een lijkwade is ook toegestaan in Vlaanderen, maar deze kan duurder zijn dan een grafkist omdat het unieke producten zijn die minder vaak worden verkocht. Cremeren:  Bij cremeren komen schadelijke stoffen in het as terecht, niet in de grond. Het as kan echter ook vervuilend zi
Read more »