Doelgerichtheid en AI

Hoofdstuk zeven van Life 3.0 (Max Tegmark) is volledig geconcentreerd op doelen. Tegmark is fysicus en beschrijft AI in termen van natuurkundige wetten zoals die van thermodynamica (entropie bij verandering) en in dit geval over doelen. Het voorbeeld van de figuur laat zien dat een reddingszwemmer eerst iets langer over het strand loopt om voordeel te krijgen dat hij sneller vooruit gaat en dan pas afwijkt richting het doel. De optimale weg is korter, maar minder snel.

• The mystery of human existence lies not in just staying alive, but in finding something to live for. (Fyodor Dostoyevsky, The Brothers Karamazov)
• Life is a journey, not a destination (Ralph Waldo Emerson)

Hij begint met de doelen van de natuurkunde: "de oorsprong van doelen." De wiskundige equivalent om natuurkundige wetten te beschrijven   zijn: 

• het verleden als oorzaak van de toekomst 
  
  
  
• de natuur die iets optimaliseert

Biologie gaat vervolgens om de evolutie van doelen. 

Psychologie: is de navolging van en rebellie tegen doelen. Dat heeft te maken met gevoelens zoals depressie die niet rationeel (of irrationeel) zijn. De mens weten de economen sinds Herbert Simon is bounded rational, en dat betekent dat het teveel energie en tijd of resources in het algemeen kost om rationele beslissingen te nemen. Dus is de mens minder rationeel.

• Engineering, gaat over het Outsourcing van doelen 
• Vriendschappelijke Kunstmatige Intelligentie (Friendly AI) gaat om Aligning / afstemming van doelen.
• Bij ethiek, als laatste gaat het om het kiezen van de juiste doelen.

Wat, zo sluit hij af, is het Ultimate Goals?

Bijzonder treffend in dit onderzoek naar de impact van AI is deze focus op doelen. Maar het blijft dan niet bij bovenstaande doelen. Uiteindelijk gaat het om de volledige mens(heid) en dan zijn er nog meer invalshoeken. Naast psychologie, juist ook geneeskunde en psychiatrie.

Geneeskunde gaat om het doel van gezondheid, psychiatrie gaat om het doel van binnen rationele grenzen blijven, als kenmerk van psychische gezondheid

Rechten gaat om het doel van veiligheid en vertrouwen.

Economie gaat (ook) om het doel van optimaliseren, maar ook over welvaart.

--

2020/07/doel-en-doelgerichtheid