Life 3.0 ... de mens in het AI tijdperk

 Deze figuur laat de essentie zien van het boek, Life 3.0. Een boek over de toekomst (geschreven door Max Tegmark in 2017).

Het boek geeft aan het eind van elk hoofdstuk, "the bottom line," zoals:

HET KOMT NEER OP (Hoofdstuk 1 - Welcome to the Most Important Conversation of Our Time):

• • Het leven, gedefinieerd als een proces dat zijn complexiteit kan behouden en zich kan herhalen, kan zich ontwikkelen door drie fasen: een biologisch stadium (1.0), waar de hardware en software zich bevinden geëvolueerd, een cultureel stadium (2.0), waar het zijn software kan ontwerpen (door te leren) en een technologische fase (3.0), waarin het ook zijn hardware kan ontwerpen de meester van zijn eigen lot.
• • Kunstmatige intelligentie kan ons in staat stellen om Life 3.0 deze eeuw te lanceren, en Er zijn fascinerende gesprekken ontstaan over de toekomst waar we naar moeten streven hoe dit kan worden gerealiseerd. Er zijn drie hoofdkampen in de controverse: techno-sceptici, digitale utopisten en de nuttige AI-beweging.
• • Techno-sceptici beschouwen het bouwen van bovenmenselijke AGI als zo moeilijk dat het niet zal gebeuren honderden jaren, waardoor het dwaas is om je er nu zorgen over te maken (en over Leven 3.0).
• • Digitale utopisten achten dit in deze eeuw waarschijnlijk en verwelkomen Life 3.0 van harte, en beschouwen het als de natuurlijke en wenselijke volgende stap in de kosmische evolutie.
• • De gunstige AI-beweging beschouwt dit ook als waarschijnlijk voor deze eeuw, maar ziet het als een goed doel. Het resultaat is niet zo gegarandeerd, maar als iets dat moet worden verzekerd door hard te werken in de vorm van AI-veiligheidsonderzoek.
• • Naast zulke legitieme controverses waar toonaangevende experts het niet mee eens zijn, zijn er nog meer zijn ook saaie pseudo-controverses veroorzaakt door misverstanden. Bijvoorbeeld, Verspil nooit eerder tijd met ruzie maken over ‘leven’, ‘intelligentie’ of ‘bewustzijn’ Zorg ervoor dat jij en je hoofdpersoon deze woorden gebruiken om hetzelfde te betekenen ding! 
• • Pas ook op voor de veel voorkomende misvattingen in figuur 1.5: “Superintelligentie in 2100 is onvermijdelijk/onmogelijk.” “Alleen Luddieten maken zich zorgen over AI.” “De zorg gaat over AI wordt kwaadaardig en/of bewust, en het duurt nog maar een paar jaar.” “Robots zijn de belangrijkste zorg." “AI kan mensen niet controleren en kan geen doelen hebben.”
• • In de hoofdstukken 2 tot en met 6 onderzoeken we het verhaal van intelligentie vanuit zijn bescheidenheid die miljarden jaren geleden begon tot mogelijke kosmische toekomsten over miljarden jaren nu. We zullen eerst de uitdagingen op de korte termijn onderzoeken, zoals banen, AI-wapens en de zoektocht naar AGI op menselijk niveau, en verken vervolgens de mogelijkheden voor een fascinerend spectrum van mogelijke toekomsten met intelligente machines en/of mensen. Ik ben benieuwd welke opties je hebt liever!
• • In de hoofdstukken 7 tot en met 9 gaan we over van koude feitelijke beschrijvingen naar een verkenning van doelen, bewustzijn en betekenis, en onderzoeken wat we nu kunnen doen helpen de toekomst te creëren die we willen.
• • Ik beschouw dit gesprek over de toekomst van het leven met AI als het belangrijkste onze tijd – doe alsjeblieft mee.

HET KOMT NEER OP (Hoofdstuk 2 - Matter Turns Intelligent):

• • Intelligentie, gedefinieerd als het vermogen om complexe doelen te bereiken, kan niet worden gemeten aan de hand van a enkel IQ, alleen door een vaardigheidsspectrum voor alle doelen.
• • De hedendaagse kunstmatige intelligentie is vaak beperkt en elk systeem is daartoe in staat slechts zeer specifieke doelen bereiken, terwijl de menselijke intelligentie opmerkelijk breed is.
• • Geheugen, computergebruik, leren en intelligentie hebben een abstracte, ongrijpbare en hebben een etherisch gevoel omdat ze substraatonafhankelijk zijn: in staat een leven lang te leiden hun eigen materiaal dat niet afhankelijk is van of de details van het onderliggende materiaal weerspiegelt substraat.
• • Elk stukje materie kan het substraat voor het geheugen zijn, zolang er maar veel verschillende zijn stabiele staten.
• • Elke materie kan computronium zijn, het substraat voor berekeningen, zolang het maar bestaat bevat bepaalde universele bouwstenen die kunnen worden gecombineerd om ze te implementeren functie. NAND-poorten en neuronen zijn twee belangrijke voorbeelden hiervan “computationele atomen.”
• • Een neuraal netwerk is een krachtig substraat voor leren, simpelweg door te gehoorzamen de wetten van de natuurkunde kan het zichzelf herschikken om steeds beter te kunnen implementeren gewenste berekeningen.
• • Vanwege de opvallende eenvoud van de natuurkundige wetten, waar wij mensen alleen maar om geven een klein deel van alle denkbare rekenproblemen, en neurale netwerken hebben de neiging dit te doen opmerkelijk goed te zijn in het oplossen van precies dit kleine deel.
• • Zodra technologie twee keer zo krachtig wordt, kan deze vaak worden gebruikt om te ontwerpen en te bouwen technologie die op zijn beurt twee keer zo krachtig is, wat leidt tot herhaalde verdubbeling van de capaciteiten in de geest van de wet van Moore. De kosten van informatietechnologie zijn nu gehalveerd Ongeveer een eeuw lang ongeveer elke twee jaar, wat het informatietijdperk mogelijk maakt.
• • Als de vooruitgang op het gebied van AI doorzet, dan zal dat lang voordat AI voor alle vaardigheden het menselijke niveau bereikt, plaatsvinden zal ons fascinerende kansen en uitdagingen bieden met betrekking tot zaken als bugs, wetten, wapens en banen – die we in het volgende hoofdstuk zullen onderzoeken.

HET KOMT NEER OP (hoofdstuk 3 - The Near Future: Breakthroughs, Bugs, Laws, Weapons and Jobs) 

• • De vooruitgang op het gebied van AI op de korte termijn heeft het potentieel om ons leven op talloze manieren aanzienlijk te verbeteren, van het efficiënter maken van ons persoonlijke leven, elektriciteitsnetwerken en financiële markten tot levens redden met zelfrijdende auto's, chirurgische bots en AI-diagnosesystemen.
• • Wanneer we toestaan dat systemen in de echte wereld worden bestuurd door AI, is het van cruciaal belang dat we leren om AI robuuster te maken en te doen wat we willen dat het doet. Dit komt neer op het oplossen van lastige technische problemen met betrekking tot verificatie, validatie, beveiliging en controle.
• • Deze behoefte aan verbeterde robuustheid is vooral urgent voor AI-gestuurde wapens systemen, waarbij de inzet enorm kan zijn.
• • Veel vooraanstaande AI-onderzoekers en robotici hebben opgeroepen tot een internationaal verdrag het verbieden van bepaalde soorten autonome wapens, om een uit de hand gelopen wapenwedloop te voorkomen dat zou ertoe kunnen leiden dat handige moordmachines voor iedereen beschikbaar worden met een volle portemonnee en een bijl om te slijpen.
• • AI kan onze rechtssystemen eerlijker en efficiënter maken als we weten hoe we dat kunnen doen maak roborechters transparant en onbevooroordeeld.
• • Onze wetten moeten snel worden bijgewerkt om gelijke tred te houden met AI, wat lastige juridische vragen met zich meebrengt op het gebied van privacy, aansprakelijkheid en regelgeving.
• • Lang voordat we ons zorgen hoeven te maken dat intelligente machines ons helemaal zullen vervangen, zij kunnen ons steeds vaker vervangen op de arbeidsmarkt.
• • Dit hoeft geen slechte zaak te zijn, zolang de samenleving een fractie van de door AI gecreëerde rijkdom herverdeelt om iedereen beter af te maken.
• • Anders, zo beweren veel economen, zal de ongelijkheid enorm toenemen.
• • Met voorafgaande planning zou een samenleving met lage werkgelegenheid niet tot bloei moeten kunnen komen alleen financieel, waarbij mensen hun gevoel van doel ontlenen aan andere activiteiten banen.
• • Loopbaanadvies voor de kinderen van nu: kies beroepen waar machines slecht in zijn: dat zijn de beroepen betrokkenheid van mensen, onvoorspelbaarheid en creativiteit.
• • Er is een niet te verwaarlozen mogelijkheid dat de vooruitgang van AGI een menselijk niveau zal bereiken en verder – dat zullen we in het volgende hoofdstuk onderzoeken!

HET KOMT NEER OP (hoofdstuk 4 - 4 Intelligence Explosion?):

• • Als we er op een dag in slagen AGI op menselijk niveau op te bouwen, kan dit een intelligentie in gang zetten explosie, waardoor we ver achterblijven.
• • Als een groep mensen erin slaagt een intelligentie-explosie onder controle te krijgen, kunnen ze dat misschien ook wel binnen enkele jaren de wereld overnemen.
• • Als mensen er niet in slagen een intelligentie-explosie onder controle te houden, kan de AI zelf de explosie overnemen wereld nog sneller.
• • Terwijl een snelle explosie van inlichtingen waarschijnlijk zal leiden tot één enkele wereldmacht,
• Een langzame ontwikkeling die jaren of tientallen jaren voortduurt, leidt wellicht eerder tot een multipolaire situatie scenario met een machtsevenwicht tussen een groot aantal tamelijk onafhankelijke entiteiten.
• • De geschiedenis van het leven laat zien dat het zichzelf organiseert in een steeds complexere hiërarchie gevormd door samenwerking, concurrentie en controle. Superintelligentie zal dat waarschijnlijk wel doen coördinatie op steeds grotere kosmische schaal mogelijk maken, maar het is onduidelijk of dit zal gebeuren uiteindelijk leiden tot meer totalitaire controle van bovenaf of meer individuele controle machtiging.
• • Cyborgs en uploads zijn plausibel, maar misschien niet de snelste weg naar gevorderden machine-intelligentie.
• • De climax van onze huidige race naar AI kan zowel het beste als het slechtste zijn dat de mensheid ooit zal overkomen, met een fascinerend spectrum aan mogelijke uitkomsten we zullen het in het volgende hoofdstuk onderzoeken.
• • We moeten goed gaan nadenken over welke uitkomst we verkiezen en hoe we daarop moeten sturen die richting, want als we niet weten wat we willen, is het onwaarschijnlijk dat we het zullen krijgen.

HET KOMT NEER OP (H 5 - 5 Aftermath: The Next 10,000 Years):

• • De huidige race richting AGI kan eindigen in een fascinerend breed scala aan nasleep scenario's voor de komende millennia.
• • Superintelligentie kan vreedzaam naast mensen bestaan, omdat ze daartoe gedwongen wordt (scenario van een tot slaaf gemaakte god) of omdat het ‘vriendelijke AI’ is die dat wil (scenario’s van libertaire utopie, beschermgod, welwillende dictator en dierenverzorger).
• • Superintelligentie kan worden voorkomen door een AI (poortwachtersscenario) of door mensen (scenario uit 1984), door de technologie bewust te vergeten (terugkeerscenario) of door gebrek aan prikkels om het te bouwen (scenario van egalitaire utopie).
• • De mensheid kan uitsterven en vervangen worden door AI's (veroveraar en afstammeling). scenario's) of door niets (zelfvernietigingsscenario).
• • Er bestaat absoluut geen consensus over welke van deze scenario’s wenselijk zijn, als die er al zijn. en ze bevatten allemaal verwerpelijke elementen. Dit maakt het des te belangrijker om het gesprek rond onze toekomstige doelen voortzetten en verdiepen, zodat we dat niet doen onbedoeld afdrijven of in een ongelukkige richting sturen.

HET KOMT NEER OP (H 6 -  Our Cosmic Endowment: The Next Billion Years and Beyond):

• • Vergeleken met kosmische tijdschalen van miljarden jaren is een intelligentie-explosie een Een plotselinge gebeurtenis waarbij de technologie zich snel op een niveau bevindt dat alleen door de wetten wordt beperkt van de natuurkunde.
• • Dit technologische plateau is veel hoger dan de huidige technologie, wat een gegeven mogelijk maakt hoeveelheid materie nodig om ongeveer tien miljard keer meer energie te genereren (met behulp van sferonen of zwarte gaten), sla 12–18 ordes van grootte meer informatie op of bereken 31–41 ordes van grootte sneller – of om te zetten in een andere gewenste vorm van materie.
• • Superintelligent leven zou er niet alleen zo dramatisch efficiënter gebruik van maken bestaande hulpbronnen, maar zou ook de huidige biosfeer met ongeveer 32 kunnen laten groeien ordes van grootte door meer hulpbronnen te verwerven via kosmische nederzettingen in de buurt lichtsnelheid.
• • Donkere energie beperkt de kosmische expansie van superintelligent leven en beschermt dit ook van verre, zich uitbreidende doodsbubbels of vijandige beschavingen. De dreiging van het donker energie die kosmische beschavingen verscheurt, motiveert massale kosmische engineering projecten, inclusief de bouw van wormgaten als dit haalbaar blijkt.
• • Het belangrijkste handelsartikel dat over kosmische afstanden wordt gedeeld of verhandeld, is waarschijnlijk informatie.
• • Afgezien van wormgaten vormt de lichtsnelheidslimiet voor communicatie ernstige problemen voor coördinatie en controle binnen een kosmische beschaving. Een afgelegen centraal knooppunt kan dat wel zijn zijn superintelligente ‘knooppunten’ te stimuleren om samen te werken, hetzij door middel van beloningen, hetzij door middel van beloningen door middel van bedreigingen, bijvoorbeeld door het inzetten van een lokale AI-bewaker die is geprogrammeerd om het knooppunt te vernietigen door een supernova of quasar te laten ontploffen, tenzij de regels worden nageleefd.
• • De botsing van twee zich uitbreidende beschavingen kan resulteren in assimilatie en samenwerking of oorlog, waarbij dit laatste aantoonbaar minder waarschijnlijk is dan tussen de hedendaagse beschavingen.
• • Ondanks dat veel mensen het tegendeel beweren, is het heel aannemelijk dat wij het enige leven zijn vorm die ons waarneembare heelal in de toekomst tot leven kan brengen.
• • Als we onze technologie niet verbeteren, is het niet de vraag of de mensheid zal verdwijnen uitgestorven, maar alleen hoe: zal een asteroïde, een supervulkaan, de brandende hitte van de krijgt de verouderende zon of een andere ramp ons als eerste?
• • Als we onze technologie met voldoende zorg, vooruitziendheid en planning blijven verbeteren vermijd valkuilen, het leven heeft voor velen het potentieel om te bloeien op aarde en ver daarbuiten miljarden jaren, voorbij de stoutste dromen van onze voorouders
• 
  

[Over hoofdstuk 7, doelen heb ik eerder al geschreven (zie link hieronder)]

Toch, De bottom line:

• • De uiteindelijke oorsprong van doelgericht gedrag ligt in de wetten van de natuurkunde optimalisatie met zich meebrengen.
• • De thermodynamica heeft het ingebouwde doel van dissipatie: het vergroten van een mate van rommeligheid die entropie wordt genoemd.
• • Het leven is een fenomeen dat ertoe kan bijdragen dat de algehele rommeligheid nog sneller verdwijnt door de complexiteit ervan te behouden of te vergroten en te repliceren terwijl de complexiteit wordt vergroot rommeligheid van zijn omgeving.
• • De darwinistische evolutie verschuift het doelgerichte gedrag van losbandigheid naar replicatie.
• • Intelligentie is het vermogen om complexe doelen te bereiken.
• • Omdat wij mensen niet altijd over de middelen beschikken om het werkelijk optimale te vinden replicatiestrategie hebben we nuttige vuistregels ontwikkeld die onze beslissingen begeleiden: gevoelens zoals honger, dorst, pijn, lust en mededogen.
• • We hebben daarom niet langer een simpel doel als replicatie; wanneer onze gevoelens Als we in strijd zijn met het doel van onze genen, gehoorzamen we onze gevoelens, bijvoorbeeld door anticonceptie te gebruiken.
• • We bouwen steeds intelligentere machines om ons te helpen onze doelen te bereiken. Voor zover wij dergelijke machines bouwen om doelgericht gedrag te vertonen, streven wij ernaar breng de machinedoelstellingen op één lijn met de onze.
• • Bij het afstemmen van machinedoelen op de onze zijn drie onopgeloste problemen betrokken: maken machines leren ze, adopteren ze en behouden ze.
• • AI kan zo worden gecreëerd dat vrijwel elk doel kan worden nagestreefd, maar vrijwel allemaal voldoende ambitieus doel kan leiden tot subdoelen van zelfbehoud, het verwerven van hulpbronnen en nieuwsgierigheid ernaar de wereld beter begrijpen – de eerste twee kunnen mogelijk een superintelligent leiden AI kan problemen veroorzaken voor mensen, en deze laatste kunnen voorkomen dat zij de doelen die we eraan geven.
• • Hoewel de meeste mensen het over veel brede ethische principes eens zijn, is dat ook zo Het is onduidelijk hoe ze moeten worden toegepast op andere entiteiten, zoals niet-menselijke dieren en de toekomst AI's.
• • Het is onduidelijk hoe je een superintelligente AI een ultiem doel kunt geven dat geen van beide is ongedefinieerd en leidt niet tot de eliminatie van de mensheid, waardoor het tijd wordt om weer nieuw leven in te blazen onderzoek naar enkele van de meest netelige kwesties in de filosofie!

Het laatste hoofdstuk 8 - Bewustzijn, komt neer op:

• Er bestaat geen onbetwiste definitie van ‘bewustzijn’. Ik gebruik de brede en niet-antropocentrische definitie bewustzijn = subjectieve ervaring.
• • Of AI's in die zin bewust zijn, is waar het om gaat voor de meest netelige ethische en filosofische problemen veroorzaakt door de opkomst van AI: kunnen AI lijden? Hadden ze moeten doen rechten? Is het uploaden van een subjectieve zelfmoord? Zou een toekomstige kosmos vol met AI's kunnen zijn? de ultieme zombie-apocalyps zijn?
• • Het probleem van het begrijpen van intelligentie mag niet worden samengevoegd met drie afzonderlijke problemen bewustzijnsproblemen: het ‘behoorlijk moeilijke probleem’ van het voorspellen welke fysieke systemen zijn bewust, het ‘nog moeilijkere probleem’ van het voorspellen van qualia, en de ‘echt moeilijk probleem’ waarom iets überhaupt bewust is.
• • Het “behoorlijk lastige probleem” van bewustzijn is wetenschappelijk, aangezien het een theorie is die voorspelt welke van je hersenprocessen bewust zijn, is experimenteel testbaar en falsifieerbaar, terwijl het momenteel onduidelijk is hoe de wetenschap deze twee volledig kan oplossen moeilijkere problemen.
• • Neurowetenschappelijke experimenten suggereren dat veel gedragingen en hersengebieden dat wel zijn onbewust, waarbij veel van onze bewuste ervaringen achteraf plaatsvinden samenvatting van veel grotere hoeveelheden onbewuste informatie.
• • Het generaliseren van bewustzijnsvoorspellingen van hersenen naar machines vereist een theorie. Bewustzijn lijkt niet een bepaald soort deeltje of veld nodig te hebben, maar een bepaald soort informatieverwerking die redelijk autonoom en geïntegreerd is, dus dat het hele systeem tamelijk autonoom is, maar de delen ervan niet.
• • Bewustzijn kan zo niet-fysiek aanvoelen omdat het dubbel substraat-onafhankelijk is: als bewustzijn de manier is waarop informatie aanvoelt wanneer deze op een bepaalde manier wordt verwerkt op complexe manieren, dan is het alleen maar de structuur van de informatieverwerking die dat doet zaken, niet de structuur van de materie die de informatieverwerking verzorgt.
• • Als kunstmatig bewustzijn mogelijk is, dan is de ruimte van mogelijke AI-ervaringen dat ook waarschijnlijk enorm in vergelijking met wat wij mensen kunnen ervaren, en zich over een enorm gebied uitstrekken spectrum van qualia en tijdschalen – allemaal delen ze het gevoel van vrije wil.
• • Omdat er zonder bewustzijn geen betekenis kan zijn, is het niet ons universum dat geeft betekenis voor bewuste wezens, maar bewuste wezens die betekenis geven aan ons universum.
• • Dit suggereert dat naarmate wij mensen ons voorbereiden om vernederd te worden door steeds slimmere machines, we vinden troost vooral in het feit dat we Homo sentiens zijn, en niet Homo sapiens.

...

--
https://mcenv.blogspot.com/2023/06/doelgerichtheid-en-ai.html