Voorspellen in het AI tijdperk, is een populair vertaalde titel van het boek: Prophecy ... van de Mexicaanse filosofe Carissa Véliz.
...
Dus voor het soort niet-filosofische kijkers, het klassieke tegenvoorbeeld van of of een voorbeeld om aan te tonen dat het utilitarisme misschien verkeerd is, is: stel je voor dat je een dokter hebt en er is een patiënt die geen erg aardig persoon is en er is iets kleins mis met hen, zoals een vinger gebroken of zoiets, en de dokter denkt dat als ze deze persoon vermoorden, ze vijf patiënten kunnen redden die dat wel zijn echt aardige mensen en hebben gezinnen en zo en de meeste mensen zeggen nee dat is verkeerd en dan denk je van maar weet je dat het vijf levens zijn en je verliest er gewoon één en ze zijn geen erg aardig persoon
op zijn best is dit een weloverwogen gok, maar vaker wel dan niet is het een vermomde machtsspel en we zouden de voorkeur moeten geven aan de experts die bereid zijn te zeggen dat we het niet weten en jij vertelt me wat de toekomst van privacy is, omdat het gedeeltelijk afhangt van wat je doet, dat is moed en ik denk dat dat ons nu naar enkele van de oplossingen brengt die ik bedoel als iemand met een juridische achtergrond, weet je als ik aan het utilitaire denk dokter die iemand zou vermoorden jij en zeggen dat je weet dat dit geen erg aardig persoon is. Ik zal hem vermoorden en dan kunnen we de vijf vijf andere mensen redden
Ik ben zo bezorgd over de toekomst en dus als we van daaruit beginnen, zou ik mensen eraan willen herinneren dat wanneer je die angst over de toekomst voelt, het volkomen rationeel is en ik en ik het ook voelen, maar het is eigenlijk een goed teken omdat het betekent dat het je vertelt dat de toekomst onzeker is en dat je de mogelijkheid hebt om die te beïnvloeden
En als Socrates dit te horen krijgt, is hij erg verbaasd en hij zegt: Hoe kan ik de wijste zijn als er zoveel mensen in de gemeenschap zijn waarvan bekend is dat ze meer kennis hebben dan ik? En dus gaat hij rond om mensen aan te sporen en hen te vragen wat precies gerechtigheid is en wat precies waarheid is. Hij komt erachter dat mensen echt de neiging hebben om veel minder te weten dan ze beweren te weten of ze denken te weten
En we horen dat ik dit specifiek bedoel, als we nu naar je toe gaan, problemen kennen rond eenzaamheid, geestelijke gezondheid, we weten dat dit land en veel andere landen in 2019 een groot probleem hebben, als het gaat om het feit dat veel mensen eenzaam zijn, vaak ook jongere mensen, vaak wordt het gezien als een je weet wel probleem voor oudere mensen, maar dat is niet waar, dus niet genoeg sociale connecties hebben en geïsoleerd zijn en dat AI de grote oplossing zou kunnen zijn voor dat
En onlangs heb ik boeken gelezen waarin ik het erg op prijs stel als de auteur me iets meer vertelt over wie er aan de andere kant van dat boek staat en waarom ze dit hebben geschreven. En ik denk dat het ook te maken heeft met je weet dat academici en schrijvers mensen zijn en het heeft te maken met een bepaalde leeftijd van gevoel waarvan je weet dat ik denk dat als je jong bent, heel jong het is alsof je het gevoel hebt dat je voor altijd zult leven en op een gegeven moment je begint het gevoel te krijgen dat het leven wegglijdt en dat de tijd die we hier hebben zo kostbaar is dat je maar beter zo snel mogelijk kunt zeggen wat je te zeggen hebt, want je weet nooit wat morgen zal brengen.
Dus wat je kent als mens en intelligentie is zoveel breder dan dat en zelfs de beste grote taalmodellen maken fouten die behoorlijk ongelooflijk zijn en die een mens niet zou maken, en er is een veronderstelling over de sprong tussen het denken dat we systemen kunnen maken die heel goed zijn in het nabootsen van de manier waarop we taal gebruiken, en het maken van systemen die slimmer zijn dan mensen. wezens is een behoorlijk grote sprong en opnieuw is alles gebaseerd op voorspellingen
En ik denk dat een van de belangrijkste punten die ik uit je boek en ons gesprek haal en je toch als collega ken en de afgelopen tijd samen door dik en dun heb meegemaakt, is hoe belangrijk het is om het leven te omarmen en je weet alles wat daarbij komt kijken en daadwerkelijk aan onszelf te werken, om onszelf te versterken en hoe we vervolgens de problemen benaderen en aanpakken die daarbij komen kijken. En hoe belangrijk het is dat we de relaties met de mensen om ons heen koesteren, omdat zij degenen zullen zijn die ons gezond en veilig zullen houden en ons veel beter zullen voelen in situaties die heel moeilijk kunnen zijn
Wat mij ook opvalt aan uw boek en nu ons gesprek is, is dat u volgens mij heel veel praat over kwetsbaarheid of mensen wie we zijn als mensen je weet hoe kwetsbaar we willen weten wat er in de toekomst gaat gebeuren hoe we door anderen worden aangetrokken eh en jij laat die kwetsbaarheid ook in jouw boek zien en Ik denk dat dit een goed punt is om daadwerkelijk in je boek te gaan kijken en waar het allemaal over gaat
het is normaal omdat het een statistische analyse is en dus alles wat jou anders maakt omdat je niet past in het patroon van wie in het verleden een goede sollicitant is geweest, zal je discrimineren. Een voorbeeld was dat Amazon probeerde een algoritme te gebruiken om mensen aan te nemen en toen bleek dat het algoritme vrouwen discrimineerde omdat het de afgelopen tien jaar de beste baan was kandidaten voor Amazon waren mannen en dus als je op je cv iets zei dat impliceerde dat je een vrouw was, bijvoorbeeld in het damesvoetbalteam zat in plaats van alleen in het voetbalteam, dan zou je worden gediscrimineerd
Maar wat ik van je hoor is rechtvaardig en wat ik nu weer hoor in de AI-ethiek is dat het echt allemaal om mensen gaat en om onze relaties en hoe we betere mensen worden door met elkaar om te gaan, toch, maar wat zou je zeggen tegen deze mensen die zeggen: 'Je weet wel, eigenlijk is iedereen heel blij om een AI te hebben en ermee te praten en hem zijn e-mails te laten doen en jij weet dit allemaal, dus De voorspelling werkt redelijk goed voor hen
En aan het einde van het boek heb ik een heel praktische epiloog over hoe je dit in je persoonlijke leven doet. Hoe denk je erover na, maar ook als bedrijven, zoals wat betekent dit voor bedrijven en het betekent dat je niet moet inspelen op de angst om te missen dat het bedrijf dat de AI-bedrijven je verkopen en dat ze je feitelijk een vals gevoel van veiligheid verkopen, AI de toekomst niet kan voorspellen. ... omdat de database alleen over het verleden gaat, dus een voorbeeld is klimaatverandering, hoe zal de wereld er over honderd jaar uitzien met klimaatverandering weet niemand het omdat we er geen gegevens over hebben, niet wij, niet AI
Je kent mensen die worden gestoken en verkracht en vermoord en instellingen die onrechtvaardig zijn en mensen die ziek worden en en ik weet je ... Soms zie ik mensen gewoon als ketchup-zakjes, maar we zijn gewoon zo kwetsbaar (bron: https//www.youtube.com/watch app=desktop v=ig6PNYbw4HY)
...volgt nog, maar ik vond wel alvast een samenvatting, die nog de nodige redactie vereist, maar hier alvast een inzage*.
Wat staat er in een voorspelling? AI-algoritmen doen voortdurend voorspellingen (P's), zonder uw toestemming en zonder toezicht. P is evolutionair voordelig voor mensen. We houden niet van onzekerheid → zoals profeten/profetieën. ‘Naïeve visie op voorspellen’ = zoektocht naar kennis (K)/waarheid, mist 5 cruciale kenmerken:
Het zijn 1. gissingen, 2. wensachtig 3. over macht 4. soms onmogelijk 5. kunnen schadelijk zijn.
Ps kunnen worden gemaakt met behulp van a. onderbuikgevoel b.data (D) c.AI (hebben verschillende nauwkeurigheid/legitimiteit).
Deel 1. De belofte van voorspelling
Hoofdstuk 1: Profeten en macht: een korte geschiedenis van P, of waarom astrologen van kliffen worden gegooid. Profetie + kracht = gelijkgestemde geesten.
Historisch gezien: we willen dezelfde dingen weten (gezondheid/zaken/liefde) + voorspellen is een Business.
Geschiedenis: Orakel van Delphi/freelance zieners (gecombineerd P met behandeling).
Gebruikt door genezers + krijgers (in de geneeskunde/oorlog).
Gevoelig voor misbruik/oplichters.
Ps kunnen niet los worden gezien van macht: legitimeer acties/leen autoriteit aan leiders/voorspellingen liggen nog steeds in de machtshallen (methoden zijn veranderd – gebruik D/AI niet ingewanden).
Hoofdstuk 2: Onzekerheid overwinnen en risico's temmen: De mathematisering van besluitvorming: Ga over op het gebruik van D: misschien lag het lot niet alleen aan de goden/de wereld was een mechanisme dat kon worden gelezen/vertrouwen in cijfers. Opkomst van de waarschijnlijkheidstheorie: ontgoocheling + meting (14e eeuw →)/idee van een mechanisme (zoals een klok) (16e eeuw →)/experimenten (17e eeuw →)/vertrouwen in mensen → vertrouwen in cijfers.
𝑑𝑒𝑠𝑖𝑟𝑎𝑏𝑙𝑒 𝑜𝑢𝑡𝑐𝑜𝑚𝑒 Frequentist prob: kenmerk van de wereld = 𝑎𝑙𝑙 𝑜𝑢𝑡𝑐𝑜𝑚𝑒𝑠, dobbelstenen niet geheel onvoorspelbaar (1564, Cardano) Normale/Gaussiaanse verdeling/belcurve (1738, de Moivre, 1823, Gauss).
Invloedrijke overwegingen: jury's/veroordelingspercentages/vrije wil en determinisme/verdeling van fouten (volg de belcurve). Begin met het verzamelen van D over mensen, waarbij 1 persoon 100 keer wordt gemeten = dezelfde verdeling als bij het meten van 100 personen.
(1844, Quetelet). Begrip ‘normaal’ (van ‘norma’, timmermansvierkant, rechts (hoek) = goed) → afwijking (van norm/gemiddeld).
Studie → sociologie (bedacht door Compte, 1838), leidde tot verzekeringen, gebaseerd op problemen, leidde tot Ps/tarieven (Lloyds, 1688).
Statistieken: zeker. info over een staat, 1589.
Cijfers → objectief → geloofwaardig → Ps geloofwaardig MAAR doodt de vrije wil / alles wat we niet kunnen meten.
Hoofdstuk 3: De ultieme voorspellingsmachine: Kunstmatige intelligentie is het nieuwe Orakel van Delphi: AI is de nieuwste Oracle/Tech-execs (TE's) (Altman / Musk / Bezos /…) de nieuwe profeten.
‘Als we de positie/beweging van alle deeltjes kennen, kunnen we de toekomst nauwkeurig voorspellen’ (Laplace (1814) → Voorstanders van machine learning (ML) denken dit.
Twee soorten AI: symbolisch (SAI) (schrijfalgoritme)/ML + neuraal net (het gebruikt training D om het algoritme te verbeteren) = beide P-machines (dat is alles).
Ging van symbolisch naar ML via meer D (problemen: diefstal/bewaking/schrapen van internet), het bouwen van computerinfrastructuur (problemen: gebruik van natuurlijke hulpbronnen).
AI P's in:
1.Het dagelijks leven (nieuwsverhalen/sociale media/kaarten…)
2. Zakelijk (retailbestellingen/verzekeringen/gezondheidszorg…)
3.Overheid (wie moet bombarderen/IRS/CDC…).
Geschiedenis: cookies, sociale media D, mobiele telefoon D… de overheid besefte dat het het kon gebruiken, gaf het aan technologiebedrijven, verkocht het terug aan de overheid = Faustiaans pact.
Motivatie: kortetermijndoelstellingen/herverkiezing + naïviteit (besefte de machts-/geldmotieven van TE’s niet).
Nu is de overheid een agent van ET → de opkomst van EdTech valt samen met de val van de democratie.
Deel 2. De gevaren van voorspellen
Hoofdstuk 4: Gelijkenis met de waarheid: Waarom onderbouwde gissingen geen feiten zijn: Voorbeelden van P’s die fout zijn gegaan: bevolkingscrisis + voedseltekorten/machines zouden niet vliegen.
Gelijkenis met waarheid ≠ waarheid.
AI-inhoud kan overtuigender zijn dan de waarheid (zoals designermedicijnen in de vorm van een gelukskoekje).
Bullshit = overtuigende toespraak die zich niet bekommert om de waarheid.
LLM's waarzeggers geen waarheidsvertellers + ultieme bullshitters (technische term): kunnen zich nooit zorgen maken over de waarheid (zorgt voor gemakkelijke complottheorieën/gevaarlijk in de geneeskunde/recht/journalistiek) Chatbots spiegelen → brein interpreteert dat als empathie, maar is dat niet: gevaarlijk → geestelijke gezondheid/slecht advies.
Ps zijn spraakhandelingen, maar niet altijd voor de hand liggend/voorspellend verleden = iets plausibels vinden om hiaten op te vullen.
Twee oorsprongen van K: rede (Descartes, Leibniz) →SAI/ervaring (Locke, Hume) → ML.
Ik heb een combinatie van beide nodig → vangrails.
AI kan nooit een oorzakelijk verband leggen, alleen correlatie (maar als dat verkoopt…) Terug naar statistieken: Frequentistische (kans dat dit gebeurt) / Bayesiaanse methoden (mate van vertrouwen) →denk altijd ‘wat is het?’.
De natuur ‘kan helemaal naar beneden’ → kwantumfysica/chaostheorie.
Hoofdstuk 5: Wanneer voorspellingen uitspraken worden: over de tirannie van surveillance en self-fulfilling prophecies (SFP): Je kunt Ps despotisch laten uitkomen als 1.ze veranderen acties/zijnlief →SFP (bijvoorbeeld rentetarieven voorspellen ↑, gedrag veranderen zodat deze stijgen) 2.je verandert de omstandigheden 3.je hebt max. toezicht – genoeg D betekent dat je het weet (dit zijn ze allemaal).
Ps zijn commando's vermomd als beschrijvingen.
Een taalhandeling (illocutionair, J.L.Austin) = niet waar/onwaar, performatief, beschrijft de wereld niet (bijv. ‘Ik noem dit schip…’).
Ps zijn misleidende taalhandelingen (bijv.TE zegt ‘in de toekomst zal iedereen AI gebruiken’ → proberen mensen te beïnvloeden.
Wat u moet doen: 1. Niet bij voorbaat gehoorzamen. 2. Beschouw het als een uitnodiging tot verzet. 3. Beslis wat u wilt geloven.
SFP’s – echt effect: placebo/nocebo, mensen zijn suggestief/bijgelovig.
Bewijs: boekvooruitgang, ‘heldere maar ongegronde voorspellingen’ van het bedrijfsleven, de Grote Depressie, bankruns, oorlogen (Thucydides’s Trap), Duitsland in de Tweede Wereldoorlog, racisme en vragen/gedachten seksisme (in het rechtssysteem, financiën, rekrutering), politieke opiniepeilingen.
Algoritme SFP: scoor mensen op leningen/verzekeringen/banen etc.: geef vorm aan de werkelijkheid → deels verantwoordelijk voor negatieve trends (ongelijkheid/racisme/seksisme/polarisatie).
Algoritmen ondoorzichtig, verhaal vrijwel onmogelijk.
Voorbeelden: hypotheekgoedkeuringen, posts op sociale media.
Waarzeggers hadden veel minder D/meer D vanwege uitgebreide surveillance, waarbij elke zoekopdracht/e-mail/interactie werd geregistreerd/verkocht/gebruikt om profielen/voorspellingen te doen.
ET's hebben ervoor gekozen om D niet bij te houden en kunnen dus niet onthullen welke derde partij D voor training is gebruikt (aantoonbaar illegaal).
ET's willen meer D → ons meer digitaal laten doen en volgen → digitaal = surveillance (dus ga analoog!) → schaamte om alles te delen.
‘Zonder een gekwantificeerd overzicht van menselijke aangelegenheden zijn staten (en TE’s!) blind’.
Surveillance → dominantie/asymmetrieën van macht/despotisch b.v.Sovjet-Unie, China, geen ‘neutrale’ reden ervoor.
Door de staat geïnitieerde social engineering-behoeften: 1. Kwantificering/digitalisering 2. Groot vertrouwen in technologie 3. Autoritaire staatshandelingen 4.Onvermogende samenleving (om het toe te staan).
Hoofdstuk 6: De kristallen bol is gebarsten: waarom het onvoorspelbare nooit zal verdwijnen, en hoe voorspellingen de risico's kunnen vergroten: Vijf bronnen van onvoorspelbaarheid/problemen:
1. Data: repliceerbaarheid dubieus, p-waarden en toeval, verzonnen D (gemakkelijk te verbergen, makkelijker als je prestigieus bent), misleidende D (zoals modellen: allemaal verkeerd/sommige bruikbaar), verwarrende variabelen, overlevingsvooroordelen, heuristieken kunnen beter presteren dan grote D-sets, alle D verzonnen, datagedreven →eigen agenda, niet alle verdelingen Gaussiaanse →machtswetverdeling (middelen/medianen werken niet, b.v.
rijkdom, weinig mensen hebben het meeste)
2. Sociaal: oneffenheden zijn waarschijnlijk niet Gaussiaans
3.Wetenschappelijk: ontdekkingen onvoorspelbaar (door hun aard!)
4. Toevallig: staartvinnen (verkoudheid van Napoleon/neus van Cleopatra)
5.Ironisch: overmatig gebruik van voorspelling → minder voorspelbaar/vals gevoel van veiligheid, experts zijn niet beter in voorspellen, AI creëert risico (verkoop vervolgens de resolutie en laat enkele details achter), existentieel risico = afleiding door TE’s (suggereert dat AI meer macht heeft dan het doet, vermijdt gepraat over surveillance/houdt algoritmen ondoorzichtig, TE’s bouwen bunkers), produceert monocultuur.
Er zal altijd onvoorspelbaarheid zijn: gedeeltelijke K, sociale complexiteit, doorbraken, toevalstreffers, blindheid.
Deel 3: Voorspellingen opnieuw bekijken
Hoofdstuk 7: Waarheid, deugd en schoonheid: waarom idealen de voorspelling overtreffen: Effectief altruïsme (EA): type utilitarisme (het maximaliseren van het welzijn/geluk van velen) met een nieuwe naam, oppervlakkig intuïtief, niet gebaseerd op loyaliteit, rechtvaardigheid of rechten (bijv.
dood één persoon om er nog vijf te redden, staat/vereist monsterlijke daden toe).
Twijfelachtig omdat: 1.Je het nut niet kunt definiëren. 2.We de gevolgen van acties niet kunnen voorspellen. 3.We de gevolgen op de lange termijn niet kunnen kennen.
TE's + EA: In eerste instantie verlichting van de mondiale armoede, kost te veel → AI-veiligheid (veel geld kopen van onroerend goed).
Langetermijndenken/oneindigheid maskeert problemen.
Problemen: doen wat juist is/zorgen voor de waarheid/vrijheid van meningsuiting/het behoud van de academische wereld vs.
het maximaliseren/minimaliseren van toekomstige gevolgen via utilitarisme, schurken die als cool worden ervaren.
Hoofdstuk 8: De kansen trotseren: over het gebruik van creativiteit, humor en veerkracht om het script om te draaien: wanneer de mainstream tegen een muur botst, hebben we mensen aan de rand/uitschieters/buitenbeentjes nodig.
AI-algoritmen sturen naar het middelste/ontbrekende talent dat het denken verandert.
Humor → bron van waarheid, oneerbiedig, geeft ons moed, over zorgen (plagen omdat je erom geeft), te subtiel + contextafhankelijk voor AI.
Vrije wil: AI/voorspellingen die terugdringen tot determinisme, voorspeld →voorzegd →bepaald.
Mensen ≠ ∑ gegevens over hen.
Democratie: goed voor vrede/stabiliteit/welvaart/vrijheid/innovatie/zakendoen, maar langzaam/inefficiënt/imperfect, over het verdelen van macht om overheersing te voorkomen (moeilijk te vermijden met AI)/om diversiteit in stand te houden.
Gegevens spreken niet; we interpreteren het, soms zijn er niet genoeg gegevens (overstromingen, klimaatverandering).
Afweging: magerheid versus onzekerheid, alternatief is voorbereiding → kijk naar de redenen voor wat we nu hebben, toewijding aan het heden/de waarheid (betere optie: klimaatverandering, investeringen).
Hoofdstuk 9: Hoe te gedijen te midden van onzekerheid: nieuwsgierigheid, angstloosheid en filosofie als tegengif voor profetie: nieuwsgierigheidskracht (C): C over het heden → minder ongerust over de toekomst, zelfs vervelend = interessant, kunnen ook wrede soorten C zijn, hebben welwillendheid nodig, voelen zich op hun gemak bij onzekerheid.
Standvastig blijven: moed die nodig is om beproevingen met integriteit tegemoet te treden, C kan helpen als rechten niet worden gerespecteerd → moeten vechten of het wordt erger, zorg: de illusie van veiligheid kan averechts werken.
Boeken: centraal in profetieën (metaforen lezen/schrijven voor het ontcijferen van de kosmos/navigeren door het leven), profetieën uitdagen (betrouwbare manier om kennis door te geven), de mensheid verenigen, ons vormen (we denken gedachten die we anders niet zouden hebben gedacht).
Beslissingen op basis van oordeel = eigen verantwoordelijkheid/veiliger vs. gebaseerd op data = verantwoordelijkheid ontlopen/risicovoller.
E-boeken = informanten, hebben ondanks TE-profetieën geen papier verwijderd.
Filosofie: dat wat vergif brengt, kan tegengif brengen, Orakel van Delphi bracht filosofie = tegengif, want geïnteresseerd in het goede leven, kan geld/macht dat niet kopen (Thales van Milete: 1e Griekse filosoof/brak uit mythe en waarzeggerij/gegrond in obs.
en redenering, epicurisme (democraat, deugd als middel, kan auteur van eigen leven zijn, pad naar geluk = goede vriendschappen) versus stoïcisme (deugd als doel op zich, iedereen heeft een blauwdruk voor zijn leven).
Heb geen angst of verlangen; schrijf je beste, vriendelijkste, meest authentieke, mooie leven.
Epiloog: Tien lessen in voorspellen:
- . Leef in het heden
- . Pas op voor profetieën
- . Onthoud de aard van voorspellingen
- . Beschouw voorspellingen als uitnodigingen tot verzet
- .Bereid je voor, voorspel niet
- . Als je moet voorspellen, voorspel dan slim
- . Als je moet voorspellen, voorspel dan ethisch
- . Vermijd dat je het onderwerp wordt van voorspellingen
- . Vergroot serendipiteit
- .Leef goed.
Naschrift: AI Ethiek 101: De erfzonden van Digital Tech: Ethiek is niet saai of een kwestie van mening.
AI-ethiek NIET in tegenstelling tot regelgeving/politiek, maar er moet werk worden gedaan aan de ethiek van voorspellingen."
*- Helen Reynolds, https://itsalearningcurve.education/wp-content/uploads/2026/05/prophecy-summary.pdf
Reacties