Carola van Alphen, voorzitter van Anoiksis, schreef op LinkedIn een stuk over kunstmatige intelligentie en psychosegevoeligheid. Ze legt de vinger op een plek waar het debat structureel misgaat. Hieronder haar opening, en daarna mijn reactie.
Carola van Alphen
Carola van Alphen, voorzitter van Anoiksis, op LinkedIn
De aanname die eronder ligt
De AI die jij beschrijft, Carola, gaat vooral over taalmodellen die groot staan ingesteld op suggestief zelf dingen bij elkaar googelen en verzinnen. Dat zijn inderdaad de modellen die niet zo helpend zijn.
Maar onder het bredere debat ligt een aanname, en die wordt zelden hardop uitgesproken: dat mensen een gevoeligheid hebben waardoor ze niet doorhebben dat ze met een machine te maken hebben. Ik denk niet dat iedereen die gevoeligheid heeft. En ik denk al helemaal niet dat iedereen met psychosegevoeligheid die heeft.
Heel veel mensen zijn prima in staat te begrijpen dat er een machine tekst uitbraakt. Dat wat eruit komt geen relevante uitspraak is over hun eigen leven, maar willekeurige tekst.
Wat een taalmodel werkelijk doet
Een taalmodel is een statistische voorspelling van het meest waarschijnlijke volgende woord of de meest waarschijnlijke volgende lettergroep. Meer is het niet. Dat heeft niets te maken met het overzichtelijk in een bredere context zien van een antwoord. Een taalmodel doet wel moeite om die context te bevatten, maar moeite doen is iets anders dan hem hebben.
Dat vind ik jammer voor mensen die zich juist hebben toegelegd op goed schrijven. Op het zorgvuldig onder woorden brengen van een gedachte die ze eerst hebben doordacht. Die mensen hechten waarschijnlijk ook het meeste aan een narratief dat zorgvuldig is opgebouwd. En precies dat is wat een taalmodel niet ziet.
Waar het wel deugt
Ik gebruik het zelf, en ik ben er open over waarvoor.
Soms ben ik te gehaast, of is het te druk in mijn hoofd om een coherente reactie te tikken. Dan maak ik er geen tijd voor, of dwarrel ik af. Zo werkt mijn brein nu eenmaal: het gaat soms te snel en te vluchtig.
Dan is het heel handig dat ik iets kan inspreken in mijn mobiel en dat het direct wordt uitgeschreven. Dat is ook een soort AI, alleen verzint die wat minder zelf.
Het tweede waar het echt goed in is: het machinaal uitschrijven van standaardteksten, scripts en handleidingen. Dat hoef ik niet meer woord voor woord in te typen. Inspreken en door.
Waar het irriteert
Ik gebruik meerdere modellen door elkaar: Gemini, Claude van Anthropic, en er soms een keer Grok tussendoor. Wat me daarbij opvalt is dit: ze doen aannames over mijn beperkte visie op de materie en beginnen dingen uit te leggen die ik allang weet.
Op die momenten had ik het beter zelf in de boeken kunnen opzoeken.
De kolenmijn bestond al
Carola noemt psychosegevoelige mensen de kanarie in de kolenmijn. Daar volg ik haar in. Maar de kolenmijn is niet nieuw.
Het internet was voor gevoelige mensen al een uitdagende omgeving. Er is daar zoveel informatie aanwezig dat de gevoelige mensen zichzelf te allen tijde zal moeten begrenzen. En daar is AI geen nieuwe dynamiek in.
Wie heel prikkelgevoelig is, moet nadenken over de vraag of hij zich wil blootstellen aan alles wat het internet te bieden heeft. Dat was al zo. En dat blijft zo.
No comments yet