Als iedereen continu ChatGPT gebruikt, zal dat innovatie niet belemmeren omdat je altijd een beroep doet op wat je al weet?

Antwoord

Dag  Désirée,

Dat is grotendeels correct, als je ChatGPT (of elk ander zogenaamd 'taalmodel') beschouwt als een kennismachine. De taalmodellen gebruiken de verzameling van menselijke kennis in principe slechts om wiskundig gezien het meest waarschijnlijke volgende woord in een zin te voorspellen, wat meestal neerkomt op 'het juiste antwoord geven op een vraag'. Je identificeert meteen een groot gevaar: als een stukje kennis niet in de originele data zit, of als je een vraag stelt die zo origineel of verwarrend is dat het taalmodel er niet mee overweg kan, komt er dan waarschijnlijk een fout antwoord. De kunst is dan om die foute antwoorden te onderscheiden van de juiste, want de taalmodellen lijken altijd even zelfzeker over hun antwoorden.

Het specifiekere probleem dat jij beschrijft, gaat uit van het feit dat de mens zelf geen nieuwe informatie meer produceert, en enkel nog steunt op die taalmodellen. Ik kan je wel geruststellen: wetenschappers en technologen die volgens de regels van de kunst werken (en dat is vooralsnog de overgrote meerderheid) weten maar al te goed dat de taalmodellen nagenoeg waardeloos zijn in het ontwikkelen van nieuwe kennis, en gaan dus wel nog actief op zoek naar primaire bronnen en verrichten noeste arbeid om tot nieuwe inzichten en technieken te komen. Daarbij kan men wel bijvoorbeeld een tekst laten verbeteren door taalmodellen, maar voor de inhoud zal er weinig AI aan te pas komen.

"AI-rommel" (in het Engels 'AI-slop') is momenteel inderdaad al een groot probleem bij het verbeteren van de taalmodellen, gezien het moeilijk is om AI-gegenereerd materiaal te onderscheiden van mens-gegenereerd, en zo de vooruitgang in kennis te garanderen. Voor de gemiddelde mens en alledaagse taken bieden taalmodellen tal van voordelen, maar voor het opzoeken van kennis zou ik eerder klassieke zoekmachines blijven aanraden.