VU Magazine 1990 - pagina 56

Prof. dr. R.J. in 't Veld: crisismanager. Foto Bram de Hollander

Prof. dr. W.A. Wagenaar: 'Mensen doen veel, zo niet vrijwel alles, automatisch.' Foto Loek Zuyderduin

Dit was uiteindelijk de aanleiding om een nieuw stelsel te ontwerpen. In 't Veld: "Maar daarmee werd ook het systeem van lokale contacten overboord gezet, zodat niemand meer kon beslissen over twijfelachtige en dubbelzinnige situaties. Dat is eigen aan automatisering. Als de uitvoering van een sociaal stelsel persoonlijke beslissingen eist in ambigue situaties, moet men niet automatiseren", aldus In 't Veld. De problemen bij automatisering zijn dus niet alleen technisch van aard en bovendien niet oplosbaar door steeds meer, steeds beter opgeleide en steeds stressbestendiger programmeurs in te zetten. Het probleem gaat dieper. Ambtenaren en computers zijn niet straffeloos uitwisselbaar. Hoe we het werk tussen mens en computer verdelen is niet om het even.

kingen te doen. Zij claimen dat de belangrijkste ontdekkingen net zo goed door een machine gedaan zouden kunnen zijn. Wagenaar: "Als je hun programma's bestudeert, zie je dat die alleen problemen oplossen, die tevoren door hun makers zijn gedefinieerd. Het creatieve van een geniale ontdekking zit echter vaak in het stellen van de juiste vraag, niet in het vinden van een antwoord. Hoelang duurt het voordat een dinosaurus het koud krijgt? Een onzinnige vraag, op het eerste gezicht. Maar het antwoord laat zich routineus berekenen: de warmtecapaciteit van een dinosaurus is zo groot dat hij het pas een maand nadat de winter was ingevallen kil kreeg. Verrassend."

gedacht en beslist moet worden. Het gevolg is dat duizenden mensen dagin, dag-uit bezig zijn met het lezen van miljoenen adressen en namen op girokaarten en getallen op belastingformulieren om ze vervolgens werktuiglijk in machines in te typen. De computer gaat dan aan de slag om deze informatie te bewerken: ze controleren de tegoeden, sporen belastingfraude op, en beslissen over de toekenning van subsidies." Alles gebeurt nu totaal automatisch: het geestdodende werk door vingervlugge mens-automaten, het iets intelligentere door zoemende machi-

E

en typist - niet meer dan het 'oog' van een computer voert als een mentale invalide de gegevens aan de computer, die aan de hand daarvan eenduidig en rechtvaardig over het lot van een beursstudent zal beslissen. Zo simpel is het niet, meent ook prof. dr. W.A. Wagenaar op het symposium over automatisering. "Het probleem is dat de computer precies de verkeerde taken van ons overneemt", oordeelde hij. Wagenaar is hoogleraar psychologie in Leiden. Volgens hem doen mensen veel, zo niet vrijwel alles, automatisch. We lopen zonder over elke stap na te denken en we lezen zonder dat de vorm van letters ons hoofdbrekens kost. Pas als er iets niet klopt, wordt de automaat gestopt en moet er worden nagedacht. Wagenaar: "De bewering dat een machine aanvraagformulieren kan lezen, valt veel makkelijker te ontzenuwen dan de claim dat een computer de regels van de wet kan uitvoeren. De gedachte dat machines echt kunnen denken is reeds lang geleden op tafel gelegd. Maar men heeft de hoop voorlopig moeten opgeven, dat een computer een eenvoudige, gesproken zin als 'Oort is erdoor' kan opvangen en netjes uitprinten." Volgens Wagenaar is er niets op tegen als een machine de automatismen gedeeltelijk van ons overneemt. Wagenaar: "De computer wordt echter juist ingezet wanneer er na10

ne-automaten. Deze taakverdeling is volgens prof Wagenaar ontstaan doordat de automatische handelingen van een mens moeilijk te computeriseren zijn. Wagenaar: "Het lezen van handschrift is voor een computer een hele kunst. En als hij het niet helemaal goed doet, valt hij onmiddellijk door de mand. Dat moet de mens dus doen. Met regeltjes heeft een computer ogen-

schijnlijk heel wat minder moeite. Dat laten we hèm dus doen."

H

et bezwaar is volgens Wagenaar dat een controlemechanisme, dat signaleert of de regels nog wel van toepassing zijn, ontbreekt. En dat is volgens hem fataal: "Daardoor worden we voortdurend opgescheept met absurde gevolgen van blindelings toeVU-MAGAZINE—FEBRUARI 1990

gepaste regels. De computer in Groningen schreef een van mijn studenten uit, omdat die zich in 1884 zou hebben ingeschreven. Hij studeerde dus langer dan de toegestane zes jaar. En de machine van de girodienst maakt rustig f 9.999.999.999,99 op mijn rekening over, zonder zich af te vragen hoe een gewoon hoogleraar ooit zo'n bedrag zou kunnen verdienen." De controle is nu overgeheveld naar de klant. Die moet zelf ontdekken wat er mis is, en uitzoeken welke functionaris het probleem zou kunnen oplossen. Wagenaar: "Meestal verwijst zo'n functionaris naar een machine, die natuurlijk met zijn regeltjes het probleem helemaal niet kan oplossen." Grote computers kunnen worden gevoed met grote hoeveelheden kennisfeiten en ervaringsregels. Als je zo'n expertsysteem maar genoeg informatie geeft, stellen ze vast welke ziekte een patiënt heeft, waar het prohjtelijkst naar olie geboord kan worden, of welke aandelen interessant zijn. Wagenaar: "De ontwerpers van zulke systemen veronderstellen dat ook een expert vragen oplost met zo'n verzameling regels die hun bruikVU-MAGAZINE—FEBRUARI 1990

baarheid in de praktijk hebben bewezen. Dat is prachtig, zolang we van de expert geen creativiteit verlangen. Zo'n expertsysteem kan wellicht uitstekend vaststellen dat een patiënt aids heeft, maar aids moet dan wel in het computerprogramma zijn opgenomen. De machine had nooit zelf het bestaan van aids kunnen ontdekken. Een ervaren arts ontwikkelt voor dit soort nieuwe dingen een klinische intuïtie die niet in regels is te vangen."

O

m dezelfde reden kunnen we het de computer van studiefinanciering niet kwalijk nemen dat die rücksichtlos reprimandes zond aan het legertje studenten dat per abuis van de klantenlijst was afgevoerd. Had er echter een mens aan het roer gestaan dan had die toch allicht enige argwaan gekregen bij zo'n stapel. Computers hebben geen intuïtie, zijn niet creatief en zijn dus niet in staat tot eigenmachtig optreden. Zodra de computer het laatste woord heeft, gaat het mis. Niet iedereen is het daarmee eens. Enkele computerdeskundigen schreven programma's die de machine bij voorbeeld in staat stelden om zelfstandig wetenschappelijke ontdek-

Al is over kunstmatige intelligentie voorlopig het laatste woord nog niet gesproken; vooralsnog zijn computers met echte intelligentie nauwelijks begiftigd. Daarover kunnen we het eens zijn. Hoop dat dat snel zal veranderen lijkt ijdel. Het is daarom verstandig wanneer de politiek zich bij komende automatiseringsprojecten buigt over de bekwaamheid van bewindvoerders en uitvoerders, en hen voldoende tijd gunt om hun werk naar behoren uit te voeren. Maar bovenal is het verstandig dat men zich op de taakverdehng tussen mens en computer bezint. Anders blijft de wanhoop bestaan van bur-

'De regels moesten worden aangescherpt, maar dat leverde zoveel extra programmeerwerk, dat men er maar weer vanaf zag.' gers die hun invulformuHer niet begrijpen, met de vreemdste beslissingen worden geconfronteerd en die uiteindelijk worden afgepoeierd met manke verontschuldigingen van een hikkende computer. Want dezelfde automatisering die zo vrolijk werd ingehaald als waarborg voor rechtsgelijkheid, kan - paradoxaal genoeg - onmacht en onbillijkheid veroorzaken; dat is inmiddels duidelijk. D 11

Deze tekst is geautomatiseerd gemaakt en kan nog fouten bevatten. Digibron werkt voortdurend aan correctie. Klik voor het origineel door naar de pdf. Voor opmerkingen, vragen, informatie: contact.

Op Digibron -en alle daarin opgenomen content- is het databankrecht van toepassing. Gebruiksvoorwaarden. Data protection law applies to Digibron and the content of this database. Terms of use.

Printen