Ad Valvas 1990-1991 - pagina 289

PAGINA S

AD VALVAS 24 JANUARI 1991

Het menselijk brein wordt nooit een macliine Joseph Weizenbaum, de luis in de pels van de kunstmatige intelligentie Met de opgetogen claims van vakgenoten mag hij graag de vloer aanvegen: Joseph Wei­ zenbaum, hoogleraar kunstmatige intelligen­ tie aan het Massachu­ setts Institute of Tech­ nology (MIT). Onver­ moeibaar strijdt hij te­ gen onzinnige opvattin­ gen over de menselijke geest en de plannen voor intelligente robots die links en rechts wor­ den uitgebroed. Vorige week was Wei­ zenbaum op uitnodiging van collega­onderzoe­ kers aan de VU en de UvA even in Amster­ dam. Een gesprek.

Joseph Weizenbaum: 'Kunstmatige intelligentie zal in de huidige samenleving vooral misbruikt worden' Martin Enserink

Bent u klaar voor het post­biologische tijdperk? Waarin de menselijke ge e st zich eindelijk ontdoe t van zijn tradi­ tionele behuizing, om zijn intrek te nemen in een combinatie van eenen­ twintigste­eeuwse hard­ en software ? Volgens de Amerikaanse aute ur Hans Moravec is het niet uitge slote n dat die vraag ooit actueel zal worden. Zijn redenering, neergelegd in het boek Mind Children, luidt vrij ver­ taald als volgt: de menselijke ge e st is in essentie een grote hoeveelheid in­ formatie; het lichaam e e n inge wik­ kelde biochemische pudding die dient om die informatie bij elkaar te houden. Vergelijk he t met een Mo­ zart­symfonie, vastgelegd op com­ pact­disk: gedigitaliseerd e n wel is de muziek teruggebracht tot één ex­ treem lang getal, bestaande uit louter enen en nullen. Een grote , maar des­ alniettemin be pe rkte hoeveelheid in­ formatie. Als de menselijke ge e st uite inde lijk ook uit zo'n lange rij nullen e n e ne n bestaat, dan moet het mogelijk zijn die informatie ove r te brengen (te downloaden) naar e e n machine. De computer die zich over deze informa­ tie ontfermt, is in de visie van Mora­ vec geen simulatie van de me nse lijke geest meer; het apparaat be schikt over dezelfde 'software ' e n is dus een menselijk be wustzijn. Dat het oude onderkomen van de geest, het imme r aan ziekte en slijtage onderhevige li­ chaam, kan worden afge schaft, spreekt voor zich. Voor het individu biedt een dergelijke overstap een lok­ kend perspectief, namelijk de onster­ felijkheid; voor de mensheid als ge­ heel betekent het de intrede van het 'post­biologische tijdperk'. Na miljoe ­ nen jaren trouwe dienst kan het DNA­molecuul worden opge borge n; de toekomst is aan de siliciumchip.

Ontploft Waarschijnlijk zoude n slechts weini­ gen aandacht aan Mind Children be ­ steed hebben, een enkele scie nce ­fic­ tionregisseur daarge late n, ware het niet dat de auteur e e n ge re nom­ meerd onderzoeker is, alsook direc­ teur van een belangrijk robotica­labo­

ratorium, en dat zijn theorie wordt uitgegeven door de universitaire uit­ geverij van Harvard. Joseph Weizenbaum moet zo onge­ veer ontploft zijn toen hij kennis nam van de strekking van het boek. Wei­ zenbaum geniet al vele jaren de re pu­ tatie van genadeloze criticaster van vooral het Amerikaanse onde rzoe k naar kunstmatige intelligentie. Mora­ vecs visie is een uitnemend voorbe e ld van de arrogante en onme nse lijke houding die de 'kunstmatige inte lli­ gentia', zoals hij de betreffende on­ derzoekers steevast aanduidt, zich heeft aange me te n. Van oorsprong is Weizenbaum één van hen. Hij deed onderzoek naar ar­ tificiële inte llige ntie , en volgens vak­ genoten niet onverdienstelijk. Nie t helemaal zonder gevoel voor drama­ tiek kwam hij echter tot 'inkeer' na­ dat hij zag welke gevolgen zijn gees­ teskind Eliza had. Eliza is een com­ puterprogramma dat zich ge draagt als een psychotherapeut: het 'praat' met de computergebruiker, e ige nlijk vooral door diens opmerkingen in vragende vorm terug te kaatsen. {'Why do you feel that way?'; 'Tell me more about your family'). De reacties van de 'patiënten' op zijn programmatuur be zorgde n We ize n­ baum een schok. Niet zelden bleken zij terstond bereid via het toe tse nbord hun die pste zieleroerselen aan Eliza toe te vertrouwen. De compute r werd al snel een menselijk be wustzijn toegedicht; Eliza bleek de ideale ge­ sprekspartner. Die kant moet het dus in elk geval niet op met de kunstmatige intelli­ gentie, concludeerde We ize nbaum. Sindsdien verkiest hij het bestaan van de luis in de pels van zijn vakge bie d, zijn scherpe pen immer in de aan­ slag.

Bewustzijn Zo richt hij zijn kritiek regelmatig op vakbroeders die beweren dat de com­ puter een eigen bewustzijn kan krij­ gen. Waarom zou een geest, een ziel zo men wil, zijn voorbehouden aan biochemische structuren? vrage n co­ ryfeeën als Marvin Minsky en Dou­ glas Hofstadter zich af. Als een com­ putersysteem maar ingewikkeld ge­

noeg wordt, onstaat bewustzijn van­ zelf. Weizenbaum daarentegen ze gt: "Be­ wustzijn, een geest, emoties, dat is iets onvervreemdbaar me nse lijks. Het is uitgesloten dat je dat ooit in een com­ puter zult krijge n." ­ Maar waarom windt u zich dan zo op over dat boek van Moravec? Als zijn toek omstvisie zo absurd is, hoe­ ven we er toch niet bang voor te zijn? "Omdat het maar ten dele relevant is of hij gelijk krijgt of niet. Stel dat je broer verslaafd is aan gokken en hij beweert een perfect syste e m te heb­ ben, waarmee hij hel casino in wil. Dan zeg je toch ook niet 'laat he m maar'. Je weet dat zo'n systeem nie t bestaat, dus laat je hem niet al z'n geld vergokken. "Moravec heeft he t over de schep­ ping van kunstmatig leven, de men­ selijke persoonlijkheid in een robot stoppen... Geheel los van de vraag of dat kan, maak ik bezwaar tegen het filosofische fundame nt dat er een es­ sentieel onderdeel van is. Dat funda­ ment houdt in dat de mens e ige nlijk helemaal niet zo'n ingewikkelde ma­ chine is, maar slechts a set of infor­ mation. Die houding werkt een totale ontmenselijking in de hand, de ont­ kenning van de individualiteit van elk mens. Dat heeft grote gevolgen voor de manier waarop de samenle­ ving tegen haar leden aankijkt."

God spe le n "We hebben he t hier echt over hele rare ideeën, over God spe le n, leven scheppen. En het mag onmoge lijk zijn, maar zulke ideeën worden wel onderwezen door vooraanstaande professoren, e n gefinancierd door be­ roemde universiteiten. Dat geeft ze een zekere legitimatie." ­ Maar denk t u dat Moravec zijn theorie zelf gelooft? Is zijn boek niet vooral een provocerend gedachten­ experiment? ,­, "Nee, ik ken verschillende me nse n die langs dezelfde lijne n de nke n, en ik ben ervan overtuigd dat ze erin ge­ loven. Ze geloven dal uiteindelijk de volledige menselijke ge e st, niet alle e n kennis, maar ook hoop, gevoel, angst.

gesimuleerd kunne n worde n in de computer. "Ik begrijp dat werkelijk nie t. Ik vind hel nel zoiets als een beroemde schei­ kundige of natuurkundige die zou zeggen dat hij in astrologie gelooft. Ik moet denken aan een van de vijf of zes beroemdste onderzoekers op dit gebied ­ nee, ik noem geen naam ­ die ik persoonlijk ke n. Hij houdt staande dat elk aspect van de mense­ lijke psyche in principe te program­ meren is. Ik sprak hem eens op een moment dat hij smoorverliefd was; hij was zo ongeveer de gelukkigste mens ter wereld. Ik vroeg hem: 'Ge­ loof je dat nou nog steeds, van die programmeerbaarheid?' En hij zei: Oh ja, zeker. Op dit moment zijn we nog niet zo ver, maar we komen e r wel'. Het enige wat ik daarop kan zeggen is: 'Ik begrijp he t gewoon niet'. Ik begrijp hel niet!" ­ Sommige critici vinden uw k ritiek nogal overdreven. Men beweert dat u kritiek hebt op uw eigen, opgek lopte beeld van wat onderzoek naar k unst­ matige intelligentie inhoudt, terwijl u de praktijk niet meer goed kent. "Ten eerste moet men zich realiseren dat ik het vooral over de Amerikaan­ se Al­gemeenschap heb, die totaal verschillend is van de Europese. Hier in Europa is men veel bescheidener, realistischer, minder waanzinnig. "En verder, hel is nu eenmaal het lot van de ketter en de dissident, dat de mensen zich ongemakkelijk gaan voelen en zeggen: 'Ach ja, hij zegt wel een paar verstandige dinge n, maar hij is veel te extreem en hij zit eigenlijk ook niet goed meer in de materie'. Bovendien: als mensen nie t bezig zijn met de zaken waartegen ik ageer, dan hoeven ze zich toch ook niet aangesproken te voelen?"

Foto Bram de Hollander

goeds, en het is moeilijk te bedenken hoe dat slecht gebruikt kan worden. Ik zie dat ook als 'waarachtige we te n­ schap', het najagen van kennis en in­ zicht in natuurlijke fe nome ne n. Hoe is het mogelijk dat een kind van drie leert correcte zinnen te bouwen die misschien nooit eerder op aarde zijn uitgesproken?"

Menselijke spraak "Maar een ander, daaraan ve rwant vakgebied is de herkenning door computers van de menselijke spraak. Daar werkt ook een hele sectie van de Al­gemeenschap aan. Dat he e ft allerlei nuttige toepassingen maar is daarnaast zeer interessant voor het le­ ger; die kunnen he t gebruiken om wapensystemen te ontwikkelen die reageren op gesproken commando's. "Natuurlijk kan onderzoek ahijd te n goede en ten kwade gebruikt worde n. Mijn ste lling is echter dat kunstmati­ ge intelligentie in de huidige samen­ leving vooral misbruikt zal worden." ­ Het Amerikaanse ministerie van defensie financiert een groot deel van het Al­onderzoek. Ook het uwe? "Voor een deel wel, ja. Maar daarbij moet u bedenken dat je alleen al door een professor aan het MIT te worden geld aanneemt van het leger. Zodra je je telefoon opne e mt, maak je ge­ bruik van hun financiële midde le n, want het leger steunt het MIT met al­ gemene fondsen die gebruikt worde n voor universitaire voorzieningen. Ik ben zo gelukkig geweest nooit zelf verzoeken om financiering bij het le­ ger in te hoeven dienen, niet omdat ik zo heilig ben of zo, maar omdat ik altijd wel onder een of andere para­ plu heb gezeten.

"Dat voorbeeld van die telefoon illus­ treert trouwens dat we in een com­ plexe samenleving zitten, waarin al­ ­ Maar wat mogen Al­onderzoek ers les met alles samenhangt. Als je über­ dan nog wel proberen? Zijn er rich­ tingen waarvan u zegt: 'Dat kscnr­­— haupt wilt functioneren moe t je vuile geen kwaad'? handen maken. Het he e ft ge e n zin om absoluut zuiver te blijven." "Gelukkig ben ik niet in de positie om iets toe te staan of te verbieden. Grinnikend: '"Vuile handen he bbe n Maar neem het veld van de compu­ we allemaal', zou dat soms de moder­ terlinguïstiek, waarin de computer ne opvatting van de erfzonde zijn? helpt het functioneren van menselij­ Dat vraag ik me plotseling af. Inte ­ ke talen te begrijpen. Dat is iets ressante gedachte."

Deze tekst is geautomatiseerd gemaakt en kan nog fouten bevatten. Digibron werkt voortdurend aan correctie. Klik voor het origineel door naar de pdf. Voor opmerkingen, vragen, informatie: contact.

Op Digibron -en alle daarin opgenomen content- is het databankrecht van toepassing. Gebruiksvoorwaarden. Data protection law applies to Digibron and the content of this database. Terms of use.

Printen