Dispuutbijeenkomst 19 – 4 '04

Een gedachte-experiment

Persbericht

Het Pentagon maakt bekend dat vanaf heden geen menselijke soldaten meer zullen worden ingezet bij enig gewapend conflict. In het diepste geheim is de afgelopen jaren aan een project gewerkt dat tot doel heeft menselijke soldaten geheel door robots te laten vervangen. Dit project is zeer goed geslaagd. Niet alleen de soldaten, maar ook de uitvoerende legerleiding is door intelligente robots vervangen. Het spreekt voor zich dat deze robots stuk voor stuk zeer geavanceerd zijn en gebaseerd op de nieuwste technologie.

Aangezien deze robots onder de meest uiteenlopende omstandigheden moeten kunnen functioneren, is een groot gedeelte van hun capaciteit gereserveerd voor 'leren door ervaring'. Zo kunnen zij inspelen op de plaatselijke omstandigheden. Om optimaal gebruik te kunnen maken van de plaatselijke informatievoorziening kunnen zij zo geprogrammeerd worden dat ze de plaatselijke taal op een behoorlijk niveau kunnen verstaan, dat wil zeggen dat ze voor hen nuttige informatie in hun software kunnen opnemen. De robots kunnen ook zelfstandig surfen op internet en ook hier nuttige informatie opnemen. Deze voorziening kon echter problemen opleveren zodat deze mogelijkheid alleen tot enkele superrobots beperkt blijft. Eenmaal opgeslagen kan de informatie echter gemakkelijk op alle andere robots worden overgedragen.

Om te voorkomen dat de robots tot doldrieste acties overgaan, wat tot verlies van de betreffende robot en zijn eventuele 'ondergeschikten' kan leiden is een 'zelfbeschermingmodule ingebouwd. Deze wordt door de monteurs wel 'pijnchip' genoemd. De werking van deze module berust op een slim samenspel van sensoren die de toestand van de robot registreert en van de mogelijkheid van leren door ervaring. De 'pijnchip' wordt geactiveerd zodra de robot min of meer ernstig beschadigd raakt en leidt tot vermijding van de gevaarlijke situatie.

Om samenwerking mogelijk te maken zijn ze zo ontworpen dat ze ook input van elkaar kunnen ontvangen, ook van elkaars pijnchip. Zo kan altruïstisch gedrag gesimuleerd worden, wat in veel situaties nuttig kan zijn. Deze functie is echter ook uit te schakelen.

Het uiterlijk van deze robots is een functie van hun taak. Sommige lijken enigszins op mensen: ze hebben ledematen en een hoofd met een scanner, andere lijken meer op tanks met rupsbanden, de hoogste legerleiding is een geavanceerde computer die niet beweegbaar is. Aan een robot die nauwelijks van een mens te onderscheiden is wordt gewerkt. Dit om infiltratie mogelijk te maken.

In gesimuleerde gevechten werken de robots goed. Zij reageren zowel op de plaatselijke omstandigheden als op elkaar. De grote hoeveelheid chips die waren gereserveerd voor leren door ervaring bleken echter niet alleen nuttig. Zo bleek de feedback van de pijnchip wel eens te sterk, waardoor de robot inactief werd of zelfs terugtrok. Dit verschijnsel nam toe naarmate de strijd heftiger werd. (Aanpassing van de pijnchip wordt overwogen. Het grootste gevaar bleek echter gelegen in de lees-chip. Enkele robots hadden toegang weten te krijgen tot vijandelijk propagandamateriaal, andere tot pacifistisch materiaal. De eerste probeerden over te lopen, de laatste waren nutteloos geworden voor hun oorspronkelijke doel. Ze moesten een kostbare herprogrammering ondergaan.

Maar dit zijn kinderziektes die te voorkomen zijn.

Tot zover dit persbericht.

In mijn dispuutbijdrage wil ik ingaan op de volgende vraag: is het in principe mogelijk dat een machine bewustzijn heeft? Hierbij wil ik mij beperken tot de filosofische mogelijkheid, niet de empirische mogelijkheid, alhoewel ik wel enkele op dit moment gerealiseerde intelligent systemen zal bespreken.

Om te voorkomen dat we in de discussie langs elkaar heen praten, wil ik eerst enkele begrippen definiëren

1. Machines

In deze discussie: artefacten samengesteld uit anorganisch materiaal. In de literatuur (b.v. bij Dennett) wordt er op gewezen dat ook mens en dier beschouwd kunnen worden als een machine, aangezien op het laagste niveau een levend organisme niets anders is als een chemische fabriek. Ik zal dit echter niet doen omdat ik, evenals Wittgenstein, dan van mening ben een categoriefout te maken.

2. Bewustzijn = Geest

In de philosophy of mind onderscheidt men:

Fenomenaal bewustzijn Hoe het voor een bepaald wezen is om bijvoorbeeld gelukkig, moe of melancholiek te zijn. Algemeen gesteld hoe het voelt een bepaald mens, een hond of een vleermuis te zijn. Dit bewustzijn is niet gericht op iets of iemand in de buitenwereld.

Intentioneel bewustzijn Dit bewustzijn is altijd gericht op iets of iemand in de buitenwereld. Bijvoorbeeld hopen, houden van.

Zelfbewustzijn of reflexief bewustzijn Dit vertelt ons iets over ons denken en gevoelsleven. Het is een terugbuigen op de situatie waarin we verkeren of op bovenstaande bewustzijnsvormen. Het vereist een extra actie. Dawkin schrijft bijvoorbeeld: "Perhaps self-consciousness arises when the brain's stimulation of the world becomes so complete that it has to include a model of itself" (1981)

3. Het lichaam – geest probleem

Alvorens iets te kunnen zeggen over het machine – geest probleem is het noodzakelijk iets te weten van de verschillende verklaringen die worden gegeven voor de samenhang van lichaam en geest bij de mens. Er zijn momenteel twee belangrijke stromingen:

1. Substantie dualisme: er zijn twee verschillende substanties, een mentale en een fysische.
2. Substantie monisme: er zijn alleen fysische dingen (of er zijn alleen mentale)

Een voorbeeld van 1 is het interactionistisch dualisme van Descartes en in onze tijd de theorie van Popper en Eccles. Ook het common sense dualisme wordt tot deze categorie gerekend.

Een voorbeeld van 2a is het functionalisme, die de filosofische onderbouwing levert voor de cognitiewetenschap die zich onder meer bezig houdt met de ontwikkeling van kunstmatige intelligentie

Een voorbeeld van 2b is de identiteitstheorie, die de filosofische onderbouwing levert voor de neuropsychologie en die stelt dat mentale toestanden identiek zijn aan hersentoestanden.

In mijn bijdrage wil ik samen met jullie onderzoeken in hoeverre de verschillende theorieën te verenigen zijn met de gedachte van een 'kunstmatige mens' of een menselijke machine.