Computers worden gemaakt voor klussen waar mensen behoefte aan hebben. Het zijn gereedschappen, vergelijkbaar met een hamer of een nijptang. We gebuiken ze zolang ze hun werk doen, en als dat niet meer zo is, gooien we ze weg. gereedschappen hebben geen persoonlijkheid. Al zal er best wel eens iemand gehecht raken aan een bijzonder stuk gereedschap waar hij goed mee overweg kan.
Robots hebben mensachtige eigenschappen. Ze zijn gemaakt om tot op zekere hoogte zelfstandig te functioneren. Ze worden bestuurd door computers. Zelfrijdende auto’s zijn in feite robots, al lijken die meer op een auto dan op een mens. Maar zelfrijdende auto’s moeten van tijd tot tijd beslissingen nemen om hun taak te kunnen vervullen. Dat doen ze aan de hand van ingebouwde regels. Die regels zijn het resultaat van een leerproces waarin de auto’s in allerlei situaties worden geplaatst en hun wordt opgedragen om tot een bepaald resultaat te komen. De auto moet dan daarvoor de juiste regels bepalen.
Mensen zijn ook aan regels onderworpen. Om ons sociale verkeer in goede banen te leiden, hebben wij wetten en voorschriften bedacht. Die zijn er om conflicten te vermijden. Maar lang niet alles wat er op onze weg komt, is in regels gevat. Om rond te komen, moeten mensen vaak handelen op eigen initiatief. We bepalen dat initiatief aan de hand van ons zelfbesef. Bij alles wat we doen, speelt dat zelfbesef op de achtergrond mee. Het manifesteert zich door middel van gevoelens en gedachten. We gebruiken het voor intuities en redeneringen. En die vertellen ons welke handelingen we het beste kunnen kiezen. Ons zelfbesef helpt ons om alles wat wij meemaken op onszelf te betrekken en daar consequenties van af te leiden.
Als robots ons moeten vervangen, zouden ze ook over een zelfbesef moeten kunnen beschikken. Maar een zelf is meer dan een stuk gereedschap. Het is dat wat jouw persoonlijkheid bepaalt. Het is de kern die jou in je omgeving plaatst. Het is dat wat maakt dat jij jij bent. Zonder zelf kun je geen initiatieven ontplooien. Zonder zelf kun je geen medemens zijn. Maar wat is dat zelf nou precies? De kans is groot dat we daar nooit achter zullen komen. Want om te bepalen wat je zelf is, heb je je zelf nodig. Je zelf zou vanaf een afstand je zelf moeten kunnen bestuderen, terwijl het meespeelt bij alles wat je doet. Je kunt wel anderen bestuderen, maar daarbij kom je niet bij hun zelf. Je ziet bij anderen alleen de buitenkant, terwijl je van je eigen zelf alleen maar de binnenkant ervaart. De filosoof David Chalmers heeft de vraag naar dat zelf bestempeld tot “de moeilijke vraag”, een vraag waarop mogelijk geen antwoord is te geven.
Robots worden bestuurd door computers. Computers zijn enkel gereedschappen. Hoe je die computers een zelf kunt geven, is een vraag die we waarschijnlijk pas kunnen beantwoorden wanneer we onszelf door en door zullen begrijpen. We moeten dan een objective blik op ons subjectieve zelf ontwikkelen. Kunnen we ons zelf wel objectiveren, zodat we onszelf in een computer kunnen stoppen? Je kunt zo’n robot wel vol lampjes stoppen die moeten aangeven welke gevoelens die zou ervaren, maar hoe weet je of die robot-gevoelens overeen komen met wat je zelf zou ervaren? Hoe weet je of die lampjes er alleen aan de buitenkant zijn? Dat geldt weliswaar ook voor je medemensen maar die kun je spiegelen aan jezelf. Het is niet uitgesloten dat je het enige wezen bent met een bewustzijn. Maar al die mensen met hun persoonlijke sores maken dat wel heel onwaarschijnlijk.