Het Human Brain Project heeft in 2013 1 miljard euro gekregen om het menselijk brein te simuleren op supercomputers. Stel dat het volledig zou slagen, en dat het gesimuleerde brein tot echte cognitie en intelligent gedrag zou leiden, wat volgt daar dan eigenlijk uit? En met welke vragen of zorgen zadelen we de samenleving dan op?
Afbeelding: Human Brain Project
Het Human Brain Project (HBP), wie kent het niet? Het is een project dat 1 miljard euro heeft gekregen van de Europese gemeenschap om binnen 10 jaar het menselijk brein, van molecuul tot de complete circuits, na te bootsen op supercomputers. Dit project moet ons helpen te begrijpen hoe cognitie en intelligent gedrag ontstaat. Ja, binnen 10 jaar. En ja, van molecuul tot en met het hele menselijke brein. En nee, niet op computers, maar op supercomputers. Ja, dat is nogal wat ja. Vind ik ook. Er is dan ook nogal veel ophef om geweest, ook heel recentelijk nog in de onderzoekswereld. Ik heb zo mijn eigen bescheiden ervaringen met het HBP die ik hier, op verzoek van de redactie van Donders Wonders, zal beschrijven.
Lid van het team?
Ik weet nog dat ik, eens, lang geleden, op het punt stond om deel te worden van het roemruchte HBP team. Heeft het er ooit echt in gezeten? Om eerlijk te zijn ben ik er nooit zeker van geweest. Er was een oproep om voorstellen in te dienen voor de zogeheten ELS-pijler (Ethical, Legal and Societal: over de ethische, juridische en maatschappelijke implicaties) van het project.
Dus ik schreef zo’n voorstel, terwijl ik een conferentie bijwoonde over totaal iets anders, in Siena. Ik bleef laat op en stond vroeg op, en haalde ternauwernood de deadline. Het zag er gunstig uit, ik werd toegevoegd aan de HBP-ELS mailing lijst, ik werd vermeld op de HBP webpagina, en toen… niets. Ik informeerde nog eens… niets. Er deden allerlei geruchten de ronde over geldkwesties, nationale matching en dergelijke. Nou ja, dacht ik, hogere wetenschapspolitiek, en ik liet het gaan.
In de spotlight
Maar het afgelopen jaar begon de media (opnieuw) interesse te krijgen in het HBP. Ze namen contact op met mij (en met Paul Tiesinga, die voor zover ik weet de enige is van het Donders Instituut die betrokken is bij het HBP).
Eerst mocht ik met een hele leuke journaliste gratis mee naar een film voor een radio interview. De film heette “Ik Frankenstein”.
.jpg)
Jippie!! Zie je waar een projectvoorstel niet allemaal toe kan leiden? Het was een 3D griezel-, moord- en doodslagfilm met vage terzijdes over engelen die duivels bevochten. Ik kon er niet goed hoogte van krijgen, maar de goeden wonnen, de gemene wetenschappers verloren, de mensheid overleefde, en de 3D effecten waren behoorlijk spectaculair.
Het interview zelf was relaxed, hoewel het einde tamelijk strategisch gekozen bleek. Luister zelf maar als je wilt: Radio 1 Vandaag, ‘I Frankenstein’ door de ogen van een neurofilosoof – 30-1-2014.
Ik hoop dat ik geloofd word als ik zeg dat ik aan het eind nog een heleboel redenen gaf om dit soort onderzoek nu juist wel te doen. Maar dat is niet in de uitzending gekomen. Blijkbaar was de tijd op of zoiets. Ach ja, de media, hè….alles moet snel.
Ietsje later kwam de Volkskrant wat commentaar vragen over het HPB, voor hun gloednieuwe Volkskrant E-magazine ‘ Het Brein: Achter de schermen van het duurste hersenproject ooit’. 28-10-2014, met stukjes van Paul en mij.
En dan nu, als laatste maar zeker niet als minste, dat beleefde verzoek van Donders Wonders. Daarom heb ik maar weer eens dat voorstel opgezocht waaraan ik zo hard gewerkt had in dat kleine hotelkamertje in Siena, in, zoals Frank Sinatra zegt “The wee small hours of the morning”).
Mijn voorstel
Globaal zag ik twee taken: uitleggen wat de potentiële waarde en voordelen van het HBP zouden kunnen zijn, en, ten tweede, zorgen wegnemen die zouden kunnen ontstaan bij een breder publiek. Ik zal me hier beperken tot slechts een paar van de thema’s die ik suggereerde in verband met de mogelijke zorgen. Ik zeg er alvast bij dat die onderling nogal verschillen qua urgentie en realiteitsgehalte.
Stel nou dat het HBP zou slagen en leidt tot echt denken, echte intelligentie, echt voelen, echt willen, echt bewustzijn, enfin, alles waar het brein tegenwoordig verantwoordelijk voor wordt gehouden. Wat volgt daar dan eigenlijk uit?
Voor alle duidelijkheid, ik geloof zelf helemaal niet zo dat het HBP haar 10-jaar doelstellingen zal bereiken, het leek me allemaal nogal overdreven ambitieus geformuleerd (niet ongebruikelijk in subsidieaanvragen).
Toch moet je je soms afvragen wat eigenlijk de consequenties zijn als sommige uitgangspunten en beloftes waar zouden worden. Dat is iets waar het bredere publiek in geïnteresseerd zal zijn, dus daar moet je een antwoord op hebben klaarliggen.
Onder de kwesties waarvan ik dacht dat die de aandacht zouden trekken van een breder publiek en de media zaten onder andere de volgende:
De paradox: Stel nu dat de supercomputers die de breinsimulatie draaien inderdaad volledig succesvol zijn, is het dan niet immoreel, of zelfs illegaal, om daar verder mee te experimenteren? Je kunt met een menselijk brein toch niet zo maar proefjes doen? Sterker nog, mag je de simulatie überhaupt wel uitzetten of is dat dan ‘moord’? Dat is het paradoxale van het HBP, zou het slagen (echt volledig slagen), dan moet je er verder met je handen van af blijven. Hooguit mag je beleefd vragen stellen (en hopen dat het ‘brein’ mee wil werken). Toch onhandig als die supercomputers dan verder niets anders meer zouden mogen doen dan de simulatie draaiend houden.
De onzekerheid: Hoe weet je eigenlijk zeker dat je een echt bewustzijn of echt cognitie hebt gemaakt, in plaats van nagebootst? Dit is een bekend probleem uit de filosofie: ‘the other minds problem’, en die zou zeer krachtig op kunnen spelen. Een programma laten zeggen: “Ik voel me goed en ik heb er zin in vandaag” is niet zo moeilijk. Maar hoe maak je onderscheid tussen een programma dat echt iets voelt en dat louter doet alsof? Dat probleem speelt volop in de kunstmatige intelligentie, en het is vooralsnog niet opgelost. Toch onhandig als je nooit zeker kunt weten of je project ook echt geslaagd is in het produceren van cognitie of niet.
De Frankenstein vrees: Is het niet waarschijnlijk dat dit project, misschien ergens halverwege, monstrueuze breinen en gedeformeerde cognitieve systemen zou creëren? Een systeem dat misschien zeer vreemde en vervormde gedachten, gevoelens en verlangens heeft? Is dat moreel en juridisch wel aanvaardbaar? “Gegarandeerd dat mensen zoiets gaan bedenken”, had ik er nog bijgeschreven. En inderdaad, niet veel later zag ik het terug in de Daily Mail (toegegeven, niet bepaald een krant met een goede reputatie).
Simulatie of implementatie?
Belangrijk maar lastig is dat het bij deze punten onder andere gaat om het goed uitleggen van wat het verschil is, of zou kunnen zijn, tussen een simulatie van een proces, en een implementatie. Door een simulatie van een orkaan zal niemand meegesleurd worden, dat speelt zich puur binnen een computer af. Maar implementeer je het programma, middels een windtunnel bijvoorbeeld, dan kan het in die tunnel aardig spoken.
Bij cognitie is het onderscheid echter lastiger te maken. Doet een schaakcomputer maar alsof, of kan ie echt schaken? Ik dacht het laatste, vooral als ik weer eens van het bord geschoven ben. Componeert een muziekprogramma echt muziek of is het ‘maar’ een simulatie? Als je het brein nabootst op supercomputers, ben je dan cognitie aan het simuleren of implementeren?
Wil je de potentiële zorgen zoals de bovengenoemde bij een breder publiek wegnemen, heb je echt wel wat nauwkeurig uitlegwerk te doen. Het zal mij benieuwen hoe het HBP dat gaat aanpakken.
Dit blog is geschreven door Pim Haselager. Pim Haselager is filosoof en onderzoeker in de groep over theoretische cognitieve wetenschappen bij het Donders Instituut. Lees meer over zijn onderzoek op zijn website. Hij is ook een slechte maar toegewijde schaak- en gitaarspeler.
Bewerking door Susanne en Lieneke.