Unheimische algoritmes

Het geven van een DNA-test als kraamcadeau of het laten bepalen of je in bezit bent van het juiste leiderschaps-DNA lijkt steeds populairder te worden. Toch kun je je afvragen of het wel verstandig is om ons DNA af te staan. We weten immers niet precies wat er met deze informatie gebeurt.

Steeds vaker komt het voor dat mensen verleid worden om een DNA-kit te bestellen en thuis aan de slag te gaan met een wattenstaafje om hun DNA op te vangen en terug te sturen naar een commercieel bedrijf. Binnen de reguliere gezondheidszorg worden regelmatig genetische aandoeningen gevonden en mensen willen weten of ze risico lopen op zo’n aandoening.

Toen er vier jaar geleden bij mij sprake was van een genetische hartspierziekte twijfelde ik dan ook geen moment en gaf zonder enige reserve mijn DNA af aan het ziekenhuis. De informatie over mijn DNA zit nu in een databank samen met een onvoorstelbare hoeveelheid andere DNA-data. Genetisch onderzoek biedt niet alleen veel informatie over ons lichaam. Het kan ook bijdragen aan de oplossing voor veel aandoeningen.

Toch is er reden voor zorg. We kunnen namelijk niet overzien wat de ethische en politieke gevolgen zijn van deze nieuwe technieken. Was het wel verstandig dat ik, zonder me al te veel zorgen te maken, deze intieme informatie over mezelf heb gedeeld? Moet ik het DNA van mijn vier kinderen ook laten onderzoeken op deze genetische hartspierziekte, zodat ik ze eventueel tegen toekomstig leed kan beschermen? Of stel ik hen dan juist aan iets bloot wat hun leven grondig zou kunnen verpesten?

Algoritmes

DNA maakt onderdeel uit van ons en onze leefomgeving. Het DNA van een enkel persoon kan ons echter weinig vertellen over de betekenis ervan. De enige manier om DNA te onderzoeken is het verzamelen van een enorme hoeveelheid DNA-data. Maar ook het verzamelen van data is nog niet voldoende. Er zijn algoritmes nodig om deze data te kunnen combineren en te interpreteren.

Algoritmes zijn een reeks instructies voor een computer. Als je op het internet komt, dan heb je zonder dit meteen door te hebben constant te maken met algoritmes. Vroeger gaven mensen algoritmes instructies, maar in toenemende mate zijn algoritmes zelflerend en gaan zij aan ons verstand voorbij. Algoritmes kunnen, veel beter dan mensen, een enorme hoeveelheid data vergelijken. Ze geven geen perfecte antwoorden, maar wel veel beter dan de mens ooit zou kunnen.

De bedrijven die met algoritmes werken, willen niet praten over hoe deze precies werken. Op 29 mei jl. zei Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens, dat “als er een besluit over je wordt genomen en je weet niet hoe dat tot stand is gekomen, je je daar niet tegen kunt verdedigen”.
Zo’n besluit kan gaan over bijvoorbeeld de vraag of je je kunt verzekeren of misschien een hogere premie moet betalen.

De vraag is dan ook wie precies ‘het besluit over je neemt’. Neemt het algoritme een besluit of de programmeur van het algoritme? Of zijn wij met deze nieuwe technieken in een tijdperk gekomen waarin het onduidelijk is wie een beslissing neemt?

De soeverein

Om het nog complexer te maken kun je je bij DNA-testen afvragen of het afgestane DNA ons überhaupt toebehoort. De Italiaanse filosoof Giorgio Agamben stelt in zijn boek ‘​The Use of Bodies​’ dat er drie dingen zijn waarmee wij in nauwe relatie staan, maar die wij ons desalniettemin niet kunnen toe-eigenen: het lichaam, de taal en het landschap.

Volgens Agamben is ons lichaam, dat in eerste instantie ‘eigen’ voelt, op het moment dat het zich manifesteert absoluut niet toe te eigenen. Iedereen die bijvoorbeeld geconfronteerd wordt met een ziekte moet dit herkennen. Die ziekte is niet van jou, maar toch word je er onvermijdelijk door geraakt. We zitten aan ons lichaam ‘vastgenageld’, maar tegelijkertijd blijft het ons vreemd en uitwendig. (Agamben, 2015).

Hoe zit het nu met DNA? Als we ons DNA afstaan dan geven wij, althans volgens de redenering van Agamben, iets weg wat nooit van ons was. Dit ‘niet-eigene’ belandt in een databank van ziekenhuizen of een commercieel bedrijf, waar onkenbare algoritmes hun werk doen, hetgeen een beslissende invloed op ons leven kan uitoefenen. Deze algoritmisering stelt ons belangrijke vragen over soevereiniteit.

Zijn wij met deze nieuwe technieken in een tijdperk gekomen waarin het onduidelijk is wie een beslissing neemt?

Vaak wordt de soeverein gezien als iemand die een beslissing neemt over leven en dood zonder dat zij verantwoording is verschuldigd aan een ander. Waar de soeverein eerst de koning was en later de wetenschapper en arts, daar zou in deze DNA-revolutie wel eens het algoritme de soeverein kunnen worden. Alleen blijkt, zoals eerder beschreven, dat het onmogelijk is precies te bepalen wie in dit geval de soeverein is. In de grote hoeveelheid van DNA-data en zelflerend vermogen lijkt zij zich terug te trekken.

Als wij ons DNA-materiaal delen dan geven wij iets wat niet van onszelf is, maar wat ons mede bepaalt, aan een volstrekt ondoorzichtige soevereiniteit. Zij doet in sommige opzichten denken aan de Deus Absconditus uit de late Middeleeuwen: een abstracte en verborgen God die zich blijvend aan het gezicht van de mens onttrekt en juist daardoor immuun blijft voor aantijgingen en klachten.

Het ondoorgrondelijke element van die algoritmes roept veel vragen op. Kun je er bijvoorbeeld tegen protesteren? Mogen organisaties er gebruik van maken om te bepalen of zij iemand toelaten voor een opleiding of een baan? Mogen we, als er bij een net geboren kind een genetische test wordt gedaan en afwijkend DNA wordt gevonden, dit melden bij verzekeraars en ziekenhuizen?

Kortom: als ergens bepaald wordt dat er sprake is van afwijkend DNA, mag dit dan gevolgen hebben voor je sociale en politieke identiteit?

Uitsluiting

Verschillende commerciële bedrijven die DNA-testen aanbieden, verleiden ons om onszelf te ontdekken. Door het ontrafelen van ons DNA komt de naakte waarheid, over wie wij volgens hen zijn, bovendrijven. Onze ogen worden door deze testen geopend zodat wij ons bewust kunnen worden van ons echte en naakte zijn.

Agamben stelt dat naaktheid “niet een toestand is, maar een evenement. Naaktheid behoort tot tijdelijkheid en niet tot wezen of vorm”. (Agamben, 2011). Je zou dus kunnen beargumenteren dat het zichtbaar maken van iemands DNA slechts een tijdelijke onthulling is. Toch ligt uitsluiting op de loer als wij, door algoritmes, tot onze blootgelegde DNA-vorm gereduceerd worden.

We zijn dan niet meer dan een wezen met een vaste DNA-vorm. Dit DNA-wezen kan eindeloos in databanken voortbestaan. Mocht de soeverein bepalen dat ons DNA verre van optimaal is, dan zou het kunnen gebeuren dat de drager van dat afwijkende DNA uit bepaalde gebieden van de samenleving wordt verbannen en het risico bestaat om haar genade te verliezen.

Unheimisch

Algoritmes spelen een grote rol in de verwerking van de enorme hoeveel DNA-data. Aangezien het niet meer duidelijk is wie de algoritmes bouwt en hoe ze precies werken, trekt de soeverein zich uit de discussie terug. Mochten we het niet eens zijn met de uitslag van ons DNA-onderzoek, of met mogelijke consequenties van dit onderzoek, dan is er niemand om je tegen te verzetten. Het is ook niet duidelijk of deze uitslag gevolgen kan hebben voor iemands sociale en politieke identiteit.

Door een deterministische kijk op DNA worden wij gereduceerd tot een DNA-wezen en verdoemd tot een eeuwig bestaan in DNA-databanken. Onze identiteit is door deze ontwikkeling niet een sociale of politieke identiteit, maar een biologische identiteit.

Lees in Trouw het interview met Selby van Holte over dit onderwerp van haar premasterthesis.

Ik maakte al duidelijk dat deze discussie mij ook persoonlijk raakt. Eén van de redenen om dit artikel te schrijven is dat ik mij zorgen maak over mijn kinderen in een wereld die zich steeds meer lijkt over te geven aan DNA-technieken. Als gereduceerd biologisch leven zijn wij onzeker over een mogelijke genade van een verborgen soeverein. DNA, dat ons niet eens toebehoort, blijkt nu normatief te zijn voor onze identiteit.

Vooralsnog ondervind ik geen hinder van het delen van mijn DNA. Toch voelt het wel unheimisch. Het gezicht van het algoritme van de DNA-databank blijft verborgen, terwijl mijn DNA-wezen wel zichtbaar is geworden. We proberen deze zichtbaarheid en kwetsbaarheid te beschermen door middel van privacywetgeving. Toch zouden dergelijke maatregelen wel eens hopeloos tekort kunnen schieten.

Als algoritmes hun eigen ondoorgrondelijke leven leiden, dan wordt van de wetgeving verwacht dat ze dingen expliciet maakt die helemaal niet expliciet gemaakt kunnen worden. Mijn vrees is dan ook dat de kracht van de wet tekort zal schieten als het om deze algoritmes gaat. Deze zijn immers niet juridisch aansprakelijk en doen gewoon hun ondoorgrondelijke ding.

Het is onontkoombaar dat DNA-testen steeds vaker een rol in ons leven gaan spelen. Niet alleen om genetische aandoeningen te achterhalen, maar ook bijvoorbeeld bij selectieprocedures of zelfs bij het kiezen van een juiste partner. Toch lijken deze DNA-testen niet alleen maar zekerheden over onszelf te geven. Want hoe sterker wij geloven dat we vooral ons DNA zijn, hoe onzekerder ons bestaan wordt.

Literatuurlijst

• Agamben, Giorgio (2002). ​Homo sacer. De soevereine macht en het naakte leven. Amsterdam: Boom/Parrèsia. (Oorspr. 1995)
• Agamben, Giorgio (2011). ​Naaktheden. Amsterdam: Sjibbolet Filosofie. (Oorspr. 2009)
• Agamben, Giorgio (2015). ​The Use of Bodies.​ Stanford, CA: Stanford University Press. (Oorspr. 2014)
• Plomin, Robert (2018). ​Blueprint. ​UK: Penguin Random House.

Afbeelding van Gerd Altmann via Pixabay