Minority Report: de toekomst is nu

Afbeelding: I control the universe, sometimes van Chuck Olsen | Licentie: CC BY-NC-SA 2.0

Als het al zo lastig is om aan te tonen dat je een moord niet hebt begaan, hoe lastig is het dan om te bewijzen dat je een mogelijke moord niet zou begaan? Voor de Filmkrant schreef ik De toekomst is nu.

De toekomst is nu

“De toekomst is veel interessanter dan het verleden. Denk je ook niet?”, vraagt de autodidactische chirurg Dr. Eddie aan Tom Cruise in de Philip K. Dick-verfilming Minority Report (2002). Cruise loopt in zijn rol van politieagent Anderton rond in diens geïmproviseerde en hoogst illegale medische behandelkamer. Hij wil dat Dr. Eddie zijn ogen vervangt om niet langer herkend te worden door alle sensoren op straat. Hoewel crime fighter van beroep, is hij opeens als verdachte aangewezen. Zijn collega’s zoeken hem, hij zoekt zijn eigen ‘minority report’.

De meeste futuristische films schatten technologische ontwikkelingen verrassend conservatief in. Hoewel we nog tot 2084 moeten wachten voor de werkelijkheid van Total Recall (1990) hebben de chauffeurloze auto’s van Google al meer dan een miljoen kilometer afgelegd op de openbare weg. Googles autonome auto begrijpt inmiddels fietsers die hun hand uitsteken, ontwijkt de oranje pionnen waarmee wegwerkers hun werkterrein markeren en stopt als een agent zijn hand opsteekt.

Die autonome auto’s rijden ook in het New York van Minority Report waarin al zes jaar geen moord meer is gepleegd. Hoewel het verhaal van de film zich pas afspeelt in 2054, wordt de stad veilig gehouden door politieagenten die, met een Google Glass-achtige bril op hun neus, insectachtige robots aansturen op zoek naar criminelen. Ze navigeren door de informatie op hun beeldscherm zoals we nu ook al een Xbox kunnen bedienen. Om opstandige arrestanten te bedwingen hangt aan de riem van de agenten een moderne versie van de Taser, de Sick Stick. Het systeem waarmee de agenten de actuele geografische locatie van een bekende verdachte achterhalen is niet wezenlijk anders dan het systeem dat men nu al gebruikt. En die irisscanners die Tom Cruise wil ontwijken, zijn als identificatiemiddel vandaag de dag ook al geen noviteit meer.

Predictive policing

Maar het belangrijkste middel dat de agenten van de Precrime-afdeling in handen hebben zijn de ‘precogs’. Het zijn drie via een ‘hivemind’, een groepsbewustzijn, aan elkaar verbonden genetisch gemodificeerde mensen die in staat zijn om toekomstige moorden te voorspellen. De naam van het slachtoffer, het exacte tijdstip en visuele impressies van de misdaad komen in beeld. Het stelt de politie in staat om de moord te voorkomen en degene die op het punt stond de moord te plegen te arresteren. Die wordt vervolgens, zonder proces, weggestopt in een soort gestapelde gevangenis. En die enkele keer dat de precogs het niet met elkaar eens zijn wordt dat weggemoffeld in een ‘minority report’.

Aan het fenomeen ‘predictive policing’ is inmiddels niets futuristisch meer. Nu al laten politiekorpsen over de hele wereld zich leiden door voorspellingen. Waar in de film de precogs in hun dromen de aanstaande moordenaars aanwijzen, doet de Nederlandse politie het met gigantische hoeveelheden gegevens. Op basis van cijfers over recente inbraken, de verwachte weersomstandigheden, het sentiment op Twitter, de dag van de week en tal van andere bronnen, wordt voorspeld waar een bepaald type criminaliteit gaat opspelen, wie de spinnen in een crimineel web zullen zijn en wie vuurwapengevaarlijk zal worden. De software die de politie gebruikt heet DataDetective en is ontwikkeld door het Amsterdamse bedrijf Sentient.

Asymmetrische machtsverhouding

Naarmate onze maatschappij verder digitaliseert, zal de politie alleen maar meer door algoritmen worden aangestuurd. Het surrealistische propagandaspotje voor Precrime uit Minority Report, inclusief verplicht kinderkoortje, maakt duidelijk met welke wens het systeem is gebouwd: maximale veiligheid en macht. Onze overheid gelooft ook in de maakbaarheid van onze maatschappij, terwijl tegelijkertijd de burger geen risico meer accepteert. De overheid vertrouwt daarom steeds meer op de inzet van systemen met een steeds grotere voorspellende waarde. Systemen die gebaseerd zijn op enorme hoeveelheden gegevens, soms hoogst persoonlijke. Systemen die uiteindelijk beslissen over het lot van het individu.

Maar hoeveel maatregelen de overheid ook neemt, het risico op een overstroming of een terroristische aanslag kan hooguit worden verkleind, nooit volledig worden weggenomen. En iedere keer dat er iets misgaat of dreigt mis te gaan, worden nieuwe maatregelen genomen. Dat voedt de onstilbare honger tot het langdurig bewaren van steeds meer gegevens, het koppelen van steeds meer databases en steeds angstaanjagender analyses daarvan. Het resultaat is een asymmetrische machtsverhouding tussen overheid en bedrijven aan de ene kant en burgers aan de andere kant.

Vrije wil

Het centrale thema van Minority Report is de vrije wil van het individu in een situatie waarin alles al als vaststaand feit is voorspeld. “Je kunt nog steeds kiezen”, roept Anderton de architect van Precrime, Lamar Burgess, in de slotscène toe. Vasthouden aan de voorspelling van het systeem, is een keuze. Maar in een wereld geregeerd door algoritmen is de individuele vrijheid zeer beperkt. De selectie die de computer uitspuugt wordt door opsporings- en inlichtingendiensten als leidend gezien. Waar die op gebaseerd is en hoe je die kunt beïnvloeden is voor de buitenstaander onduidelijk. Kun je als Filmkrant-journalist nog wel vrij schrijven over films uit gebieden als Syrië en Irak als je het risico loopt dat er een vinkje achter je naam komt te staan? Wordt het nog wel een ontspannen interview als het hebben van contact met Syrische filmmakers betekent dat de algoritmen je misschien wel als terrorist aanwijzen? Kun je nog wel naar Damascus afreizen?

Onfeilbaar?

De film bespreekt ook het geloof in de onfeilbaarheid van het systeem in het algemeen en die van de openbare aanklager in het bijzonder. Een herkenbaar thema voor de twee Puttense mannen die in 1995 onterecht voor de moord op een 23-jarige stewardess tot tien jaar gevangenisstraf werden veroordeeld. De twee mannen beweerden altijd onschuldig te zijn, maar konden de rechters niet overtuigen. Als het al zo lastig is om aan te tonen dat je een moord niet hebt begaan, hoe lastig is het dan om te bewijzen dat je een mogelijke moord niet zou begaan?

In die Puttense moordzaak werd het Openbaar Ministerie tunnelvisie verweten. “In die zes jaar dat we ons kleine experimentje nu doen, is er niet een enkele moord in het District geweest”, zegt Burgess. Zelfs als de toekomst vaststaat is de bewust eenzijdige visie van de overheidsdienaar beangstigend. De enkele vaststelling dat in zes jaar tijd geen moord is gepleegd maakt de mensen die ten onrechte door het systeem werden aangewezen, en als gevolg daarvan gevangen zijn gezet, onzichtbaar.

In het korte verhaal van Philip K. Dick, waarop de film is gebaseerd, kunnen de precogs meer dan alleen moorden voorspellen. Dat is natuurlijk een godsgeschenk voor een overheid die niets liever dan een voorspelbare samenleving wil. Want waarom zou je slechts vlak voor de moord ingrijpen (met alle risico’s van dien, zoals een stroomstoring met de uitval van computer­systemen tot gevolg) als je het overspel dat aan de moord voorafging ook zou kunnen voorkomen? De vraag is: waar houdt het dan op? Een vraag met een flinke morele component.

Menselijke fouten

De film kent nog zoveel meer parallellen met onze huidige maatschappij. Ook in 2054 is beveiligen mensenwerk. Voordat Anderton zijn operatie ondergaat vraagt hij Dr. Eddie om hem na afloop zijn oude ogen mee te geven. “Because my mother gave them to me.” In werkelijkheid zijn het zijn sleutels om anders afgeschermde plaatsen, zoals zijn kantoor, binnen te komen. Kijkt Anderton in de irisscanner, dan gaan de deuren voor hem open. Dat gebeurt verrassend genoeg ook nog ná zijn oogtransplantatie als hij als moordverdachte wordt gezocht. Je zou toch verwachten dat, zeker in zo’n high-tech omgeving, alle clearances van Anderton direct zijn ingetrokken nadat de precogs hem als toekomstig dader aanwezen. Het blijkt een structureel probleem: Anderton’s ex-vrouw gebruikt zijn ogen nóg een keer als ze hem in de gevangenis opzoekt.

Waarom die beveiliging niet beter was, daar kunnen we slechts naar gissen. Misschien was er onvoldoende nagedacht over het beveiligingsbeleid. Misschien werden de scherpe procedures domweg niet gevolgd. Het is in ieder geval problematiek van alle tijden en daarom moeten we altijd oppassen met geautomatiseerde controlesystemen. Collin Farrel, in zijn hoedanigheid van auditor van het Ministerie van Justitie zoekt zulke missers: “I agree. The system is perfect. If there’s a flaw, it’s human. It always is.”