Facebook kan niet zomaar politiewerk overnemen

Afbeelding: Evgeny Morozov auf der re:publica10 van Re: Publica | Licentie: CC BY 2.0

Het mag niet zo zijn dat Facebook de taken van de politie overneemt zonder ook de bijbehorende waarborgen. Controle moet mogelijk blijven.

In een artikel in het NRC, achter een betaalmuur, stelt Evgeny Morozov:

Dankzij de techniek heeft de politie een rooskleurige toekomst voor zich – en niet alleen omdat ze verdachten op Google kan opzoeken. Haar werk zal nog gemakkelijker en doeltreffender worden door twee andere, minder zichtbare trends, die netelige vragen opwerpen over privacy en burgerlijke vrijheden. Ten eerste krijgt het politiewerk – net als veel andere activiteiten – in het tijdperk van big data een nieuw gezicht, in de verwachting dat een bredere, diepere analyse vande informatie over misdaden uit het verleden, in combinatie met verfijnde algoritmen, toekomstige misdaden kan voorspellen. Deze praktijk staat bekend als ‘voorspellend politiewerk’ (predictive policing). […]

Bedenk hierbij wel dat we Amazons algoritmen niet kunnen onderzoeken; ze zijn volledig ondoorzichtig en niet aan toezicht van derden onderhevig. Volgens Amazon kan het door deze geheimhouding concurrerend blijven, en daar heeft het misschien gelijk in. Maar diezelfde logica geldt niet voor politiewerk: als niemand de algoritmen kan onderzoeken – iets wat vermoedelijk het geval zal zijn omdat de software voor preventief politiewerk door particuliere ondernemingen zal worden gebouwd – zullen we niet weten welke vooroordelen en discriminerende praktijken erin worden opgenomen. […]

Ook is er nog het vraagstuk van de misdrijven waar weinig aangifte van wordt gedaan. De meeste moorden worden wel gemeld, maar veel verkrachtingen en inbraken in woonhuizen niet. Ook bij gebrek aan aangiften ontwikkelt de politie toch manieren om te weten wanneer er in hun wijk iets vreemds gebeurt. Maar voorspellend politiewerk vervangt zulke stilzwijgende kennis door een naïef geloof in de alomvattende macht van statistieken. Als alleen gegevens over aangegeven misdrijven worden gebruikt om toekomstige misdrijven te voorspellen en het politiewerk te sturen, zullen bepaalde soorten misdrijven misschien geheel onbestudeerd – en dus onbestraft – blijven. […]

Natuurlijk bekijkt de politie sociale netwerksites nu ook al op tekenen van onrust. Maar anders dan Facebook ziet zij niet het hele beeld: privéberichten en ‘stille’ acties – welke links worden aangeklikt en welke pagina’s worden geopend – zijn voor haar onzichtbaar. […] Bovendien heeft de politie een gerechtelijk bevel nodig om iemands privégegevens in te zien, terwijl Facebook de gegevens van zijn gebruikers kan opzoeken wanneer het wil. Uit het gezichtspunt van de politie kan het zelfs voordelig zijn om Facebook al dit vuile werk te laten doen, omdat het eigen onderzoek van Facebook niet via de rechtbank hoeft te gaan. […]

De belofte van preventief politiewerkmag reëel zijn,maar de gevaren zijn dat evenzeer. De politie moet haar algoritmen aan toezicht door derden onderwerpen en iets doen aan hun ingebouwde vooroordelen. […] Facebook zou misschien doeltreffender dan de politie criminaliteit kunnen voorspellen, maar we mogen niet toestaan dat het deze politietaken op zich neemt zonder zich aan dezelfde spelregels te houden die bepalen wat de politie in een democratie wel en niet mag doen.