Gezichtsherkenning in Londen kost tonnen voor één vals alarm

👁 116 keer gelezen

De Britse spoorwegpolitie (British Transport Police) rondde in juli een proef van zes maanden af met live gezichtsherkenning op drukke stations in Londen. Een document verkregen via een WOB-verzoek (FOI) door Liberty Investigates en gedeeld met The Guardian toont het resultaat: 320.786 pond (ongeveer 380.000 euro) uitgegeven aan cameraverhuur en politie-inzet, 18 mobiele opstellingen, bijna 100 operationele politie-uren, ruim een half miljoen gescande gezichten en slechts één matchmelding. Die melding bleek een vals alarm te zijn. Aantal arrestaties: nul.

Dit is geen verhaal over falende techniek. Het algoritme deed precies waarvoor het is ontworpen: het vergeleek gezichten van passanten met een lijst van gezochte personen en mensen met een rechterlijk gebiedsverbod. Het probleem zit ergens anders en is puur rekenkundig. We pakten de rekenmachine erbij.

Elk gescand gezicht kostte minder dan een cent, maar de enige match kostte tonnen

Laten we beginnen met de totale som. 320.786 pond staat gelijk aan ruwweg 380.000 euro aan Brits belastinggeld voor een proefperiode van een half jaar. Dit bedrag leverde exact één resultaat op: een fout-positieve match. De kostprijs van die ene waarschuwing, ongeacht de juistheid, was dus ruim 380.000 euro. De kosten per daadwerkelijke arrestatie zijn niet te berekenen, want delen door nul kan niet - en dat is meteen het meest sprekende cijfer in dit dossier.

De tweede berekening laat de schaal van dataverwerking zien. 320.786 pond gedeeld door 500.000 gescande gezichten komt neer op 0,64 pence per gezicht (minder dan 0,8 eurocent). Voor dat minieme bedrag verwerkte de overheid de biometrische data van een voorbijganger die in veruit de meeste gevallen niet eens wist dat zijn gezicht werd omgezet in een wiskundige vector en werd getoetst aan een verdachtenlijst. Het aantal van een half miljoen werd gerapporteerd als “ruim”, waardoor de werkelijke prijs per scan nog lager ligt. Dat is precies het argument waarmee voorstanders van dergelijke surveillance schermen: het is spotgoedkoop per passant, dus waarom niet?

De derde berekening betreft de menselijke inzet. Bijna 100 politie-uren verdeeld over 18 opstellingen betekent gemiddeld 5,5 uur politie-inzet per camerasessie. Gerekend over het totale budget van 320.786 pond komt dat neer op 3.208 pond per uur dat de politie aanwezig was bij deze camera’s (ruim 3.800 euro per uur). Uiteraard zit in dat bedrag voornamelijk de huur van de apparatuur en de softwarelicenties inbegrepen, niet enkel salarissen. Dat toont de verhoudingen haarscherp aan: er werd grof betaald voor surveillance-technologie, niet voor agenten op straat, en die technologie leverde niets op.

Oud-toezichthouder biometrie: “De proef lijkt weinig vruchten af te werpen”

Fraser Sampson, tot voor kort de Britse commissaris voor biometrie en cameratoezicht, wond er geen doekjes om. Hij wees op een fundamenteel verschil: succes in de detailhandel en succes bij opsporing door de politie zijn twee totaal verschillende concepten.

We weten dat de technologie werkt, maar het inzetten in supermarkten om winkeldieven af te schrikken en personeel te beschermen is heel iets anders dan het plaatsen ervan in een openbaarvervoersnetwerk om mensen op te sporen. Succes in een winkel betekent dat bepaalde personen wegblijven. Succes voor een politiemacht die verdachten zoekt, betekent dat mensen daadwerkelijk worden opgepakt. In dat opzicht lijkt deze pilot niet bijzonder vruchtbaar te zijn geweest.

Sampson voegde er in gesprek met The Guardian een cruciaal juridisch punt aan toe: het systeem verwerkt biometrische gegevens (bijzondere persoonsgegevens). De bewijslast om aan te tonen dat dit noodzakelijk, proportioneel en passend gebeurt, ligt volledig bij de politie. Niet bij de burger, die niet hoeft te bewijzen dat hem onrecht is aangedaan.

Ondanks de magere resultaten verlengde de British Transport Police de proef met vier maanden en breidde deze uit naar metrostations. Sindsdien zijn er drie bevestigde matches gemeld. Bij controle bleken alle drie de personen zich echter keurig aan hun rechterlijke voorwaarden te houden. De tussenstand bleef dus onveranderd: nul aanhoudingen, nul overtredingen vastgesteld, maar wel drie burgers die zich legaal door de stad verplaatsten en staande werden gehouden door toedoen van een algoritme.

Wat zegt de Europese wetgeving en de AI Act hierover?

Binnen de Europese Unie ligt de lat voor dit soort projecten juridisch gezien mijlenver hoger dan in het Verenigd Koninkrijk. Artikel 9 van de AVG (GDPR) classificeert biometrische gegevens voor unieke identificatie immers als bijzondere persoonsgegevens, vergelijkbaar met data over gezondheid of politieke voorkeur. Verwerking is verboden, tenzij er sprake is van een strikte wettelijke uitzondering.

Daarnaast is er de Europese AI-verordening. De AI Act verbiedt in artikel 5 real-time biometrische identificatie op afstand in de openbare ruimte voor wetshandhaving. Er gelden slechts uiterst beperkte uitzonderingen: de gerichte zoektocht naar slachtoffers van ontvoering, het voorkomen van een concrete terroristische dreiging of het opsporen van daders van een afgebakende lijst zware misdrijven. Zelfs in die gevallen is voorafgaande toestemming van een rechter of onafhankelijke instantie vereist. De verboden uit artikel 5 van de AI Act zijn van kracht sinds 2 februari 2025 (zie ook het overzicht van verboden AI-praktijken). De proef in Londen vond plaats buiten de EU; binnen de lidstaten zou een dergelijke brede opstelling direct op grote juridische bezwaren stuiten.

Wat kun je als burger of beleidsmaker met deze cijfers?

Mocht je in eigen omgeving ooit te maken krijgen met plannen voor biometrische scans - bijvoorbeeld rond stadions of evenementen - dan heb je als inwoner heldere rechten. Ten eerste moet een beheerder transparant informeren over gegevensverwerking voordat je het bereik van een camera betreedt. Ten tweede kun je via artikel 15 van de AVG een inzageverzoek doen om op te vragen of jouw beelden biometrisch zijn geanalyseerd of louter als reguliere camerabeelden zijn opgeslagen; de organisatie heeft een maand om te reageren. Ten derde kun je kosteloos een klacht indienen bij de nationale privacytoezichthouder (zoals de Autoriteit Persoonsgegevens in Nederland of de Gegevensbeschermingsautoriteit in België), die vereist dat de proportionaliteit en noodzaak onomstotelijk worden aangetoond.

Voor lokale bestuurders en raadsleden leveren de Londense cijfers bovendien een belangrijk argument op. Wanneer leveranciers zich melden met voorstellen voor “slimme veiligheidscamera’s met persoonsherkenning”, toont de praktijk aan dat een investering van tonnen al snel leidt tot nul extra veiligheid en louter foutieve of loze meldingen.

Waarom nul treffers niet betekent dat de techniek faalt

Volgens Sampson moeten meerdere variabelen samenkomen wil een dergelijk systeem effect sorteren: de specifieke locatie, de operationele uren, de actuele lijst van gezochten en de reële kans dat een gezocht persoon precies langs die camera loopt. Bij 18 opstellingen in zes maanden - gemiddeld één keer per tien dagen - is de trefkans in een miljoenenstad verwaarloosbaar klein. Het systeem analyseerde een half miljoen gezichten en sloeg slechts één keer onterecht aan. Technisch gezien is dat statistisch een nette score, maar maatschappelijk en budgettair gezien was de opzet vanaf dag één kansloos.

Het zorgwekkende is dat het argument van ineffectiviteit tweesnijdend is. Wie meer resultaten wil, hoeft immers alleen maar meer camera’s op te hangen, de zoeklijsten te verruimen en permanent te scannen. Dat verklaart waarom de spoorwegpolitie doorging naar metrostations. Als daarop vooral burgers worden staande gehouden die zich aan alle regels houden, groeit de pakkans van het algoritme sneller dan de vangst van daadwerkelijke criminelen. Daarmee verschuift de discussie van een financieel kostenplaatje definitief naar een fundamentele vraag over massasurveillance en burgerrechten.

Feiten gecontroleerd op 1 oktober 2026. Bronnen: The Guardian - Trial of live facial recognition in London stations leads to a false positive and no arrests, FOI-documenten via Liberty Investigates, Verordening (EU) 2024/1689 - AI Act, art. 5, AVG, art. 9 en art. 15. Omrekeningen op basis van de toenmalige wisselkoersen.

// lees verderWaarom AI je gezicht verandert en hoe je dat oplostHandleidingenGemini 3.8 Live krijgt gezicht met animerende Live AvatarAI-toolsllms.txt: lezen ChatGPT en andere AI-bots het bestand?AI-overzicht

Kinetyra