Storbritanniens polis måste sätta bromsarna på ansiktsigenkänning

Storbritannien har en nära relation med säkerhetskameror. Bara London har en av de högsta förhållandena för övervakningskameror per medborgare i den utvecklade världen. Uppskattningar från 2002 sätter antalet övervakningskameror i Greater London till mer än 500 000; cirka 110 används av polisen i London, enligt uppgifter som erhållits genom en begäran om frihet från 2018.

Åsikter

Att spela in är tydligen inte tillräckligt; Londons Metropolitan Police Service har testat användningen av ansiktsigenkänningskameror, och ansträngningen har stöd från inrikesminister Sajid Javid – som övervakar invandring, medborgarskap, polisen och säkerhetstjänsten. “Jag tycker att det är rätt att de tittar på det”, sa han, enligt BBC.

Även om det kommande valet kommer att avgöra den nya ledaren för konservativa partiet, som också kommer att bli premiärminister, är det osannolikt att regeringens attityder till ansiktsigenkänning kommer att förändras. Javid kanske flyttar till en annan del av regeringen, men den medborgerliga libertarian sidan av det konservativa partiet har varit relativt tyst på sent.

Problemet är att ansiktsigenkänning – som den för närvarande ser ut – ofta är felaktig. Londons polis har använt ansiktsigenkänning sedan 2016, men en oberoende rapport som avslöjades förra veckan visade att fyra av fem personer som genom ansiktsigenkänning identifierades som möjliga misstänkta faktiskt var oskyldiga – en tydlig misslyckande i maskininlärningen som används för att träna systemet.

Professor Pete Fussey och Dr. Daragh Murray, från University of Essex, analyserade noggrannheten i sex av tio polisförsök. Av 42 matcher var bara åtta korrekta och fyra av dessa 42 identifierades aldrig på grund av trängsel.

Ändå ser Metropolitan Police rättegångarna som en framgång och var “besviken över den negativa och obalanserade tonen i denna rapport”, sa en biträdande biträdande kommissionär till Sky News. Met mäter noggrannheten genom att jämföra framgångsrika och misslyckade matchningar med det totala antalet behandlade ansikten. enligt denna rubrik var felfrekvensen bara 0,1 procent.

Det var dock inte det enda felet. Databasen som polisen använde var inte aktuell och identifierade därför personer vars ärenden redan hade avslutats. Det finns också “betydande tvetydighet” över kriterierna kring vad som sätter en person på övervakningslistan, säger rapporten.

Metropolitan Police informerade medborgarna om rättegångarna genom att dela ut broschyrer och twittra, men rapporten anser att detta är otillräckligt. “Informationen gav transparens angående tid och plats för [live facial recognition] testdistributioner ändå var det mindre tydlighet över syftet med utplaceringen, som sannolikt skulle bli föremål för övervakning, och hur ytterligare information kunde fastställas, “säger rapporterna. Dessutom behandlas de som försökte undvika kameror” som misstänkta. ..underminerar förutsättningen för informerat samtycke. “

Rapporten drar slutsatsen att det är “mycket möjligt [the trial] skulle hållas olagligt om de ifrågasätts vid domstolarna. “Den implicita rättsliga myndigheten” i kombination med avsaknaden av allmänt tillgänglig, tydlig, online-vägledning är sannolikt otillräcklig “jämfört med mänskliga rättigheter, vilket kräver att ingripande i individers mänskliga rättigheter är” i enlighet med lagen sträva efter ett legitimt mål och vara ‘nödvändigt i ett demokratiskt samhälle’. “

Kontrovers över dammen

Storbritannien är inte det enda landet som kämpar med detta problem. I USA har algoritmer för ansiktsigenkänning kritiserats efter att forskning från Government Accountability Office fann att de system som FBI använde var felaktiga 14 procent av tiden. Dessutom tar detta nummer inte hänsyn till “den medföljande falsk-positiva frekvensen ger en ofullständig bild av systemets noggrannhet”, vilket kan påverka minoriteter negativt på grund av systemisk bias.

Microsoft avvisade också en begäran från Kaliforniens brottsbekämpande myndighet om att använda sitt ansiktsigenkänningssystem i polisbilar och kroppskameror, på grund av oro för att dess algoritm inte var tillräckligt sofistikerad. “Varje gång de drog någon över, ville de köra en ansiktsskanning”, sa Microsofts president Brad Smith. “Vi sa att den här tekniken inte är ditt svar.”

Ett antal städer har avvisat det; San Francisco förbjudna ansiktsigenkänningstekniker för statligt bruk, och Somerville, Massachusetts, röstade enhälligt för att anta antil ansiktsigenkänningslagstiftning på grund av dess potential att “kyla” skyddad yttrandefrihet.

Och även om Storbritanniens regering kan vara mycket mer kompatibel med potentiellt opressiv teknik – från internetreglering för att stoppa skadligt innehåll på sociala medier till ett nästan förbud mot pornografi – bör dess medborgare vara försiktiga med att låta det propagera.

Även om dess noggrannhet förbättras betyder svårigheten att veta när, var och hur ansiktsigenkänningsprogramvara används att det är svårt för medborgarna att ge adekvat samtycke till att ständigt spelas in och identifieras. Det finns för många berättigade farhågor om de data som algoritmen utbildas på, de utrymmen som övervakas och den effekt det kommer att ha på våra medborgerliga friheter för människor som låter ansiktsigenkänning störa deras rätt till ett privatliv.

Relaterade Artiklar

Back to top button