Lokala myndigheter lämnas för att ta hand om sig själv med regler om ansiktsigenkänning

Mer än en stad har förkastat att medborgarna utsätts för ansiktsigenkänningsteknik. Somerville, MA anslöt sig precis till San Francisco för att förbjuda lokala myndigheters användning av sådana system.

Vid Somerville-mötet angående förbudet talade rådsmedlem Ben Ewen-Campen för att skydda invånarnas rättigheter och citerade att forskning har visat att tekniken inte är korrekt, särskilt med kvinnor med mörkare hud.

Ewen-Campen har rätt. Rekognition, ett ansiktsigenkänningssystem som ägs av Amazon, matchade 28 kongressmedlemmar med mugshots i ett test gjort av ACLU. Majoriteten av de falska matcherna involverade personer i färg. Forskare vid MIT och University of Toronto som studerade Rekognition fann att det ofta misstänker kvinnor i färg för män.

Långt ifrån den tänkta framtiden för AI som skapar system utan implicita partier, kodas diskriminering till ansiktsigenkänningsprogram. Bias kan krypa in i AI i alla eller alla de tre utvecklingsstadier som forskare praktiserar. MIT Technology Review innehåller de problem som ligger i varje steg väl: när man utformar det problem som de vill lösa kan forskare predikera det på ett partiskt koncept. när de samlar in de data som används för att utbilda AI kan de basera den på förverkliga eller orealiserade fördomar de har; och när man väljer attribut för AI att fokusera på kan de orättvist välja utifrån föruppfattningar.

Medan vissa städer känner igen bristerna och farorna med ansiktsigenkänning, använder många kommuner och polisavdelningar, inklusive Orlandos, redan Rekognition. Och trots ett öppet brev från AI-forskare och oro från sina egna aktieägare har Amazon inte visat några tecken på att reglera Rekognition.

Istället har Amazon Web Services VD Andy Jassy sagt att han väntar på att den federala regeringen ska besluta om hur ansiktsåtervinningsteknik ska användas. Huset har haft två utfrågningar om reglering, men hittills har kongressen inte vidtagit några åtgärder.