IBM Ditches ansiktsigenkänningsteknik över mänskliga rättigheter

IBM har skrotat sin programvara för ansiktsigenkänning och analys med hänvisning till dess användning vid massövervakning, rasprofilering och “kränkningar av grundläggande mänskliga rättigheter och friheter.”

I ett brev till kongressen beskrev VD Arvind Krishna den här veckan policyförslag som syftar till att främja raslikhet rikstäckande och tillkännagav slutet på IBMs ansiktsigenkänningsteknik. “Vi tror att det nu är dags att inleda en nationell dialog om huruvida och hur ansiktsigenkänningsteknik ska användas av inhemska brottsbekämpande myndigheter”, skrev Krishna.

Artificiell intelligens är ett tveeggat svärd, sa han. Det kan vara ett “kraftfullt verktyg” för att skydda medborgarna, men bara om de används på ett ansvarsfullt sätt. “Leverantörer och användare av AI-system har ett delat ansvar för att se till att AI testas för partiskhet, särskilt när det används vid brottsbekämpning,” fortsatte Krishna, “och att sådan partisk testning granskades och rapporterades.”

Han gjorde ingen närmare detalj om framtiden för ansiktsigenkänning hos IBM; det är oklart om företaget kommer att fortsätta sin utveckling för olika applikationer eller om det är helt dött som ett projekt.

IBM har en lång historia av raslikhet. 1953 tog dåvarande president Thomas J. Watson Jr. ställning mot Jim Crow-lagar och lovade att “anställa människor som har den personlighet, talang och bakgrund som krävs för att fylla ett visst jobb, oavsett ras, färg eller tro.” Nästan sju decennier (och en medborgerlig lag) senare fortsätter kampen mot rasism – och IBM går återigen med i frontlinjen.

“[We] skulle vilja arbeta med kongressen i strävan efter rättvisa och raslikhet, “står det i brevet och lyfter fram tre viktiga politikområden: polisreform, ansvarsfullt utnyttjande av teknik och utökad möjlighet. Flera av Krishnas förslag är redan inkluderade i Justice in Policing Act 2020, introducerad denna vecka av amerikanska demokrater.

“IBM välkomnar ditt tidiga ledarskap när det gäller att tillkännage dessa förslag och är redo att arbeta med dig och andra kongressmedlemmar, från båda sidor om gången, mot bred tvåpartislagstiftning som kan införas i lag,” tillade Krishna.