Google: Tillfälligt förbud mot ansiktsigenkänningsteknik kan vara nödvändigt

Google: Tillfälligt förbud mot ansiktsigenkänningsteknik kan vara nödvändigt

Googles VD signalerar sitt stöd för ett tillfälligt förbud mot ansiktsigenkänningsteknik tills regeringar kan komma med en konkret plan för att reglera den.

“S√• jag tycker att det √§r viktigt att regeringar och f√∂rordningar tar itu med det f√∂rr, snarare √§n senare, och ger en ram f√∂r det”, sa Googles vd Sundar Pichai vid ett tankebanksorgan i Bryssel p√• m√•ndagen. “Det kan vara omedelbart. Kanske finns det en v√§ntetid innan vi verkligen t√§nker p√• hur den anv√§nds.”

Pichais kommentarer, som först rapporterades av Reuters, kommer när Europeiska kommissionen överväger ett moratorium för ansiktsigenkänningsteknik som används i offentliga utrymmen. Ett läckt utkast till förslaget säger att förbudet kan vara tre till fem år, under vilket EU-tillsynsmyndigheter skulle studera effekterna och riskerna i samband med AI-driven teknik.

Brottsbekämpning har varit särskilt intresserad av teknikens förmåga att snabbt identifiera människors ansikten i digitala bilder och videor. Till exempel kan de AI-drivna algoritmerna skanna en bild av en misstänkt och sedan begränsa personens verkliga identitet genom att matcha ansiktet med foton i en kriminell databas eller till och med bilder som skrapats från sociala medier.

Men medborgerliga frihetsgrupper fruktar att tekniken kan användas i stor utsträckning, vilket ger den befogenhet att utföra övervakning och potentiellt samla in din biometriska information. Det andra problemet är vad om ansiktsigenkänning gör ett misstag? Pågående forskning har visat att AI-drivna algoritmer ibland felaktigt kan identifiera kvinnor och minoriteter.

Ansiktsigenkänning

Potentialen f√∂r missbruk √§r anledningen till att Googles molnverksamhet i december 2018 beslutade att avst√• fr√•n att erbjuda ett ansiktsigenk√§nningssystem f√∂r allm√§nna √§ndam√•l. “Det finns verkliga farh√•gor om de potentiella negativa konsekvenserna av AI, fr√•n djupa f√∂rfalskningar till on√∂diga anv√§ndningar av ansiktsigenk√§nning”, skrev Googles vd i en op-in p√• s√∂ndag. “√Ąven om det redan g√∂rs n√•got arbete f√∂r att ta itu med dessa problem kommer det oundvikligen att finnas fler utmaningar som inget f√∂retag eller bransch kan l√∂sa ensamma.”

Som ett resultat f√∂respr√•kar Pichai att v√§rldsregeringar ska komma fram till ett regelverk f√∂r att tygla in AI-drivna tekniker, inklusive ansiktsigenk√§nning. “Jag tror att det √§r upp till regeringarna att chartra kursen (om ansiktsigenk√§nning). Och det kan g√∂ras i partnerskap. Men jag tycker att det √§r ett viktigt omr√•de, och det m√•ste vara en av de h√∂gre riskapplikationer som vi hanterar inom f√∂rsta v√•g av anv√§ndningsfall som vi ser, sade Pichai under sitt f√∂redrag i Bryssel.

American Civil Liberties Union h√•ller med Googles VD och uppmanar regeringar att agera nu. “Oetiska √∂vervakningsf√∂retag kommer inte att v√§nta p√• f√∂rordningar innan de driver sin oproverade, felben√§gna och dystopiska ansiktssp√•rningsteknik p√• polisavdelningar √∂ver hela landet och v√§rlden”, s√§ger ACLU: s lagstiftande r√•d Neema Singh Guliani i ett uttalande.

Andra, som Amazon, har också krävt tekniska regler för ansiktsigenkänning för att förhindra missbruk. Men under tiden fortsätter företaget att marknadsföra sin egen ansiktsigenkänningslösning till polisavdelningar och regeringar som ett sätt att hjälpa dem att lösa brott, till oro för medborgerliga frihetsgrupper.

Microsoft har under tiden varit uttalat när det gäller krav på ansiktsigenkänning. Men företagets president Brad Smith driver tillbaka på att införa ett fullständigt moratorium för tekniken och pekar på hur samma system kan användas för att identifiera och spåra saknade personer.

“Jag √§r verkligen ovillig att s√§ga att vi ska stoppa m√§nniskor fr√•n att anv√§nda teknik p√• ett s√§tt som kommer att √•terf√∂rena familjer n√§r det kan hj√§lpa dem att g√∂ra det”, sa Smith till Reuters. “Det andra jag skulle s√§ga √§r att du inte f√∂rbjuder det om du faktiskt tror att det finns ett rimligt alternativ som g√∂r det m√∂jligt f√∂r oss att s√§ga att ta itu med detta problem med en skalpell ist√§llet f√∂r en k√∂ttklyv.”

Debatten kommer under tiden efter att i helgen publicerat en orov√§ckande historia om Clearview AI, en lite k√§nd start som kan ta ett foto av n√•gon och matcha det med offentliga foton fr√•n hela internet. “Anv√§ndare skulle potentiellt kunna identifiera varje person de s√•g. Verktyget kunde identifiera aktivister vid en protest eller en attraktiv fr√§mling p√• tunnelbanan och avsl√∂ja inte bara deras namn utan var de bodde, vad de gjorde och vem de k√§nde”, rapporterar .