Microsoft udsender en alarm over ansigtsgenkendelse teknologi

0
16

Sofistikeret facial anerkendelse teknologi er kernen i mange af Kinas mere dystopisk sikkerhed initiativer. Med 200 millioner overvågningskameraer — mere end fire gange så mange i Usa — Kina ‘ s facial anerkendelse systemer styr medlemmer af Uighur-Muslimske mindretal, blokere indgange til boliger komplekser, og skam debitorer ved at vise deres ansigter på billboards.

Jeg har ofte omfatter disse historier her, fordi det synes uundgåeligt, at de vil gøre deres vej til Usa, i det mindste i en eller anden form. Men før de gør det, en koalition af offentlige og private interesser, der forsøger at slå alarm.

AI Nu er en gruppe tilknyttet New York University, der tæller som medlemmer af medarbejdere tech-virksomheder, herunder Google og Microsoft. I en ny rapport, der blev offentliggjort torsdag, den gruppe, der opfordrer regeringer til at regulere brug af kunstig intelligens og facial anerkendelse teknologier, før de kan underminere de grundlæggende borgerrettigheder. Forfatterne skriver:

Facial anerkendelse og indflydelse anerkendelse har brug for strenge regler for at beskytte den offentlige interesse. En sådan regulering bør omfatte nationale love, der kræver stærkt tilsyn, klare begrænsninger, og offentlige gennemsigtighed. Samfund bør have ret til at afvise anvendelsen af disse teknologier i både den offentlige og private sammenhænge. Blot er offentlige meddelelse om deres anvendelse er ikke tilstrækkelige, og der skal være en høj tærskel for enhver samtykke, i betragtning af de farer, undertrykkende og løbende masseovervågning.

AI Nu forskerne er især bekymrede over, hvad der kaldes “påvirke anerkendelse” — og forsøg på at identificere folks følelser, og måske manipulere dem, der bruger machine learning.

“Der er ikke længere et spørgsmål om, hvorvidt der er problemer med ansvarlighed,” AI Nu medstifter Meredith Whittaker, der arbejder på Google, fortalte Bloomberg, “Det er, hvad vi skal gøre ved det.”

Senere på dagen, Microsoft ‘ s præsident, Brad Smith, lød nogle af disse problemer i en tale ved Brookings Institution:

Vi mener, det er vigtigt, at regeringerne i 2019 for at begynde at vedtage love, der regulerer denne teknologi. Ansigtsgenkendelse genie, så at sige, er bare dukker op fra flasken. Medmindre vi gør noget, risikerer vi at vågne op til fem år fra nu, til at finde ud af, at facial anerkendelse service har spredt sig på måder, der kan forværre samfundsmæssige spørgsmål. Disse udfordringer vil være langt mere vanskeligt at flasken op igen.

I særdeleshed, at vi ikke mener, at det vil verden være bedst tjent med en kommerciel kapløb mod bunden, med tech virksomheder er tvunget til at vælge mellem socialt ansvar og succes på markedet. Vi mener, at den eneste måde at beskytte sig mod dette løb, at bunden er ved at bygge et gulv af ansvar, der understøtter en sund konkurrence på markedet. Og et fast gulv kræver, at vi sikrer, at denne teknologi, og de organisationer, at udvikle og bruge det, er omfattet af loven.

Papiret kommer en dag, efter nyheden om, at den Hemmelige Tjeneste, s planer om at etablere facial anerkendelse uden for det Hvide Hus. Formentlig, hvad agenturet kalder en “test” vil ikke stoppe der:

ACLU siger, at den nuværende test, der synes passende smalle, men at det “krydser en vigtig linje ved at åbne døren til den masse, suspicionless kontrol af Amerikanere på offentlige fortove” — som vejen uden for det Hvide Hus. (Programmet er teknologi, der formodes at analysere ansigter op til 20 m fra kamera.) “Ansigtsgenkendelse er en af de mest farlige biometri ud fra et privacy-synspunkt, fordi det kan så nemt blive udvidet og misbrugt — herunder ved, at de bliver indsat på en masse skala uden folks viden eller tilladelse.”

Måske Amerikanernes varige paranoia om store regeringen vil forhindre mere Kinesisk-inspirerede initiativer fra nogensinde at tage rod. Men jeg kan også forestille sig et scenarie, hvor en populistisk, autoritære leder, der konstant påberåbelse af de to genfærd af terrorisme og ukontrolleret ulovlig indvandring, stævner folkelig opbakning omkring overvågning teknologi.

Det føles som en samtale værd at have.