Microsoft lyder en alarm over facial anerkjennelse teknologi

0
22

Sofistikert ansikts-gjenkjennelse teknologien er kjernen i mange av Kinas mer dystopiske sikkerheten initiativer. Med 200 millioner overvåkingskameraer — mer enn fire ganger så mange i Usa — Kina er ansikts-anerkjennelse systemer spor medlemmer av Uighur Muslimske minoriteten, blokkere innganger til bolig komplekser, og skam skyldnere ved å vise sine ansikter på reklameplakater.

Jeg ofte inkludere disse historiene her, fordi det synes uunngåelig at de vil gjøre veien til Usa, i det minste i noen form. Men før de gjør det, en koalisjon av offentlige og private interesser forsøker å alarmere.

AI Nå er en gruppe tilknyttet New York University som teller som sine medlemmer ansatte i tech selskaper som Google og Microsoft. I en ny artikkel publisert torsdag, gruppe samtaler på myndighetene til å regulere bruk av kunstig intelligens og facial anerkjennelse teknologi før de kan undergrave grunnleggende borgerrettigheter. Forfatterne skriver:

Ansiktsgjenkjenning og påvirke anerkjennelse trenger streng regulering for å beskytte den offentlige interesse. Slik forskrift bør omfatte nasjonale lover som krever sterk tilsyn, klare begrensninger, og offentlig innsyn. Samfunn bør ha rett til å avvise anvendelse av disse teknologiene i både offentlige og private sammenhenger. Ren offentlig kunngjøring av deres bruk er ikke tilstrekkelig, og det bør være en høy terskel for eventuelle samtykke, gitt farene av undertrykkende og kontinuerlige masse overvåking.

AI Nå forskere er særlig opptatt av det som er kalt “påvirke anerkjennelse” — og forsøke å identifisere folks følelser, og muligens manipulere dem, ved hjelp av maskinlæring.

“Det er ikke lenger et spørsmål om det er problemer med ansvarlighet,” AI Nå co-grunnlegger Meredith Whittaker, som fungerer på Google, sa Bloomberg “Det er hva vi gjør med det.”

Senere på dagen, Microsoft ‘ s president, Brad Smith, lest noen av disse bekymringene i en tale på Brookings Institution:

Vi tror det er viktig for myndighetene i 2019 til å starte å vedta lover for å regulere denne teknologien. Den facial anerkjennelse genie, så å si, er bare dukker opp fra flasken. Med mindre vi handler, risikerer vi å våkne opp fem år fra nå å finne at facial anerkjennelse tjenester har spredt seg på måter som forverre samfunnsmessige problemer. På det tidspunktet disse utfordringene vil være mye mer vanskelig å flaske opp igjen.

Spesielt er vi ikke tror at verden vil være best tjent med et kommersielt løp til bunnen, med tech selskaper tvunget til å velge mellom sosialt ansvar og markedet suksess. Vi tror at den eneste måten å beskytte seg mot dette løpet til bunnen er å bygge en etasje av ansvar som støtter sunn konkurranse i markedet. Og et solid gulv krever at vi sikrer at denne teknologien, og organisasjoner som utvikler og bruker den, er underlagt lovverket.

Papiret kommer en dag etter at nyheten om at Secret Service planer om å distribuere facial anerkjennelse utenfor det Hvite Hus. Antagelig, hva byrået kaller en “test” vil ikke stoppe der:

Den ACLU sier at dagens test synes hensiktsmessig smal, men at det “krysser en viktig linje ved å åpne døren til masse, suspicionless gransking av Amerikanere på offentlig fortau” — som veien utenfor det Hvite Hus. (Programmet er teknologi som er ment å analysere vender opp til 20 meter fra kameraet.) “Face recognition er en av de mest farlige formene for biometri fra et personvern ståsted fordi det kan så lett bli utvidet og utsatt for overgrep, blant annet ved å være utplassert på en masse skala uten folks viten eller tillatelse.”

Kanskje Amerikanere ” varig paranoia om big regjeringen vil forebygge mer Kinesisk stil initiativ fra noen gang å slå rot. Men jeg kan også tenke seg et scenario hvor en populistisk, autoritær leder, stadig å ta i bruk de to spøkelser av terrorisme og ukontrollert ulovlig innvandring, rally populære støtte rundt overvåking teknologi.

Det føles som en samtale verdt å ha.