Amazon fortalte de ansatte at det ville fortsette å selge facial anerkjennelse programvare til politiet

0
43

Amazon har kommet under ild for sent for lisensiering av sine kontroversielle Rekognition system, en kraftfull facial anerkjennelse programvare, til regjeringen og politiet, med den nyeste utviklingen som involverer åpenbaringer som Amazon møtte OSS Immigration and Customs Enforcement (ICE) i løpet av sommeren for å inngå en avtale for Rekognition bruk. Nå, Amazon ansatte er grilling selskapets ledelse over salg av slik teknologi, spesielt når det kan brukes til å spore mennesker og sende dem tilbake til potensielt farlige miljøer i utlandet.

Amazon Web Services administrerende DIREKTØR Andrew Jassy fortalte ansatte på en all-hender møte i dag at “Vi føler virkelig flott og veldig sterkt om verdien av at Amazon Rekognition er å gi våre kunder av alle størrelser og alle typer bransjer i politi og ut av politiet,” i henhold til en Amazon ansatt som snakket med Randen under forutsetning av anonymitet og gitt en delvis utskrift av samtalen. BuzzFeed først rapportert på Jassy kommentarer tidligere i ettermiddag.

Amazon var ikke umiddelbart tilgjengelig for kommentar.

Fikk et tips til oss? Bruk SecureDrop eller Signal til godt sende meldinger og filer til Randen uten å avsløre din identitet.

AWS, cloud computing division of Amazon, er ansvarlig for å drive Rekognition, som nå er i bruk ved politistasjoner i Florida og Oregon. Jassy ble tappet av Amazon KONSERNSJEF Jeff Bezos spesifikt svar på et spørsmål om Rekognition og potensielle offentlige kontrakter med organisasjoner som IS. Jassy gikk på å si at “du ikke ønsker å kvitte seg med den teknologien,” men bemerket hvordan brudd på AWS (“vilkår for bruk eller brudd i general for konstitusjonelle rettigheter ville tvinge Amazon til å forby bruk av sine tjenester. Han gjorde oppmerksom på, men som selskapet mener “det er den rollen i ansvar for regjeringen å bidra til å spesifisere hva de retningslinjer av regelverket bør være om teknologi.”

Compounding Amazons å delta i offentlige kontrakter med Rekognition er forskning som beviser system er dypt mangelfull, både i form av nøyaktighet og med hensyn til iboende rasefordommer. American Civil Liberties Union testet Rekognition over sommeren, og fant at systemet feilaktig identifisert 28 medlemmer av Kongressen fra en database på 25.000 mugshots. (Amazon presset tilbake mot ACLU s funn i sin studie, med Matt Tre, general manager av dyp læring og AI, sier i et blogginnlegg tilbake i juli at data fra test med den Rekognition API ble generert med en 80 prosent tillit pris, langt under de 99 prosent tillit pris det anbefaler for at politiet kamper.)

Selskapet har også nektet å delta i en omfattende studie av algoritmisk bias drives av National Institute of Standards and Technology som søker å identifisere når rase-og kjønnsdiskriminering kan være med å påvirke en ansikts gjenkjenning algoritmen er feil.

Amazon er ikke den eneste teknologien gigantiske opplever pushback fra egne ansatte om hvordan produkter selges og brukes av den AMERIKANSKE regjeringen. Google ledelse har møtt enorm tilbakeslag dette året over sin deltakelse i en Pentagon drone initiativ kjent som Project Maven, å tvinge selskapet til å kunngjøre det ville ikke fornye sin kontrakt neste år, og å presentere et sett av etiske retningslinjer rundt kunstig intelligens bruk og produktutvikling. Google er også kommer under ild for sine planer om å lansere et nytt og søk produktet for det Kinesiske markedet som ville samsvar med regjeringens retningslinjer for sensur.

Her er det full transkripsjon av exchange fra alle-hender møte:

Q: Hva blir gjort i respons til de bekymringer uttrykt av både Amazon ansatte og sivile rettigheter grupper om Amazon selger facial anerkjennelse teknologi til regjeringen og politiet organisasjoner, inkludert ISEN?

Amazon KONSERNSJEF Jeff Bezos: God. Andy, vil du ta den?

AWS administrerende DIREKTØR Andrew Jassy: Takk, så vi henviser til Amazon Rekognition, som er AWS’ dyp læring image anerkjennelse, ansiktsgjenkjenning, video recognition service og, du vet, med over fem hundre tusen ansatte som vi har på Amazon, jeg tror vi kommer til å ha folk som har meninger som er meget omfattende, noe som er flott. Men vi føler virkelig flott og veldig sterkt om verdien av at Amazon Rekognition er å gi våre kunder av alle størrelser og alle typer bransjer i politi og ut av politiet.

Du ser det i den verdien folk faktisk får, selv etter omtrent et år, og et halvt år av tjenesten, hvor Rekognition er blitt brukt aktivt for å bidra til å stoppe menneskehandel, for å gjenforenes mangler barn med foreldre for pedagogiske programmer for sikkerhet og multi-faktor autentisering for å hindre tyveri.

Det er mye av verdien som nytes fra Amazon Rekognition. Nå nå, selvfølgelig, med alle slags-teknologi, må du sørge for at det blir brukt på en ansvarlig måte, og det er sant med nye og eksisterende teknologi. Bare tenk på alt det onde som kan gjøres med datamaskiner eller servere, og har blitt gjort, og du tenker på hva et annet sted i vår verden ville være hvis vi ikke vet hvordan folk har datamaskiner.

Så ønsker du ikke å bli kvitt den teknologien. Du ønsker å sørge for at folk bruker teknologien på en ansvarlig måte, og vi har et sett med vilkår og tjenester i AWS. Og med alle våre tjenester, inkludert Rekognition, der hvis folk bryter disse vilkårene for tjenester, og ikke bruk dem på en ansvarlig måte, de vil ikke være i stand til å bruke våre tjenester lenger. Faktisk, hvis vi finne folk bryter folk konstitusjonelle rettigheter, de vil ikke være i stand til å bruke tjenestene. Jeg tror også, forresten, i et demokrati er også ofte rollen i ansvar for regjeringen å bidra til å spesifisere hva de retningslinjer av regelverket bør være om teknologi. Og, hvis og når det skjer, vil vi følge disse som godt. Takk.

Oppdatering 11/8, 7:16PM OG: Lagt inn informasjon om forskning på det feil av Amazons Rekognition system.