Amazon berättade för anställda att det skulle fortsätta att sälja programvara för ansiktsigenkänning till brottsbekämpning

0
28

Amazon har kommit under eld för sent för licensiering av sin kontroversiella Rekognition system, en kraftfull bit av programvara för ansiktsigenkänning, för att statliga och brottsbekämpande organ, med den senaste utvecklingen med uppenbarelser som Amazon träffade US Immigration and Customs Enforcement (IS) under sommaren för att nå en uppgörelse för Rekognition använda. Nu, Amazon anställda är grillning företagets ledning över försäljning av sådan teknik, speciellt när det kan användas för att spåra människor och skicka dem tillbaka till potentiellt farliga miljöer utomlands.

Amazon Web Services VD Andrew Jassy berättade för anställda på en all-hands möte i dag att “Vi känner oss riktigt bra och riktigt starkt på det värde som Amazon Rekognition är att ge våra kunder av alla storlekar och alla typer av industrier som i brottsbekämpning och ut av de brottsbekämpande,” enligt en Amazon anställd som talade med Gränsen under villkor av anonymitet och gav en ofullständig utskrift av samtalet. BuzzFeed först rapporterade om Jassy kommentarer tidigare denna eftermiddag.

Amazon var inte omedelbart tillgänglig för en kommentar.

Fick ett tips för oss? Använd SecureDrop eller Signal för att säkert skicka meddelanden och filer till Gränsen utan att avslöja din identitet.

AWS, cloud computing division av Amazon, är ansvarig för att driva Rekognition, som för närvarande används av polisen i Florida och Oregon. Jassy var utnyttjas av Amazons VD Jeff Bezos att specifikt svar på en fråga om Rekognition och potentiella regeringen avtal med organisationer som IS. Jassy fortsatte med att säga att “du inte vill bli av med den teknik”, men påpekade hur kränkningar av AWS’ användarvillkoren eller brott i allmänhet av konstitutionella rättigheter skulle tvinga Amazon att förbjuda användning av sina tjänster. Han noterar dock att bolaget anser att “det är den roll i regeringens ansvar att hjälpa till att specificera vad riktlinjerna i förordningar ska handla om teknik.”

Blanda Amazon: s deltagande i offentlig upphandling med Rekognition är forskning som visar systemet har stora brister, både när det gäller noggrannhet och om inneboende rasistiska fördomar. American Civil Liberties Union testade Rekognition under sommaren och fann att systemet felaktigt identifieras 28 medlemmar av Kongressen från en databas på 25 000 mugshots. (Amazon sköt tillbaka mot ACLU: s resultat i sin studie, med Matt Wood, dess chef för djupt lärande och AI, säger i ett blogginlägg redan i juli att data från test med Rekognition API genererades med en 80 procent förtroende priser, långt under 99 procent förtroende betygsätt det rekommenderar för brottsbekämpande matcher.)

Företaget har också avstått från att delta i en omfattande studie av algoritmisk bias som drivs av National Institute of Standards and Technology som syftar till att identifiera när ras-och könsdiskriminering kan påverka en ansiktsigenkänning algoritm är fel priser.

Amazon är inte bara teknik jätte upplever stift från sina egna anställda om hur produkter säljs och används av den AMERIKANSKA regeringen. Google ledarskap har haft enorm backlash år under sitt deltagande i en Femhörning drone-initiativet som kallas Projektet Maven, tvingar företag att tillkännage att det inte skulle förnya sitt kontrakt nästa år och att publicera en uppsättning etiska riktlinjer kring artificiell intelligens användning och utveckling av produkten. Google är också komma under eld för sina planer på att lansera en nyhet och sök produkt för den Kinesiska marknaden som uppfyller regeringens censur politik.

Här är fullständig avskrift av utbyte från all-hands möte:

Q: Vad är det som gjort ett svar på den oro som har uttryckts av både Amazon anställda och medborgerliga rättigheter grupper om Amazon att sälja tekniken för ansiktsigenkänning för att regeringen och polisen organisationer, inklusive IS?

Amazons VD Jeff Bezos: Bra. Andy, vill du ta den?

AWS VD Andrew Jassy: Tack, så vi hänvisar till Amazon Rekognition, som är AWS’ djupt lärande bildigenkänning, ansiktsigenkänning, video recognition service och, du vet, med över fem hundra tusen anställda som vi har på Amazon, jag tror att vi kommer att ha folk som har åsikter som är mycket omfattande, vilket är bra. Men vi känner oss riktigt bra och riktigt starkt på det värde som Amazon Rekognition är att ge våra kunder av alla storlekar och alla typer av industrier som i brottsbekämpning och ut av de brottsbekämpande.

Du ser det på det värde som människor faktiskt får även efter bara ca ett år och ett halvt år av tjänst, där Rekognition är aktivt använts för att hjälpa till att stoppa människohandel, att återförenas saknade barn med föräldrar för pedagogiska program för säkerhet och multi-faktor autentisering för att förhindra stöld.

Det finns en hel del värde som haft från Amazon Rekognition. Nu, naturligtvis, med all typ av teknik, måste du se till att den används på ett ansvarsfullt sätt, och det är sant med ny och befintlig teknik. Tänk om alla de olyckor som skulle kunna göras med datorer eller servrar och har gjort, och att du tänker på vad en annan plats i vår värld skulle vara om vi visste inte hur människor som har datorer.

Så du vill inte bli av med denna teknik. Du vill se till att människor använder tekniken på ett ansvarsfullt sätt, och vi har en uppsättning av villkor och tjänster i AWS. Och med alla våra tjänster, inklusive Rekognition, där om människor som bryter mot dessa villkor och inte använda dem på ett ansvarsfullt sätt, kommer de inte att kunna använda våra tjänster längre. I själva verket, om vi hittar människor som bryter mot folk konstitutionella rättigheter, de kommer inte att kunna använda tjänsterna. Jag tror också, förresten, i en demokrati är också ofta den roll i regeringens ansvar att hjälpa till att specificera vad riktlinjerna i förordningar ska handla om teknik. Och om och när det händer, vi kommer att följa dem också. Tack.

Uppdatering 11/8, 7:16PM ET: Lagt till information om forskning om brister i Amazons Rekognition system.