Amazon ha detto dipendenti continuerà a vendere software di riconoscimento facciale per l’applicazione della legge

0
32

Amazon è venuto sotto il fuoco di ritardo per la concessione in licenza del suo controverso Rekognition sistema, di un potente software di riconoscimento facciale, per il governo e per le forze dell’ordine, con lo sviluppo più recente che coinvolge rivelazioni che Amazon ha incontrato con US Immigration and Customs Enforcement (ICE), durante l’estate, trovare un accordo per Rekognition uso. Ora, Amazon dipendenti sono grigliare la leadership dell’azienda oltre alla vendita di tale tecnologia, soprattutto quando si potrebbe essere utilizzato per tenere traccia di esseri umani e li invia di nuovo in ambienti potenzialmente pericolosi all’estero.

Amazon Web Services CEO Andrew Jassy detto i dipendenti a mani incontro di oggi che, “Ci sentiamo veramente grande e davvero molto buona circa il valore che Amazon Rekognition è fornire ai nostri clienti di tutte le dimensioni e di tutti i tipi di industrie, in applicazione della legge e di applicazione di legge”, secondo Amazon dipendente che ha parlato con Orlo sotto condizione di anonimato, e ha fornito una trascrizione parziale della conversazione. BuzzFeed segnalato la prima volta Jassy i commenti all’inizio di questo pomeriggio.

Amazon non era immediatamente disponibile per un commento.

Hai un suggerimento per noi? Utilizzare SecureDrop o Segnale in modo sicuro, inviare messaggi e file Orlo senza rivelare la vostra identità.

AWS, il cloud computing division di Amazon, è responsabile per l’alimentazione di Rekognition, che è attualmente in uso da parte di dipartimenti di polizia in Florida e Oregon. Jassy è stato sfruttato dal CEO di Amazon Jeff Bezos specificamente per rispondere a una domanda sul Rekognition e potenziale dei contratti pubblici, con organizzazioni come il GHIACCIO. Jassy ha continuato a dire che “non si vuole sbarazzarsi di quella tecnologia”, ma ha osservato come le violazioni di AWS’ termini di servizio o di violazioni di carattere generale dei diritti costituzionali avrebbe la forza di Amazon per divieto di utilizzare i suoi servizi. Ha fatto notare, tuttavia, che la società ritiene “il ruolo di responsabilità del governo per aiutare a specificare che le linee guida del regolamento dovrebbe essere di circa la tecnologia”.

Capitalizzazione di Amazon che partecipano a contratti con il governo, con Rekognition è una ricerca che dimostra che il sistema è profondamente sbagliata, sia in termini di precisione e riguardo inerenti pregiudizi razziali. L’American Civil Liberties Union testato Rekognition durante l’estate e ha scoperto che il sistema falsamente identificato 28 membri del Congresso di un database di 25.000 foto segnaletiche. (Amazon spinto indietro contro l’ACLU risultati nel suo studio, con Matt Wood, direttore generale di apprendimento profondo e AI, dicendo in un post sul blog a luglio che i dati del test con il Rekognition API è stato generato con un 80% di fiducia il tasso di, ben al di sotto del 99% di confidenza del tasso si consiglia per l’applicazione della legge le partite.)

Inoltre, l’azienda ha rifiutato di partecipare a uno studio completo di algoritmica bias gestito dal National Institute of Standards and Technology, che cerca di identificare quando razziale e pregiudizi di genere può essere influenzare un viso di un algoritmo di riconoscimento del tasso di errore.

Amazon non è l’unico gigante della tecnologia vivendo pushback propri dipendenti su come i prodotti sono venduti e utilizzati dal governo degli stati UNITI. Google leadership ha di fronte un immenso gioco di quest’anno oltre la sua partecipazione in un Pentagono, drone iniziativa denominata Progetto Maven, costringendo l’azienda ad annunciare di non rinnovare il proprio contratto il prossimo anno e per pubblicizzare una serie di etica linee guida circa l’intelligenza artificiale uso e sviluppo del prodotto. Google è anche venuta sotto il fuoco per i suoi piani per il lancio di una novità e di ricerca prodotto per il mercato Cinese che è conforme al governo politiche di censura.

Ecco la trascrizione completa del cambio tutte-le mani di incontro:

Q: che Cosa è stato fatto in risposta alle preoccupazioni espresse da Amazon dipendenti e gruppi per i diritti civili in materia di vendita Amazon la tecnologia di riconoscimento facciale al governo e alle forze di polizia, tra cui il GHIACCIO?

CEO di Amazon Jeff Bezos: Buona. Andy, non si vuole prendere?

AWS CEO Andrew Jassy: Grazie, quindi stiamo parlando di Amazon Rekognition, che è AWS’ apprendimento profondo riconoscimento di immagini, riconoscimento facciale, video servizio di riconoscimento e, si sa, con oltre cinquecento mila dipendenti, come abbiamo su Amazon, penso che stiamo andando ad avere persone che hanno opinioni molto ampia, che è grande. Ma ci sentiamo veramente grande e davvero molto buona circa il valore che Amazon Rekognition è fornire ai nostri clienti di tutte le dimensioni e di tutti i tipi di industrie, in applicazione della legge e di applicazione di legge.

Vedi il valore di persone sono in realtà sempre anche dopo circa un anno, un anno e mezzo di servizio, dove Rekognition è attivamente usato per aiutare a fermare il traffico di esseri umani, di riunire mancanti bambini con i genitori per applicazioni didattiche, per la sicurezza e l’autenticazione multi-factor per impedire il furto.

C’è un sacco di valore di essere goduto da Amazon Rekognition. Ora, naturalmente, con qualsiasi tipo di tecnologia, è necessario assicurarsi che esso venga usato in modo responsabile, ed è vero che con la nuova e la tecnologia esistente. Basta pensare a tutto il male che può essere fatto con i computer o server, ed è stato fatto, e si pensa che un luogo diverso sarebbe il mondo se non sappiamo come le persone che hanno il computer.

Quindi, non si vuole sbarazzarsi di quella tecnologia. Si desidera assicurarsi che le persone utilizzano la tecnologia in modo responsabile, e abbiamo una serie di condizioni e servizi AWS. E con tutti i servizi, compresa la Rekognition, dove se si violano i termini di servizi e non li uso in modo responsabile, essi non saranno in grado di utilizzare i nostri servizi più. Infatti, se si trova la gente di violare la gente di diritti costituzionali, essi non saranno in grado di utilizzare i servizi. Penso anche che, dal modo in cui, in una democrazia, è anche spesso il ruolo di responsabilità del governo per aiutare a specificare che le linee guida delle norme sulla tecnologia. E, se e quando ciò accade, ci atterremo a quelle. Grazie.

Aggiornamento 11/8, 7:16 ET: Aggiunta di informazioni sulla ricerca di difetti di Amazon Rekognition sistema.