Amazon-Mitarbeiter sagte, es würde weiterhin verkaufen, Gesichts-Erkennungs-software für die Strafverfolgung

0
32

Amazon unter Feuer zu spät für die Lizenzierung von seiner umstrittenen Rekognition-system, ein starkes Stück von Gesichts-Erkennungs-software, um die Regierung und Strafverfolgungsbehörden, der mit der jüngsten Entwicklung mit Enthüllungen, dass Amazon traf sich mit US Immigration and Customs Enforcement (ICE) über den Sommer zu schlagen, einen deal für Rekognition verwenden. Nun, Amazon Mitarbeiter sind Grillen die führende Position des Unternehmens über den Verkauf dieser Technologie, vor allem, wenn es verwendet werden könnte, um zu verfolgen Menschen und senden Sie Sie zurück in potenziell gefährlichen Umgebungen übersee.

Amazon-Web-Services-CEO Andrew Jassy gesagt, Mitarbeiter bei einem all-hands-meeting heute, dass “Wir das Gefühl, wirklich großen und wirklich stark über den Wert, den Amazon Rekognition bietet unseren Kunden in allen Größen und alle Arten von Industrien in der Strafverfolgung und aus die Strafverfolgungsbehörden”, so ein Amazon-Mitarbeiter, Sprach mit der Schwelle, Die unter der Bedingung der Anonymität, und, sofern eine teilweise Abschrift des Gesprächs. BuzzFeed berichtete zunächst über Jassy-Kommentare früher an diesem Nachmittag.

Amazon war nicht sofort für einen Kommentar verfügbar.

Haben Sie einen Tipp für uns? Verwenden SecureDrop oder Signal zum sicheren senden von Nachrichten und Dateien an Den Rand, ohne Ihre Identität preiszugeben.

AWS, die cloud-computing-division Amazon, ist verantwortlich für die Speisung der Rekognition, die derzeit in Nutzung durch die Polizei in Florida und Oregon. Jassy war angezapft, die von Amazon-CEO Jeff Bezos an, die speziell die Antwort auf eine Frage über die Rekognition und mögliche Verträge mit der Regierung, mit Organisationen wie EIS. Jassy ging auf zu sagen, dass “Sie nicht wollen, um loszuwerden, dass die Technik,” aber darauf hingewiesen, wie Verstöße gegen die AWS’ Nutzungsbedingungen oder gegen die allgemein der verfassungsmäßigen Rechte zwingen würde Amazon zu verbieten, Ihre Dienstleistungen. Er Tat beachten Sie jedoch, dass das Unternehmen glaubt, dass “es ist die Rolle, die in der Verantwortung der Regierung zu helfen, die festlegen, was die Leitlinien der Bestimmungen zu über-Technologie.”

Compounding Amazon ist die Teilnahme an der Regierung die Verträge mit Rekognition ist die Forschung beweist das system ist zutiefst fehlerhaft, sowohl in Bezug auf Genauigkeit und hinsichtlich der inhärenten rassische Voreingenommenheit. Die American Civil Liberties Union getestet Rekognition über den Sommer festgestellt, dass das system falsch identifiziert 28 Mitglieder des Kongresses aus einer Datenbank von 25.000 mugshots. (Amazon zurückgedrängt gegen die ACLU Ergebnisse in seiner Studie, mit Matt Holz, dessen general manager von deep learning und AI, sagte in einem blog-post im Juli, dass die Daten aus dem test mit der Rekognition API generiert wurde eine 80-Prozent-Vertrauens-rate, die weit unter den 99 Prozent Vertrauen bewerten Sie empfiehlt den Strafverfolgungsbehörden entspricht.)

Außerdem hat das Unternehmen lehnte eine Teilnahme an einer umfassenden Studie der algorithmischen bias führen durch die National Institute of Standards and Technology, versucht, zu identifizieren, wenn der Rasse und gender-bias möglicherweise zu beeinflussen Gesichts-Erkennungs-Algorithmus error-rate.

Amazon ist nicht der einzige Technologie-Riesen erleben pushback von den eigenen Mitarbeitern darüber, wie Produkte verkauft und die US-Regierung. Die Google-Führung hat angesichts immensen Spielraum in diesem Jahr über Ihre Beteiligung an einer Pentagon-Drohnen-initiative bekannt, die als Maven-Projekt, zwingt die Unternehmen, zu verkünden, es würde nicht verlängern, dessen Vertrag im nächsten Jahr und zu veröffentlichen eine Reihe von Ethik-Richtlinien rund um künstliche Intelligenz zu verwenden, und Produkt-Entwicklung. Google ist auch unter Beschuss für seine Pläne zur Einführung einer Nachrichten-und search-Produkt für den chinesischen Markt, die entsprechen würde, um die Regierung zensurpolitik.

Hier ist das vollständige Transkript der Austausch des all-hands-treffen:

Q: Was getan wird, in Reaktion auf die geäußerten Bedenken durch die beiden Mitarbeiter von Amazon und bürgerrechtsgruppen über Amazon verkaufen, die Technologie der Gesichtserkennung, um Regierung und Polizei-Organisationen, einschließlich EIS?

Amazon-CEO Jeff Bezos: Gut. Andy, willst du nehmen?

AWS-Geschäftsführer Andrew Jassy: Danke, so beziehen wir uns auf Amazon Rekognition, die AWS ” deep learning-Bild-Erkennung, Gesichts-Erkennung, video-Erkennung-Dienst, und Sie wissen, mit über fünf hundert tausend Mitarbeiter wie haben wir bei Amazon, ich denke, wir haben Menschen, die haben Meinungen, die sehr weit reichen, das ist toll. Aber wir fühlen uns wirklich großen und wirklich stark über den Wert, den Amazon Rekognition bietet unseren Kunden in allen Größen und alle Arten von Industrien in der Strafverfolgung und aus der Strafverfolgung.

Man sieht es den Menschen Wert sind eigentlich immer auch nach nur etwa einem Jahr, Jahr und eine Hälfte von dem service, wo Rekognition ist aktiv genutzt worden, um zu helfen, den Menschenhandel zu vereinen fehlen die Kinder mit den Eltern für die Bildungs-Anwendungen für Sicherheits-und multi-Faktor-Authentifizierung, um Diebstahl zu verhindern.

Es gibt eine Menge von Wert sein genossen von Amazon Rekognition. Nun, nun, natürlich, mit jeder Art von Technologie, die Sie haben, um sicherzustellen, dass es verantwortungsvoll genutzt, und das stimmt mit neuen und bestehenden Technologie. Denken Sie nur an all das böse, das getan werden könnte, mit Computern oder Servern und getan worden ist, und Sie denken, über das, was einem anderen Ort unserer Welt wäre, wenn wir nicht wissen, wie die Menschen haben Computer.

So dass Sie nicht wollen, um loszuwerden, diese Technologie. Sie wollen sicherstellen, dass die Menschen die Technik verantwortungsvoll, und wir haben eine Reihe von Bedingungen und Dienstleistungen, die in AWS. Und mit allen unseren Leistungen, einschließlich der Rekognition, wo, wenn die Menschen gegen diese Nutzungsbedingungen und verwenden Sie Sie nicht verantwortungsvoll, Sie werden nicht in der Lage, unsere Dienstleistungen zu nutzen nicht mehr. In der Tat, wenn wir die Leute finden, die Sie gegen Leute der verfassungsmäßigen Rechte, Sie werden nicht in der Lage, die Dienste zu nutzen. Ich denke auch, dass durch die Art und Weise, in einer Demokratie ist auch oft die Rolle, die in der Verantwortung der Regierung zu helfen, die festlegen, was die Leitlinien der Bestimmungen zu über-Technologie. Und, falls und wenn das passiert, werden wir Verweilen, indem Sie diese als gut. Danke.

Update 11/8, 7:16PM ET: Hinzugefügt Informationen über die Forschung in der Fehler von Amazon Rekognition system.