Microsoft slaat alarm over gezichtsherkenningstechnologie

0
19

Geavanceerde facial-recognition-technologie is de kern van veel van China ‘ s meer dystopische security initiatieven. Met 200 miljoen bewakingscamera ‘s — meer dan vier keer zo veel mensen in de Verenigde Staten — China’ s facial-recognition systemen leden volgen van de Islamitische Oeigoerse minderheid, blokkeren de toegangswegen tot wooncomplexen, en de schaamte, debiteuren door het weergeven van hun gezichten op billboards.

Ik heb vaak zijn deze verhalen hier, want het lijkt onvermijdelijk dat ze hun weg naar de Verenigde Staten, althans in een bepaalde vorm. Maar voordat ze dat doen, een coalitie van publieke en private belangen in zijn poging om het geluid van de wekker.

AI Nu is een groep verbonden aan de Universiteit van New York telt dat als de leden van de medewerkers van tech bedrijven, waaronder Google en Microsoft. In een nieuw artikel gepubliceerd donderdag, de groep roept overheden op om het regelen van het gebruik van kunstmatige intelligentie en gezichtsherkenning technologieën voordat ze kunnen ondermijnen fundamentele burgerlijke vrijheden. De auteurs schrijven:

Gezichtsherkenning en de invloed op de erkenning behoefte aan stringente regelgeving tot bescherming van het algemeen belang. Deze verordening moet zijn nationale wetgeving die vereist dat sterk toezicht, duidelijke beperkingen, en de publieke transparantie. Gemeenschappen hebben het recht om te weigeren de toepassing van deze technologieën in zowel de publieke als de private contexten. Louter publieke aankondiging van hun gebruik niet voldoende is, en dat er een hoge drempel voor de toestemming, gelet op de gevaren van de onderdrukkende en de voortdurende massa-toezicht.

De AI Nu onderzoekers zijn met name bezorgd over wat heet “van invloed zijn op de erkenning” — en de poging tot identificatie van de emoties van de mensen, en eventueel manipuleren van hen, met behulp van machine learning.

“Er is niet langer de vraag of er problemen zijn met de verantwoordelijkheid,” AI Nu co-founder Meredith Whittaker, die werkt bij Google, vertelde Bloomberg “Het is wat we doen.”

Later op de dag, Microsoft ‘ s president, Brad Smith, weerklonk sommige van deze bezwaren in een toespraak bij de Brookings Institution:

Wij geloven dat het belangrijk is voor overheden in 2019 te beginnen met de vaststelling van wetten te regelen van deze technologie. De gezichtsherkenning genie, om zo te spreken, is net in opkomst uit de fles. Tenzij we handelen, we het risico dat we wakker van vijf jaar vanaf nu te vinden die gezichtsherkenning diensten hebben verspreid op een manier die verergeren maatschappelijke vraagstukken. Tegen die tijd zijn deze uitdagingen zal veel moeilijker om de fles terug.

In het bijzonder, wij geloven niet dat de wereld zal worden het best gediend door een commerciële race naar de bodem, met tech bedrijven gedwongen om te kiezen tussen sociale verantwoordelijkheid en succes op de markt. We geloven dat de enige manier om te beschermen tegen deze ‘ race to the bottom is het bouwen van een verdieping van de verantwoordelijkheid die ondersteunt een gezonde concurrentie op de markt. En een solide vloer vereist dat we ervoor zorgen dat deze technologie, en de organisaties die zich ontwikkelen en te gebruiken zijn, worden beheerst door de regels van de wet.

Het papier komt een dag na het nieuws dat de Geheime Dienst de plannen voor het implementeren van gezichtsherkenning buiten het Witte Huis. Vermoedelijk, wat het agentschap noemt een “test” zal niet stoppen met er:

De ACLU zegt dat de huidige test lijkt adequaat smalle, maar dat het “snijdt een belangrijk lijn door het openen van de deur naar de massa, suspicionless toetsing van de Amerikanen op de openbare trottoirs” — als de weg buiten het Witte Huis. (De technologie van het programma wordt verondersteld te analyseren gezichten van maximaal 20 meter van de camera.) “Gezichtsherkenning is een van de meest gevaarlijke biometrie vanuit privacy oogpunt, omdat het kan zo eenvoudig worden uitgebreid en misbruikt, onder meer door wordt ingezet op een grootschalige zonder de kennis of toestemming.”

Misschien dat de Amerikanen’ een blijvende paranoia over grote overheid zal voorkomen dat meer Chinese stijl initiatieven van steeds meer aanhang. Maar ik kan me ook voorstellen dat een scenario waarin een populistische, de autoritaire leider, voortdurend een beroep op de twin spoken van terrorisme en ongecontroleerde illegale immigratie, rally ‘ s populaire steun rond surveillance technologie.

Het voelt als een gesprek de moeite waard.