Microsoft suoni un allarme oltre la tecnologia di riconoscimento facciale

0
22

Sofisticati per il riconoscimento facciale tecnologia è al centro di molte di Cina più distopica iniziative per la sicurezza. Con 200 milioni di telecamere di sorveglianza, oltre quattro volte più numerosi negli Stati Uniti — Cina per il riconoscimento facciale sistemi traccia membri della minoranza Musulmana Uigura, bloccare gli ingressi ai complessi residenziali, e la vergogna debitori mostrando le loro facce sui cartelloni pubblicitari.

Mi capita spesso di includere queste storie qui, perché sembra inevitabile che faranno la loro strada verso gli Stati Uniti, almeno in qualche forma. Ma prima, una coalizione di interessi pubblici e privati che stanno tentando di suonare l’allarme.

IA Ora è un gruppo di affiliati con l’Università di New York che conta, come i suoi membri, dipendenti di aziende tecnologiche, tra cui Google e Microsoft. In un nuovo articolo pubblicato giovedì, il gruppo invita i governi di regolamentare l’uso dell’intelligenza artificiale e riconoscimento facciale tecnologie prima che possano minare la base per le libertà civili. Scrivono gli autori:

Il riconoscimento facciale e influenzare il riconoscimento bisogno di una severa regolamentazione per tutelare l’interesse pubblico. Tale regolamento deve includere le leggi nazionali, che richiedono una forte vigilanza, dei chiari limiti, e trasparenza. Le comunità dovrebbero avere il diritto di rifiutare l’applicazione di queste tecnologie sia in contesti pubblici o privati. Semplice avviso pubblico di il loro uso non è sufficiente, e ci dovrebbe essere una soglia elevata per il consenso, dato che i pericoli di opprimente e continuo di sorveglianza di massa.

Ora l’IA i ricercatori sono particolarmente preoccupati per quello che è chiamato “influenza riconoscimento” — e il tentativo di identificare le emozioni della gente, ed eventualmente modificarli, utilizzando tecniche di apprendimento automatico.

”Non c’è più una questione di sapere se ci sono problemi con l’assunzione di responsabilità, AI Ora co-fondatore di Meredith Whittaker, che lavora presso Google, ha detto a Bloomberg “È quello che facciamo.”

Nel corso della giornata, Microsoft presidente, Brad Smith, ha ripreso alcuni di questi problemi in un discorso alla Brookings Institution:

Crediamo sia importante che i governi nel 2019 per avviare l’adozione di leggi per regolamentare questo tipo di tecnologia. Il riconoscimento facciale di genio, per così dire, appena emergono dalla bottiglia. A meno che non si legge, si rischia di svegliarsi da qui a cinque anni per scoprire che il riconoscimento facciale servizi sono diffusi in modi che esacerbare i problemi sociali. Da quel momento, queste sfide sarà molto più difficile per la bottiglia.

In particolare, non crediamo che il mondo sarà meglio servito da un commerciale corsa verso il basso, con le aziende di tecnologia hanno costretto a scegliere tra la responsabilità sociale e il successo di mercato. Noi crediamo che l’unico modo per proteggere contro questa corsa verso il basso è quello di costruire un piano di responsabilità che supporta la sana concorrenza di mercato. E un solido piano richiede che ci assicurano che questa tecnologia, e le organizzazioni che sviluppano e utilizzano, sono regolati da norme di legge.

La carta viene un giorno dopo la notizia che il Segreto piani di Servizio per la distribuzione di riconoscimento facciale al di fuori della Casa Bianca. Presumibilmente, ciò che l’agenzia si chiama “test” non si ferma qui:

L’ACLU dice che la corrente di prova sembra adeguatamente stretto, ma che “attraversa un’importante linea con l’apertura della porta di massa, suspicionless controllo degli Americani pubblici marciapiedi” — come la strada al di fuori della Casa Bianca. (La tecnologia del programma dovrebbe analizzare le facce fino a 20 metri di distanza dalla fotocamera). “Il riconoscimento del volto è uno dei più pericolosi di biometria, da un punto di vista della privacy, perché può facilmente essere ampliato e abusato — anche a mezzo di essere distribuito su scala di massa senza la conoscenza o il permesso.”

Forse gli Americani ” enduring paranoia su di un grande governo impedirà più di Cinese-stile iniziative da assumere mai root. Ma posso anche immaginare uno scenario in cui un “populista”, il leader autoritario, costantemente invocando la doppia spettri del terrorismo e incontrollata immigrazione clandestina, raduni sostegno popolare intorno tecnologie di sorveglianza.

Ci si sente come una conversazione vale la pena avere.