Microsoft låter ett larm över tekniken för ansiktsigenkänning

0
22

Sofistikerad ansikts-igenkänning teknik är kärnan i många av Kinas mer dystopisk säkerhet initiativ. Med 200 miljoner övervakningskameror — mer än fyra gånger så många i Usa — Kinas facial-system för erkännande spåra medlemmar av den Uiguriska Muslimska minoriteten, blockera ingångar till bostadsområden, och skam gäldenärer genom att visa deras ansikten på affischer och skyltar.

Jag ofta har dessa berättelser här eftersom det verkar oundvikligt att de kommer att göra sin väg till Usa, åtminstone i någon form. Men innan de gör det, en sammanslutning av offentliga och privata intressen försöker slå larm.

AI Nu är en grupp knuten till New York University som räknas som dess medlemmar anställda av tech-företag som bland annat Google och Microsoft. I en ny studie publicerad torsdag, den grupp som uppmanar regeringar att reglera användningen av artificiell intelligens och ansiktsigenkänning teknik innan de kan undergräva grundläggande medborgerliga fri-och rättigheter. Författarna skriver:

Ansiktsigenkänning och påverka erkännande behovet av strängare reglering för att skydda allmänhetens intresse. En sådan reglering bör omfatta de nationella lagar som kräver stark tillsyn, tydliga begränsningar, och allmänhetens insyn. Kommunerna bör ha rätt att avslå ansökan av dessa tekniker i både offentliga och privata sammanhang. Bara kungörelse av deras användning är inte tillräckligt, och det bör vara en hög tröskel för något samtycke, med tanke på de faror som är förtryckande och kontinuerlig massövervakning.

AI Nu forskare är särskilt oroad för vad som kallas “att påverka erkännande” — och försök att identifiera människors känslor, och eventuellt ändra dem, med hjälp av maskininlärning.

“Det är inte längre en fråga om huruvida det finns problem med redovisningsskyldighet,” AI Nu medgrundare Meredith Whittaker, som jobbar på Google, sa Direkt “Det är vad vi gör åt det.”

Senare på dagen, Microsofts vd, Brad Smith, ekade några av dessa frågor i ett tal vid Brookings Institution:

Vi anser att det är viktigt för regeringar 2019 att börja anta lagar för att reglera denna teknik. Den ansiktsigenkänning ande, så att säga, bara är på väg ur flaskan. Om vi inte agerar, riskerar vi att vakna upp fem år från och med nu att hitta som ansiktsigenkänning tjänster har spridit sig på ett sätt som förvärrar situationen i samhälleliga frågor. Med dessa utmaningar kommer att vara mycket svårare att flaskan tillbaka upp.

Framför allt tror vi inte att världen kommer att bli bäst av en kommersiell kapplöpning mot botten, med tech företag tvingas att välja mellan socialt ansvar och framgång på marknaden. Vi tror att det enda sättet att skydda sig mot detta race to the bottom är att bygga ett golv av ansvar som stödjer sund konkurrens på marknaden. Och ett solitt golv kräver att vi ser till att denna teknik, och organisationer att utveckla och använda det, styrs av rättsstatsprincipen.

Uppsatsen kommer en dag efter nyheter som Secret Service planer på att distribuera ansiktsigenkänning utanför Vita Huset. Förmodligen, vad byrån kallar en “test” kommer inte att sluta där:

ACLU säger att det aktuella testet verkar lämpligt smal, men att det “går en viktig linje genom att öppna dörren till massan, suspicionless kontroll av Amerikanerna på allmänna trottoarer”, som vägen utanför Vita Huset. (Programmet är teknik som är tänkt att analysera ansikten upp till 20 meter från kameran.) “Ansiktsigenkänning är en av de mest farliga biometri och av integritetsskäl, eftersom det så lätt kan utökas och övergrepp — bland annat genom att vara i bruk på en stor skala utan folkets vetskap eller tillåtelse.”

Kanske Amerikanerna ” enduring paranoia om big regeringen kommer att förhindra mer Kinesisk stil initiativ från att någonsin ta rot. Men jag kan också tänka sig ett scenario där en populistisk, auktoritära ledare, ständigt åberopar de två spöken av terrorism och okontrollerad illegal invandring, rallyn folkligt stöd runt övervakning teknik.

Det känns som en konversation som är värt att ha.