Tekniske virksomheder har roligt undersøgt dine fotos for at forbedre deres ansigtsgenkendelsessystemer. Og her er, hvordan de gjorde det.
Ansigtsgenkendelse er en magtfuld teknologi, der alvorligt truer borgerlige frihedsrettigheder. Det er også en blomstrende forretning. I dag sælger mange startups og teknologigiganter ansigtsgenkendelsessystemer til hoteller, detailhandlere og endda skoler og sommerlejre. Denne forretning blomstrer takket være nye algoritmer, der kan identificere mennesker med meget større nøjagtighed end for fem år siden. For at forbedre deres algoritmer er de blevet trænet på milliarder af ansigter, undertiden uden nogens tilladelse. Derfor er chancerne gode for, at dit ansigt er en del af et "træningskit" i et af disse systemer eller er i en kundedatabase for et firma.
Metoderne til indsamling af information, som virksomhederne bruger, kan overraske forbrugerne. For eksempel har virksomheder i mindst tre tilfælde modtaget millioner af billeder via smartphone-fotoapps. Nu er ansigtsgenkendelsessystemet dårligt reguleret, så folk har næsten ingen måde at begrænse brugen af deres ansigter til kommercielle formål.
I 2018 identificerede et kamera ansigterne til passagerer, der skynder sig ned i et fly nær Washington, Columbia. Men faktisk var både flyet og passagererne en del af en simulering oprettet af National Institute of Standards and Technology (NIST) for at demonstrere, hvordan data kunne indsamles "i marken". Ansigterne, der bruges i dette eksperiment, vil være en del af en NIST-konkurrence, hvor virksomheder fra hele verden tester deres ansigtsgenkendelsessystemer.
I simuleringen af flysituationen blev frivillige enige om at bruge deres ansigter. Dette var tilfældet i de tidlige stadier af ansigtsgenkendelsessystemer - forskere forsøgte konsekvent at inkludere mennesker i deres sæt. Nu er det usandsynligt, at forretninger generer sig selv og beder om tilladelse.
Ifølge Market Research Future kæmper virksomheder (inklusive ledere som Face ++ og Kairos) om at være nr. 1 i en branche, der vokser 20% årligt for at nå 9 mia. Dollars i volumen inden 2022. Forretningsmodellen for disse spillere er baseret på licenseret software til et voksende antal klienter - fra retshåndhævelsesbureauer til universiteter - der bruger det i deres egen udvikling.
I konkurrencen er vinderne de produkter, hvis algoritmer er i stand til at registrere ansigter nøjagtigt og uden fejl. Som med al kunstig intelligens indebærer opbygning af et ansigtsgenkendelsessystem akkumulering af en stor mængde data til træning. Mens virksomheder kan bruge regerings- og universitetsgodkendte data (såsom Yale Facial Database), er disse træningssæt små nok til ikke at indeholde mere end et par tusinde ansigter.
Salgsfremmende video:
Disse officielle sæt har også andre ulemper. Mange mennesker mangler racemangfoldighed og forskellige forhold - skygger, hatte, kosmetik - der ændrer en persons opfattelse i den virkelige verden. Et naturligt ansigtsgenkendelsessystem kræver flere billeder. Meget mere.
”Hundrede er ikke nok, tusind er ikke nok. Vi har brug for millioner af billeder. Hvis du ikke træner systemet til at genkende folk med briller og forskellige hudfarver, opnår du ikke gode resultater,”siger Peter Trepp, direktør for FaceFirst, et Californien-baseret firma, der hjælper detailhandlere med at identificere kriminelle i deres butikker.
Ansøgning om dette
le. Navnlig tvang appen den til at sende sponsorerede links til alle brugerkontakter, en taktik, der er kendt i Silicon Valley som "væksthacking". Brugere klagede også over datatyveri.
"Umiddelbart efter installationen indsamler applikationen alle telefoner fra kontaktlisten og begynder at sende dem … Og derefter downloader det alle dine fotos og kopierer dem til skyen," skrev Greg Miller, ejer af et fotostudie i Texas, i en anmeldelse fra 2015 på Facebook.
Fire år senere blev Miller forfærdet over at opdage, at hans fotografier stadig blev gemt på EverRoll, men nu et firma med et ansigtsgenkendelsessystem.
”Nej, jeg vidste ikke om det, og det er jeg helt uenig i,” klagede Miller til Fortune.”Denne type overvågning er et reelt problem. Fortrolighed er væk, og det skræmmer mig meget."
Doug Ely, administrerende direktør for Ever AI, hævder, at virksomheden ikke overfører information fra sin database overalt, og billederne bruges kun til at træne systemet. Han tilføjede også, at virksomheden ligner et socialt netværk, der til enhver tid kan opgives. Eli benægtede, at Ever AI havde til hensigt at blive et ansigtsgenkendelsesfirma fra starten og sagde, at app-lukningen var en ledelsesbeslutning. Ever AIs kunder bruger nu deres data til deres egne formål, herunder styring af medarbejderidentifikationssystemer, detailhandel samt telekommunikation og retshåndhævelse.
Ever AI er ikke det eneste ansigtsgenkendelsesfirma, der engang tilbød en fotograferingsapp. Orbeus, en San Francisco-baseret opstart købt af Amazon i 2016 (hvilket ikke blev annonceret), tilbød også den populære PhotoTime-opbevaring.
Ifølge en tidligere Orbeus-medarbejder var opstartens appel til Amazon den kunstige intelligens, den udviklede, og dens store udvalg af fotografier af mennesker på offentlige steder.
”Amazon ledte efter sådanne muligheder. De købte alt og lukkede derefter ansøgningen,”siger en medarbejder, der ønskede at være anonym, med henvisning til en aftale om ikke-offentliggørelse.
PhotoTime findes ikke længere, selvom Amazon fortsætter med at sælge et andet Orbeus-produkt kendt som mærket Rekognition. I forretnings- og retshåndhævelse bruges det som et ansigtsgenkendelsessystem.
Amazon afslog at afsløre detaljer om, hvorvidt Orbeus-fotoappen blev brugt til at træne Rekognition, og oplyste kun, at den indsamlede data fra forskellige kilder. Virksomheden tilføjede, at det ikke bruger brugerdata fra Prime-appen til at træne identitetssystemer.
Real Networks er et andet firma, der bruger apps til at træne sit system. Baseret i Seattle og en gang berømt for sin videospiller fra 90'erne, er virksomheden nu fokuseret på at genkende børns ansigter i skolerne. Samtidig tilbyder virksomheden en familie-app kaldet RealTimes, som kritikere siger at indsamler data om brugernes ansigter.
”Programmet giver dig mulighed for at oprette videopræsentationer fra fotos. Forestil dig, at mor sender en sådan præsentation til bedstemor, og systemet bruger disse fotos til træning. Det lyder uhyggeligt,”siger Claire Gavry, professor ved Georgetown University, der udgav et papir, der har haft en stor indflydelse på teknologi til ansigtsgenkendelse.
Real Networks bekræftede, at appen blev brugt til at forbedre ansigtsgenkendelsen, men tilføjede, at andre informationskilder blev brugt.
I alle tilfælde, hvor virksomheder brugte data fra deres egne fotoapplikationer til at træne deres systemer, bad de ikke om brugertilladelse, men fik skjult samtykke gennem brugeraftaler.
Men dette er allerede ret meget sammenlignet med hvad andre virksomheder laver. Ifølge Patrick Grother, der kører NIST-konkurrencen, er det okay for virksomheder, der indsamler ansigtsdata, til at skrive programmer, der “griber” billeder fra websteder som SmugMug eller Tumblr. I disse tilfælde antages ikke engang brugertilladelse.
Denne selvhjælpstilgang blev fremhævet i en nylig NBC News-rapport, der detaljerede oplysninger om, hvordan IBM downloadede over en million ansigtsbilleder fra Flickr som en del af en AI-undersøgelse. (John Smith, der fører tilsyn med kunstig intelligenssteknologi i IBMs forskningsafdeling, sagde, at "personlige data er beskyttet", og at der arbejdes med dem, der vil fjerne personlige oplysninger fra databasen).
Alt dette rejser spørgsmål om beskyttelsen af personoplysninger fra de virksomheder, der indsamler dem, og behovet for statskontrol på dette område. Dette emne vil kun blive mere alvorligt med den videre udbredelse af ansigtsgenkendelsessystemer i samfundet såvel som i store og små virksomheders miljø.
Fra butikker til skoler
Ansigtsgenkendelsessystemer er ikke nye. De enkleste versioner af sådanne programmer har eksisteret siden 1980'erne, da amerikanske matematikere begyndte at definere ansigter som en række tal og brugte sandsynlighedsmodeller for at finde kampe. Tampa, Florida sikkerhed, brugte det i Super Bowl 2001, og det er blevet brugt på kasinoer i årevis. Men meget er ændret i de sidste par år.
"Ansigtsgenkendelsessystemet gennemgår noget som en revolution," siger Patrick Grother og tilføjer, at ændringen er mest mærkbar i den stigende kvalitet af billeder.”Den underliggende teknologi er ændret. Den gamle udvikling er blevet erstattet af nye, meget mere effektive systemer."
Ansigtsgenkendelsesrevolutionen blev drevet af to faktorer, der i høj grad har ændret og udvidet omfanget af kunstig intelligens teknologi. Den første er fremkomsten af dyb læring, et mønstergenkendelsessystem, der principielt ligner den menneskelige hjerne. Det andet er et rekordoverskud af data, der kan gemmes og analyseres til lave omkostninger ved hjælp af cloud computing.
Ikke overraskende var de første virksomheder, der drage fuld fordel af denne udvikling, Google og Facebook. I 2014 frigav sidstnævnte et program kaldet DeepFace, som med en nøjagtighed på 97,24% kan bestemme, at to ansigter hører til den samme person - mennesker demonstrerer et lignende resultat i en sådan test. Et år senere opnåede Google med sit FaceNet-program 100% nøjagtighed (ifølge sikkerhedsfirmaet Gemalto).
I dag, takket være en stor del af adgangen til store databaser med ansigtsdata, er disse og andre tech-giganter (som Microsoft) førende inden for ansigtsgenkendelse. Men flere og flere nystartede virksomheder viser høje resultater og stræber også efter at besætte deres niche på det voksende marked for ansigtsidentifikationsprogrammer.
Der er mere end et dusin sådanne virksomheder alene i USA, herunder Kairos og FaceFirst. Ifølge markedsundersøgere fra PitchBook vinder Silicon Valley hurtigt trækkraft i sektoren med betydelige investeringer i de sidste par år. PitchBook anslår, at den samlede investering i de sidste tre år var $ 78,7 millioner. Dette er ikke fantastiske tal efter Valley-standarder, men de afspejler tillid hos venturekapitalister til, at flere frontlinjestarter først vil vokse til store virksomheder.
Venturekapitalaktivitet i ansigtsgenkendelsesbranchen i USA.
Nye forretningsmodeller med fokus på ansigtsgenkendelse dukker stadig op. Dette bemærkes især i licenseret virksomhedssoftware. Ifølge Crunchbase er de årlige indtægter for virksomheder som Ever AI og FaceFirst beskedne og spænder fra $ 2 millioner til $ 8 millioner. Amazon og andre tech-giganter afslører ikke sådanne tal.
I lang tid var de mest interesserede brugere af ansigtsgenkendelsessystemer retshåndhævelsesorganer. Men nu bruger mange virksomheder, inklusive WalMart, sådanne programmer til at få mere information om kunderne i deres butikker.
F.eks. Tilbyder Californien-baserede FaceFirst sine systemer til hundreder af detailhandlere, herunder brugte butikker og apoteker. Ifølge virksomhedens administrerende direktør bruger mange kunder teknologien til at opdage tyveri, men et voksende antal af dem, der prøver at bruge det til andre formål, herunder at finde VIP-klienter og identificere medarbejdere.
I lang tid var de mest interesserede brugere af ansigtsgenkendelsessystemer retshåndhævelsesorganer.
Det ser ud til, at Amazon også leder efter en lang række af sine aktiviteter for muligheder for at anvende ansigtsgenkendelsessystemer. Ud over at arbejde med politistationer hjælper detailgiganten hoteller med at fremskynde indtjekningsprocesser ifølge forskellige kilder.
”Virksomheder fra hele verden kommer til Amazon og siger: 'Det er præcis, hvad vi vil gøre.' Og du forstår, at dette er et vidunderligt område. Alle er interesseret i det,”siger en anonym kilde, der tiltrådte Amazon, da de købte Orbeus, et ansigtsgenkendelsesfirma.
For Amazon har denne aktivitet ikke været uden kontroversielle konsekvenser. Sidste juli testede American Civil Liberties Union (ACLU) virksomhedens systemer ved at sammenligne ansigterne fra alle medlemmer af Kongressen med en database over kriminelle. Testen viste 28 falske kampe med de fleste fejl på grund af hudfarven på deltagerne i eksperimentet. Som et resultat opfordrede Unionen til et forbud mod anvendelse af ansigtsgenkendelsessystemet i retshåndhævelsesorganer. Amazon insisterede imidlertid på at sælge systemet til politifolk og den amerikanske immigrations- og toldhåndhævelse.
Derefter bad nogle medlemmer af Kongressen, herunder Rep. Jerrold Nadler og Senator Ron Weeden, Revisionsmyndigheden om at undersøge brugen af ansigtsgenkendelsessoftware. Ledende virksomheder er også bekymrede over disse systemer. Især opfordrede Microsoft-præsident Brad Smith i december til regulering af sådanne teknologier på statsniveau.
Men selv når bekymringerne vokser, udvides brugen af ansigtsgenkendelsessystemer kun, når virksomheder finder flere og flere anvendelser til dem. F.eks. Tilbyder Real Networks, en familieudvikler af apper til familiefotografering, sin software til skoler over hele landet gratis. Virksomheden taler om hundreder af skoler som sine klienter. I et interview med magasinet Wired sagde Real Networks 'administrerende direktør Rob Glaser, at han lancerede projektet som en upartisk løsning på tvister om skolesikkerhed og pistolkontrol. Virksomhedens hjemmeside er i øjeblikket ved at positionere dette produkt som en teknologi, der gør det muligt for arrangører af begivenheder at "genkende enhver fan, kunde, medarbejder eller gæst", selvom deres ansigt er skjult.
Den unikke teknologi genkender ansigter selv i farvelægning eller intensiv makeup. Systemet skelner og identificerer ansigter i forskellige lysforhold.
Real Networks er ikke det eneste firma, der er målrettet mod børnenes marked. En Texas-baseret opstart kaldet Waldo tilbyder lignende teknologi til hundreder af skoler samt børns sportsligaer og sommerlejre. I praksis indebærer dette, at man bruger sådanne systemer til at scanne billeder, der er taget af videokameraer eller officielle fotografer, og yderligere matche børnenes ansigter med en database med billeder leveret af forældrene. Forældre kan altid nægte at deltage.
Ifølge Waldo CEO Rodney Rice tager skoler titusinder af fotografier hvert år, og få af dem ender i årlige albums. Ansigtsgenkendelse, sagde han, er en effektiv måde at sprede resterne til dem, der har brug for dem.
"Til prisen for popcorn eller brun papir kan du bestille disse fotos til dine børns bedsteforældre," siger Rice og forklarer, at Waldo har en indkomstdelingsaftale med offentlige skoler. I øjeblikket bruges virksomhedens tjenester i mere end 30 stater i De Forenede Stater.
Fremkomsten af Waldo og FaceFirst viser, hvordan virksomheder normaliserer ansigtsgenkendelse, der indtil for nylig virkede som science fiction. Og med spredningen af sådanne teknologier vil flere virksomheder indsamle fotos af dine ansigter - enten for at træne algoritmer eller for at finde kunder og kriminelle - selvom risikoen for fejl og misbrug kun vokser.
Fremtiden for dit ansigt
I 2017 blev en episode af den techno-dystopiske serie Black Mirror frigivet, hvor en ophidset mor bekymrer sig om en snyd ung mand, der tilbringer tid med sin datter. For at finde ud af, hvem det er, uploader hun et foto af ham til en forbrugeridentifikationstjeneste. Programmet viser hurtigt hans navn og arbejdsplads, og kvinden tager sig af ham.
Det engang fiktive scenarie virker nu ganske reelt. Mens de fleste af bekymringerne for ansigtsgenkendelse har fokuseret på brugen af denne teknologi i regeringsorganisationer, udgør dens anvendelse blandt kommercielle virksomheder og endda enkeltpersoner (i stil med "Sort spejl") åbenlyse risici for personoplysninger.
Efterhånden som flere virksomheder begynder at sælge ansigtsgenkendelsessystemer og vores ansigter kommer ind i flere databaser, kunne softwaren vinde popularitet blandt voyeurs og stalkers. Detailhandlere og udlejere kan bruge det til at identificere uønskede klienter og lejere til stille at benægte boliger og tjenester.
”Enhver med et videokamera i et tætbefolket område kan begynde at indsamle billeddatabaser og derefter bruge denne analytiske software til at se, om de billeder, de optager, matcher dine data,” siger Jay Stanley, en analytiker ved ACLU.
Der er også en risiko for hackerangreb. Andrei Barisevich fra Gemini Advisors, et cybersikkerhedsfirma, siger, at han har set profiler til salg stjålet fra Indiens nationale biometriske database på darknet-websteder. Han bemærkede ikke sådanne oplysninger om amerikanerne, men tilføjede: "Det er bare et spørgsmål om tid." Lækning af kundedata fra et hotel eller butik kan hjælpe kriminelle med at begå svig eller identitetstyveri.
Da teknologien distribueres uden megen regeringskontrol, ligger ansvaret for at begrænse dets misbrug udelukkende hos softwareleverandørerne. I et interview med Fortune sagde administrerende direktører for nystartede ansigtsgenkendelser, at de var forberedt på sådanne trusler. Nogle, inklusive CEO for FaceFirst, beskrev spredningen af sådanne systemer i Kina som farlig.
Ledere foreslog også to tilgange til at begrænse misbrug. Den første er at arbejde tæt sammen med købere af softwaren for at sikre, at den bruges korrekt. F.eks. Siger Ever AIs Doug Eli, at hans firma har en højere standard end Amazon, som han hævder, at dets rekognitionsværktøj til næsten enhver.
Som svar på et spørgsmål om kontrol med misbrug leverede Amazon en tidligere frigivet erklæring fra Matt Wood, der driver kunstig intelligens hos Amazon Web Services. Wood påpeger, at det er virksomhedens politik, der forbyder skadelige og ulovlige aktiviteter.
En anden mulig garanti for datasikkerhed er brugen af tekniske foranstaltninger til at sikre umuligheden af at hacking databaserne med "front" -data.
Rodney Rice, administrerende direktør for Waldo, siger, at ansigter er gemt som alfanumeriske hasjer. Dette betyder, at selv i tilfælde af en datalækage, fortrolighed ikke bliver kompromitteret, da en hacker ikke vil være i stand til at dekryptere hasherne og bruge dem. Dette synspunkt blev støttet af andre.
Rice frygter, at lovgivningsmæssig definition af reglerne for anvendelse af "ansigts" -teknologier kan gøre mere skade end gavn.”At lade et barn finde det ud og oprette regler er latterligt,” siger han.
I mellemtiden anvender nogle ansigtsgenkendelsessoftwarevirksomheder nye teknikker, der kan reducere behovet for big data til træning. Dette er f.eks. Tilfældet med Kairos, en front-end-start fra Miami, der blandt andet arbejder med en bred vifte af hoteller. Ifølge Stephen Moore, chef for sikkerhed hos virksomheden, skaber Kairos "syntetiske" ansigter for at simulere en bred vifte af følelser og belysning. Sådanne "kunstige ansigter" reducerer brugen af ansigtsdata fra den virkelige verden, når man opretter teknologiprodukter.
Alle disse foranstaltninger - overvågning af systembrugere, stærk databeskyttelse og syntetiske læringsværktøjer - kan afbøde nogle af de privatlivets fred, der er forbundet med forretningsbrug af vores ansigter. Samtidig mener FaceFirst's Trepp, at angsten vil aftage med et nærmere kig på systemet. Han hævder endda, at ansigtsgenkendelsesscenerne i sci-fi-filmen Minority Report fra 2002 vil begynde at føles normale.
”Millennials er meget mere villige til at dele information. Denne verden [fra Minority Report] kommer tættere på vores,”siger han. - Hvis du gør alting rigtigt, tror jeg, folk vil kunne lide det, og det vil være en positiv oplevelse. Det vil ikke være så skræmmende."
Andre, herunder ACLU, er mindre optimistiske. På trods af den voksende diskussion omkring teknologi er der praktisk talt intet på dette tidspunkt, der begrænser brugen af dit ansigt. De eneste undtagelser er i tre stater - Illinois, Texas og Washington DC - som kræver en vis grad af samtykke, før du bruger en andens ansigt. Disse love bruges ikke rigtig i praksis undtagen i Illinois, hvor forbrugere kan tage retssager for at håndhæve denne ret.
Illinois-loven er i øjeblikket genstand for en højprofilt appelsager med Facebook, der hævder, at digital gennemsøgning ikke er underlagt begrænsninger for at få ansigter. I 2017 lancerede Facebook og Google en mislykket lobbykampagne for at overbevise Illinois-lovgivere om at blødgøre loven. I slutningen af januar blev talsmænd for loven støttet af Illinois Supreme Court, da den bestemte, at forbrugerne kan sagsøge den uautoriserede brug af deres biometri, selvom der ikke er sket nogen reel skade.
Andre stater giver også mulighed for at vedtage deres egne biometriske love. På føderalt plan har lovgivere i øjeblikket meget opmærksom på dette. Det kan dog ændre sig, da senatorerne Brian Schatz og Roy Blount indførte lovgivning i denne måned, der ville kræve virksomheder at få tilladelse, før de bruger ansigtsgenkendelse på offentlige steder eller deler ansigtsdata med nogen tredjepart.
Claire Garvey, en Georgetown-forsker, støtter love til kontrol af disse systemer. Men hun siger, at lovgivere har haft svært ved at holde trit med teknologien.
”En af udfordringerne ved ansigtsgenkendelse er deres utroligt hurtige vedtagelse takket være de eksisterende databaser. Vores ansigter blev oplyst meget,”siger hun. "I modsætning til fingeraftryk, som længe har haft regler for dataindsamling, er der stadig ingen regulering for teknologier til ansigtsgenkendelse."
Af Jeff John Roberts
Oversat af: Ekaterina Egina
Redigeret af: Sergey Razumov
