Lightfoots kontor blev blændet af CPD's brug af kontroversiel ansigtsgenkendelsessoftware - og rejste derefter alvorlige bekymringer
Hackede e-mails viser, at byen kun erfarede, at politiet brugte teknologi udviklet af Clearview AI - som står over for flere sager og hævder, at det overtrådte statens biometriske privatlivslov - indtil efter undersøgelser sidste år fra Sun-Times.
Tidligt sidste år startede Chicago Police Department stille og roligt en kontrakt med udvikleren af et kontroversielt ansigtsgenkendelsesværktøj i et åbenbart forsøg på at opklare flere forbrydelser i byen.
Lækkede e-mails viser nu, at arrangementet forblændede borgmester Lori Lightfoots kontor, som tilsyneladende ikke fik kendskab til den toårige kontrakt på $49.875 med Manhattan-baserede Clearview AI, før uger efter den trådte i kraft og dage efter en New York Times udstilling blotlagt appens alarmerende muligheder. Clearview AI's software giver brugerne mulighed for at identificere ukendte personer ved at søge på deres billeder mod en database med milliarder af fotos, der er løftet fra populære websteder og sociale medieplatforme - ofte uden brugernes kendskab eller endda platformene.
Inden den 24. januar 2020, hvornår Lightfoots kontor blev tilsyneladende informeret om kontrakten , stod opstarten allerede over for en retssag anlagt ved en føderal domstol i Chicago, der påstod, at dets software overtræder Illinois' strenge lov om biometrisk beskyttelse. Selvom en polititalsmand oprindeligt sagde, at ansigtsgenkendelsesværktøjer som Clearview AI tilføjer jetbrændstof til afdelingens efterforskningsevner, viser e-mails, at borgmestermedarbejdere senere rejste alvorlige bekymringer om den potentielt ulovlige nye teknologi.
CPD bør yderligere evaluere, om Clearviews forretningspraksis er i overensstemmelse med statslovgivningen, og om denne tjeneste, i lyset af omfattende retssager, pålideligt kan tjene som en del af byens retshåndhævelsesindsats, Dan Lurie, Lightfoots politikchef, skrev i en e-mail i marts sidste år til Susan Lee , den daværende viceborgmester for offentlig sikkerhed.
Midt i stigende juridisk pres og kontrol fra aktivister og lovgivere, afsluttede Clearview AI i sidste ende sin kontrakt med politiafdelingen i maj sidste år, viser optegnelser.
Relaterede
CPD ved hjælp af kontroversielt ansigtsgenkendelsesprogram, der scanner milliarder af fotos fra Facebook, andre websteder
Men fortalere for privatlivets fred er fortsat med at slå alarmer om politiafdelingens brug af ansigtsgenkendelsessoftware og den tilsyneladende mangel på tilsyn. Politiets efterforskere stoler stadig på DataWorks Plus, et andet ansigtsgenkendelsesprogram, som afdelingen har brugt siden 2013.
Det er tydeligt, at de gør dette i hemmelighed [og] det er klart, at ingen ser ud til at have styr på dette, sagde Freddy Martinez, den administrerende direktør for den Chicago-baserede gennemsigtighedsgruppe Lucy Parsons Labs. Så hvor skal bukken stoppe?
Borgmesterkontoret afviste at besvare specifikke spørgsmål, men sendte en erklæring, der sagde, at dens bekymringer om programmet blev behandlet omgående, og at afdelingen ikke længere bruger Clearview AI-teknologi.
Det er vigtigt at bemærke, at departementet bruger anden software til ansigtsmatchning til at matche potentielle mistænktes ansigter med allerede eksisterende mistænkte, sagde borgmesterkontoret. Det betyder, at softwaren kun bruges, når en potentiel mistænkt er blevet identificeret i en forbrydelse, og ikke som et proaktivt værktøj til at opsøge potentielle mistænkte.
Rådhusets hemmelige e-mails : En lejlighedsvis serie af Sun-Times, der beskriver højdepunkterne i tusindvis af hackede e-mails fra Chicagos rådhus
E-mails afsløret efter hack
Martinez sidder også i bestyrelsen for Distributed Denial of Secrets, en whistleblowergruppe i sidste måned udgivet et væld af hackede by-e-mails , herunder meddelelser, der viser, at rådhusets embedsmænd har markeret presserende problemer med Clearview AI efter først at have været i mørke om kontrakten.
Mens Clearview AI-kontrakten først trådte i kraft den 1. januar 2020, viser optegnelser gennemgået af Sun-Times, at indkøbsprocessen strakte sig måneder tilbage.
Et dokument dateret 18. september 2019 viser, at Anthony Riccio, politiafdelingens næstkommanderende på det tidspunkt, godkendte at bruge føderal anti-terror-finansiering til at betale regningen for den nye software . Den 14. november 2019 opnåede kontrakten sin endelige godkendelse.
Dage senere viser e-mails, at byens embedsmænd manglede en grundlæggende forståelse af politiafdelingens ansigtsgenkendelsesfunktioner, da de arbejdede på at svare på en Sun-Times-forespørgsel om DataWorks-kontrakten.
Har du her nogen indsigt i, hvilken type ansigtsbehandlingssoftware byen bruger, hvilke afdelinger der bruger det, hvordan det bruges, hvem der kan få adgang til det osv.? Patrick Mullane, en borgmestertalsmand på det tidspunkt, spurgte medlemmer af Lightfoots politikteam i en e-mail den 20. november 2019.
Jeg har ingen indsigt, hvilket jeg tror er en del af problemet, svarede Lurie.
I sidste ende blev borgmesterkontoret dog ikke informeret om kontrakten med Clearview AI, før Sun-Times spurgte, om politiafdelingen brugte teknologien.
Vi var under indtryk af, at denne kontraktaftale med Dataworks var den eneste teknologiske software, afdelingen havde, skrev Mullane til en gruppe ansatte i byen den 24. januar 2020. Tidligere i dag informerede CPD mig om, at de startede en kontrakt den 1. januar. , 2020 ... mellem Chicago Police Department og Clearview AI Technology, som bruger teknologi til ansigtsmatchning til at sortere gennem offentlige billeder fra sociale mediesider – inklusive Facebook, YouTube, Twitter og Venmo – og andre steder på internettet.
Denne teknologi har fået meget dækning for nylig på grund af dens bekymringer om privatlivets fred, erkendte Mullane, der linker til New York Times-historien offentliggjort fem dage tidligere.
På trods af afsløringen tilbød Lightfoot senere et trodsigt svar på en række spørgsmål fra Sun-Times.
CPD bruger ikke ansigtsgenkendelsessoftware, skrev Lightfoot i en e-mail til Lee og andre medarbejdere den følgende dag.
I stedet udarbejdede hendes personale en erklæring, der hævdede, at afdelingen brugte ansigtsmatchningsteknologi. Forskellen var tvivlsom i betragtning af det faktum, at politiafdelingen havde en udpeget ansigtsgenkendelsesenhed, og både DataWorks og Clearview AI markedsfører deres produkter som ansigtsgenkendelsesværktøjer.
Illinois' privatlivslov er blandt de hårdeste
Den Jan. 29, 2020, Sun-Times rapporterede først om politiafdelingens aftale med Clearview AI - blot en uge efter, at teknologifirmaet blev sagsøgt ved en føderal domstol for angiveligt at have overtrådt Illinois' Biometric Information Privacy Act. Lovgivningen, som anses for at være en af landets skrappeste privatlivslove, beskytter nuværende og tidligere beboeres ansigts- og fingeraftryksidentifikatorer mod at blive brugt uden samtykke.
Clearview AI står nu over for adskillige juridiske udfordringer i Illinois, der kan vise sig at være katastrofale for virksomhedens forretning, herunder en sag anlagt i Cook County i maj sidste år af American Civil Liberties Union, der anklager virksomheden for at overtræde statens biometriske lov.
Ed Yohnka, en talsmand for Illinois-afdelingen af ACLU, kritiserede politiafdelingen for i hemmelighed at tilføje teknologier som Clearview AI til sit kriminalitetsbekæmpende arsenal.
Jeg synes, det giver anledning til bekymring, at de mest kraftfulde værktøjer i forhold til at invadere vores personlige privatliv stort set er uregulerede og udebatterede, fordi det er gjort privat, sagde Yohnka.
Den 4. februar 2020 opfordrede Lucy Parsons Labs, den lokale ACLU og mere end 70 andre grupper Lightfoot til direkte at forbyde brugen af ansigtsgenkendelse i et brev, som gruppen afleverede til rådhuset. I et tilsyneladende svar forpligtede Lightfoots kontor sig til at gennemføre en gennemgang af politiafdelingens brug af Clearview AI.
Den 10. marts 2020 sendte Lurie, Lightfoots politikchef, et notat, der skitserede politikteamets bekymringer med Clearview AI-appen, hvoraf nogle tidligere var udtrykt i brevet, der blev leveret til borgmesteren.
I notatet pegede Lurie på de potentielle overtrædelser af statens biometriske beskyttelseslov og virksomhedens juridiske eksponering og bemærkede, at fejlrater i ansigtsgenkendelsessøgninger er langt højere for ikke-hvide, ikke-mandlige ansigter. Han klagede også over, at byens ansigtsgenkendelsespolitik mangler tilstrækkelige detaljer.
Ansigtssammenligningspolitikken siger, at CPD 'vil vedtage og følge procedurer og praksis, hvorved den kan sikre og evaluere brugernes overensstemmelse med kravene til ansigtssammenligningssystem,' skrev Lurie til Lee og kopierede andre medarbejdere. Men disse 'procedurer og praksis' er ikke defineret [og] er kernen i ethvert meningsfuldt ansvarlighedssystem.
Det samme sprog afspejles ikke kun i politiafdelingens offentligt tilgængelig politik om ansigtsgenkendelse , som blev udstedt i 2013. En polititalsmand reagerede ikke på en anmodning om kommentarer til afdelingens nuværende politik.
På trods af litanien af røde flag, trak byen faktisk ikke stikket på sin kontrakt med Clearview AI. I stedet sendte virksomheden et brev til politiafdelingen den 30. april 2020, der afsluttede arrangementet uden forklaring og inkluderede en tilbagebetalingscheck på 33.184,93 USD.
Dage senere, før nyheden blev offentliggjort, malede politifolk et andet billede efter Buzzfeed News rapporterede, at Clearview AI annullerede sine kontrakter med Illinois-baserede enheder, som i en periode omfattede udenrigsministerens kontor og Chicago Cubs. Selvom politiafdelingen ikke kommenterede i den historie, skrev talsmand Howard Ludwig til Mullane, at løjtnant Patrick Quinn anbefalede at sige, at CPD prøvede Clearviews produkt som en del af et [prøve]forløb og besluttede at gå i en anden retning.
Han ville understrege, at beslutningen var gensidigt indforstået, Ludwig skrev i e-mailen den 8. maj 2020 .
Kunhavigi: