Kancelář Lightfoot byla zaslepena používáním kontroverzního softwaru pro rozpoznávání obličejů CPD – pak vyvolalo vážné obavy
Napadené e-maily ukazují, že se městská policie teprve dozvěděla, že používá technologii vyvinutou Clearview AI – která čelí několika žalobám prohlašujícím, že porušila státní zákon o ochraně soukromí v oblasti biometrie – až do loňského šetření Sun-Times.
Počátkem minulého roku chicagská policie v tichosti uzavřela smlouvu s vývojářem kontroverzního nástroje pro rozpoznávání obličeje ve zjevné snaze vyřešit více zločinů ve městě.
Uniklé e-maily nyní ukazují uspořádání zaslepené kanceláři starostky Lori Lightfootové, která se o dvouleté smlouvě s Clearview AI se sídlem na Manhattanu na 49 875 dolarů dozvěděla až několik týdnů poté, co vstoupila v platnost, a několik dní po uzavření smlouvy. Expozice New York Times odhalil alarmující schopnosti aplikace. Software Clearview AI umožňuje uživatelům identifikovat neznámé lidi vyhledáváním jejich obrázků v databázi miliard fotografií získaných z populárních webových stránek a platforem sociálních médií – často bez vědomí uživatelů nebo dokonce platforem.
Do 24. ledna 2020, kdy Kancelář Lightfoot byla zjevně informována o smlouvě Startup již čelil žalobě u federálního soudu v Chicagu, která tvrdila, že jeho software porušuje přísný zákon o biometrické ochraně Illinois. Ačkoli policejní mluvčí původně uvedl, že nástroje pro rozpoznávání obličejů, jako je Clearview AI, přidávají letecké palivo k vyšetřovacím schopnostem oddělení, e-maily ukazují, že zaměstnanci starosty později vyvolali vážné obavy z potenciálně nelegální nové technologie.
Společnost CPD by měla dále vyhodnotit, zda jsou obchodní praktiky společnosti Clearview v souladu se státním právem a zda může tato služba tváří v tvář vážným soudním sporům spolehlivě sloužit jako součást úsilí města o vymáhání práva, Dan Lurie, hlavní politik společnosti Lightfoot, napsal v e-mailu loni v březnu Susan Lee , tehdejšího náměstka primátora veřejné bezpečnosti.
Uprostřed rostoucího právního tlaku a kontroly ze strany aktivistů a zákonodárců společnost Clearview AI nakonec loni v květnu ukončila smlouvu s policejním oddělením, ukazují záznamy.
Příbuzný
CPD pomocí kontroverzního programu pro rozpoznávání obličeje, který skenuje miliardy fotografií z Facebooku a dalších webů
Zastánci soukromí však nadále znepokojovali používání softwaru pro rozpoznávání obličejů policejním oddělením a zjevný nedostatek dohledu. Policejní vyšetřovatelé stále spoléhají na DataWorks Plus, další program pro rozpoznávání obličeje, který oddělení používá od roku 2013.
Je jasné, že to dělají tajně [a] je jasné, že to zřejmě nikdo nezvládá, řekl Freddy Martinez, výkonný ředitel chicagské skupiny pro transparentnost Lucy Parsons Labs. Kde by se tedy peníze měly zastavit?
Kancelář starosty odmítla odpovědět na konkrétní otázky, ale zaslala prohlášení, že její obavy z programu byly okamžitě vyřešeny a ministerstvo již nepoužívá technologii Clearview AI.
Je důležité poznamenat, že ministerstvo používá jiný software pro porovnávání obličejů, aby porovnal tváře potenciálních podezřelých s již existujícími podezřelými, uvedla kancelář starosty. To znamená, že software se používá pouze v případě, že byl identifikován potenciální podezřelý ze spáchání trestného činu, a nikoli jako proaktivní nástroj při vyhledávání potenciálních podezřelých.
Tajné e-maily radnice : Příležitostná série Sun-Times s podrobnostmi o nejdůležitějších událostech tisíců napadených e-mailů z chicagské radnice
E-maily odhalené po hacku
Martinez také sedí v představenstvu Distributed Denial of Secrets, skupiny informátorů, která minulý měsíc zveřejnil řadu hacknutých městských e-mailů , včetně zpráv ukazujících, že úředníci radnice označili naléhavé problémy s Clearview AI poté, co byli původně ponecháni v temnotě ohledně smlouvy.
I když smlouva Clearview AI vstoupila v platnost až 1. ledna 2020, záznamy zkontrolované deníkem Sun-Times ukazují, že proces zadávání zakázek trval několik měsíců.
Dokument z 18. září 2019 ukazuje, že Anthony Riccio, v té době zástupce policejního oddělení, schválil použití federálního financování boje proti terorismu na úhradu účtu za nový software. . Dne 14. listopadu 2019 byla smlouva definitivně schválena.
O několik dní později e-maily ukazují, že představitelé města postrádali základní znalosti o schopnostech policejního oddělení rozpoznávat obličeje, když pracovali na odpovědi na dotaz Sun-Times ohledně smlouvy DataWorks.
Máte zde nějaký přehled o tom, jaký typ softwaru pro rozpoznávání obličeje město používá, jaká oddělení jej používají, jak se používá, kdo k němu má přístup atd.? Patrick Mullane, tehdejší mluvčí starosty, zeptali se členové týmu pro politiku Lightfoot v e-mailu z 20. listopadu 2019.
Nemám žádné poznatky, což je podle mě součástí problému, odpověděl Lurie.
Nakonec však kancelář starosty nebyla informována o smlouvě s Clearview AI, dokud se Sun-Times nezeptal, zda policejní oddělení používá technologii.
Měli jsme dojem, že tato smluvní dohoda s Dataworks je jediný technický software, který ministerstvo mělo, napsal Mullane skupině zaměstnanců města 24. ledna 2020. Dnes mě CPD informovalo, že smlouvu zahájili 1. ledna , 2020 ... mezi chicagským policejním oddělením a Clearview AI Technology, která využívá technologii facematchingu k třídění veřejných fotografií ze stránek sociálních médií – včetně Facebooku, YouTube, Twitteru a Venmo – a jinde na internetu.
Tato technologie získala v poslední době velké pokrytí kvůli svým obavám o soukromí, uznal Mullane s odkazem na příběh New York Times zveřejněný o pět dní dříve.
Navzdory odhalení nabídl Lightfoot později vzdornou odpověď na sérii otázek od Sun-Times.
CPD nepoužívá software pro rozpoznávání obličeje, napsal Lightfoot v e-mailu Lee a dalším zaměstnancům následující den.
Místo toho její zaměstnanci připravili prohlášení, v němž tvrdili, že oddělení používá technologii lícování obličeje. Rozlišení bylo pochybné, vzhledem k tomu, že policejní oddělení mělo určenou jednotku pro rozpoznávání obličejů a jak DataWorks, tak Clearview AI prodávají své produkty jako nástroje pro rozpoznávání obličeje.
Illinoisské právo na ochranu soukromí patří mezi nejpřísnější
V lednu 29, 2020, Sun-Times poprvé informovaly o dohodě policejního oddělení s Clearview AI — pouhý týden poté, co byla technologická firma žalována u federálního soudu za údajné porušení zákona Illinois o ochraně osobních údajů v biometrických informacích. Legislativa, která je považována za jeden z nejpřísnějších zákonů na ochranu soukromí v zemi, chrání identifikátory obličeje a otisků prstů současných i bývalých obyvatel před použitím bez souhlasu.
Clearview AI nyní čelí v Illinois mnoha právním výzvám, které by se mohly ukázat jako katastrofální pro podnikání společnosti, včetně žaloby podané v Cook County loni v květnu organizací American Civil Liberties Union, která společnost obviňuje z porušení biometrického zákona státu.
Ed Yohnka, mluvčí illinoiské pobočky ACLU, kritizoval policejní oddělení za tajné přidávání technologií jako Clearview AI do svého arzenálu pro boj se zločinem.
Myslím, že je znepokojivé, že nejmocnější nástroje, pokud jde o narušení našeho soukromí, jsou z velké části neregulované a nediskutované, protože se to děje v soukromí, řekl Yohnka.
Dne 4. února 2020 Lucy Parsons Labs, místní ACLU a více než 70 dalších skupin vyzvaly Lightfoot, aby přímo zakázal používání rozpoznávání obličeje v dopise, který skupina doručila na radnici. Ve zjevné reakci se kancelář Lightfoot zavázala provést přezkum používání Clearview AI policejním oddělením.
Dne 10. března 2020 Lurie, šéf pro politiku společnosti Lightfoot, zaslal zprávu, ve které nastínil obavy týmu pro politiku v souvislosti s aplikací Clearview AI, z nichž některé byly dříve vyjádřeny v dopise doručeném starostovi.
V memorandu Lurie poukázal na potenciální porušování státního zákona o biometrické ochraně a na právní odhalení společnosti a poznamenal, že chybovost při vyhledávání pomocí rozpoznávání obličeje je mnohem vyšší u nebílých, nemužských tváří. Stěžoval si také, že městská politika rozpoznávání obličeje postrádá dostatečné podrobnosti.
Zásady porovnávání tváří uvádí, že CPD ‚přijme a bude dodržovat postupy a praktiky, pomocí nichž bude moci zajistit a vyhodnotit shodu uživatelů s požadavky na systém porovnávání tváří,‘ napsal Lurie Lee a kopíroval ostatní zaměstnance. Ale tyto „postupy a praktiky“ nejsou definovány [a] jsou jádrem jakéhokoli smysluplného systému odpovědnosti.
Stejný jazyk se neodráží pouze na policejním oddělení veřejně dostupné zásady pro rozpoznávání obličeje , který byl vydán v roce 2013. Policejní mluvčí nereagoval na žádost o vyjádření k současné politice útvaru.
Navzdory litanii červených vlajek město ve skutečnosti neuzavřelo smlouvu s Clearview AI. Místo toho společnost 30. dubna 2020 odeslala dopis policejnímu oddělení, čímž byla dohoda ukončena bez vysvětlení a včetně šeku na vrácení peněz na 33 184,93 USD.
O několik dní později, než byly zprávy zveřejněny, policejní úředníci nakreslili jiný obrázek Buzzfeed News uvedl, že Clearview AI ruší své smlouvy se subjekty se sídlem v Illinois, mezi které po určitou dobu patřila kancelář ministra zahraničí a Chicago Cubs. Ačkoli policejní oddělení tento příběh nekomentovalo, mluvčí Howard Ludwig napsal Mullaneovi, že poručík Patrick Quinn doporučil říci, že CPD vyzkoušela produkt Clearview jako součást [zkušebního] běhu a rozhodla se jít jiným směrem.
Chtěl zdůraznit, že rozhodnutí bylo oboustranně přijatelné, Ludwigu napsal v e-mailu 8. května 2020 .
Ranna ’: