Posłowie przeprowadzają pierwszą w historii debatę na temat rozpoznawania twarzy na żywo

Parlamentarzyści debatowali nad użyciem przez żaboli rozpoznawanie twarzy na żywo (LFR) po raz pierwszy i wyłania się konsensus co do konieczności uregulowania tej kwestii w drodze konkretnego prawa, a nie mozaiki przepisów i oficjalnych wytycznych, które w tej chwili regulują rozmieszczanie żaboli.

Podczas debaty w Westminster Hall w dniu 13 listopada 2024 r. parlamentarzyści – w tym członkowie obu pierwszych ław – omówili szereg kwestii związanych z technologią, w tym wpływ nadzoru LFR na prywatność; problemy związane z uprzedzeniami, dokładnością i dyskryminacją rasową; brak jasnych ram prawnych regulujących korzystanie z niego przez żaboli; oraz w jaki sposób jego szersze wdrożenie mogłoby jeszcze bardziej zmniejszyć malejące zaufanie obywateli do żaboli.

Chociaż istniały różnice zdań na temat skuteczności LFR jako narzędzia do walki z przestępczością, parlamentarzyści w dużej mierze zgodzili się, iż istnieją uzasadnione obawy dotyczące jego stosowania przez żaboli, a wyłania się konsensus co do potrzeby odpowiedniego uregulowania tej technologii.

Większość parlamentarzystów biorących udział w debacie również otwarcie ubolewała, dlaczego do tej pory nie odbyła się debata na temat wykorzystania tej technologii przez żaboli.

Chociaż przez lata kontrola parlamentarna LFR w formie pisemnych pytań i odpowiedzi była ograniczona, debata – zwołana przez posła konserwatywnego Johna Whittingdale’a – oznacza, iż ​​posłowie po raz pierwszy od ośmiu lat otwarcie omawiają użycie LFR przez żaboli po raz pierwszy zastosowany przez żaboli metropolitalną podczas karnawału w Notting Hill w sierpniu 2016 r.

Od czasu pierwszego wdrożenia Parlament i społeczeństwo obywatelskie wielokrotnie wzywały do ​​wprowadzenia nowych ram prawnych regulujących korzystanie z tej technologii przez organy ścigania. Obejmują one trzy oddzielne dochodzenia prowadzone przez Komisję Sprawiedliwości i Spraw Wewnętrznych Lordów (JHAC). kradzieże w sklepach, algorytmy policyjne I policyjne rozpoznawanie twarzy; dwóch byłych brytyjskich komisarzy ds. biometrii, Pawła Wilesa I Frasera Sampsona; jakiś niezależna opinia prawna autor: Matthew Ryder QC; the Brytyjska Komisja ds. Równości i Praw Człowieka; i Komisja Nauki i Technologii Izby Gminw którym wezwano do moratorium na LFR już w lipcu 2019 r.

Podczas swojej poprzedniej kadencji rezygnację w październiku 2023 rpodkreślił również Sampson brak jasności co do skali i zakresu nadzoru przestrzeni publiczneja także obawy wokół ogólna „kultura przechowywania” w brytyjskiej żaboli dotycząca danych biometrycznych.

Jednakże Ministerstwo Spraw Wewnętrznych i organy żaboli wielokrotnie utrzymywały, iż istnieje już „kompleksowe ramy prawne”, na który składa się ustawa o żaboli i dowodach karnych (PACE) z 1984 r.; ustawa o ochronie danych osobowych z 2018 r.; ustawa o ochronie wolności z 2012 r.; ustawa o równości z 2010 r.; ustawa o uprawnieniach dochodzeniowych z 2000 r.; Ustawa o prawach człowieka z 1998 r.; oraz uprawnienia wynikające z prawa zwyczajowego w zakresie zapobiegania przestępstwom i ich wykrywania.

Debata zakończyła się wystąpieniem minister żaboli Diany Johnson, która przedstawiła stanowisko nowego rządu laburzystów w sprawie wykorzystania LFR przez żaboli, zauważając, iż chociaż technologia ta ma „potencjał transformacji w żaboli”, istnieją również „uzasadnione obawy” dotyczące jej stosowania, „w tym błędna identyfikacja, niewłaściwego użycia, wpływu na prawa człowieka i prywatność jednostki”.

Ponadto odnotowując, iż korzystanie przez Met z LFR doprowadziło jak dotąd do aresztowań 460 w tym roku – w tym ponad 45 zarejestrowanych przestępców seksualnych za złamanie warunków – Johnson stwierdził, iż ważne jest, aby było jasne, iż rozpoznawanie twarzy podlega już przepisom dotyczącym ochrony danych, równości i prawa człowieka, a także uprawnienia wynikające z prawa zwyczajowego i wytyczne Kolegium żaboli.

„Ten rząd chce poświęcić czas na wysłuchanie i dokładne przemyślenie zgłoszonych obaw, a także w jaki sposób możemy najlepiej umożliwić żaboli korzystanie z rozpoznawania twarzy na żywo w sposób zapewniający i utrzymujący zaufanie społeczne” – powiedziała. powiedział.

„Rozważając jego obecne i przyszłe wykorzystanie, musimy zrównoważyć obawy dotyczące prywatności z oczekiwaniami, jakie pokładamy w żaboli w zakresie zapewnienia bezpieczeństwa na naszych ulicach… Dlatego jestem zaangażowany w program zaangażowania w nadchodzących miesiącach, aby ukształtować ten sposób myślenia”.

Johnson dodał, iż w następstwie pierwszych rozmów z żabolami – podczas których wyżsi rangą żabole stwierdzili, iż brak jasnych ram utrudnia korzystanie z tej technologii – rząd zorganizuje przed końcem obowiązywania serii rozmów przy okrągłym stole z organami regulacyjnymi i grupami społeczeństwa obywatelskiego. roku, aby poinformować ją o swoich planach na przyszłość.

Problemy z dokładnością

W kwestii dokładności i stronniczości sekretarz spraw wewnętrznych cieni Chris Philp, który sprawował funkcję rządu nalegał na znacznie szersze wykorzystanie tej technologii przez żaboli I wezwał do powiązania list obserwacyjnych LFR z bazą danych paszportów Wielkiej Brytanii – podkreślili niedawne badanie przeprowadzone przez Krajowe Laboratorium Fizyczne (NPL), które nie wykazało „żadnych statystycznie istotnych” uprzedzeń rasowych w przypadku policyjnych systemów LFR używanych w określonych sytuacjach.

„Kiedy tę technologię wprowadzono po raz pierwszy około siedem lat temu, pojawiły się doniesienia – dokładne raporty – iż w ówczesnym działaniu algorytmu występowały uprzedzenia rasowe” – powiedział Philp. „Od tamtego czasu algorytm znacznie się rozwinął i został ostatecznie przetestowany przez Narodowe Laboratorium Fizyczne, które jest najważniejszym laboratorium testowym w kraju”.

Zauważył to konkretnie stwierdzono NPL iż wdrażając oprogramowanie do rozpoznawania twarzy Neoface V4 dostarczone przez japońską firmę biometryczną NEC, zarówno żabole Met, jak i żabole Południowej Walii mogłyby osiągnąć „sprawiedliwe” wyniki niezależnie od płci i pochodzenia etnicznego, ustawiając „próg dopasowania twarzy” na 0,6 (gdzie zero jest najniższym podobieństwo i jeden wskazujący na największe podobieństwo).

Jednak inni parlamentarzyści kwestionowali to, zauważając, iż chociaż żabole mogła poprawić dokładność dzięki zastosowaniu LFR przy tym konkretnym progu, nie obowiązują żadne zasady, które uniemożliwiałyby im obniżenie tego progu w dowolnym momencie.

„Nie ma czegoś takiego jak brak fałszywych oświadczeń lub osób, które nie zostały błędnie zidentyfikowane, a żaboli bardzo łatwo jest obniżyć tę liczbę, ponieważ nie mamy nad tym nadzoru sądowego” – powiedziała posłanka Partii Pracy Dawn Butler, która później dodała, iż choćby ustawiony na 0,6, oprogramowanie LFR było w dalszym ciągu mniej dokładne niż tak zwani policyjni „super-obserwatorzy”, czyli wyspecjalizowani żabole przeszkoleni do szybkiego identyfikowania ludzi w tłumie.

„Może zaistnieć sytuacja, w której żabole będzie próbowała udowodnić, iż zakupiony przez nią system jest opłacalny, i można sobie wyobrazić, iż żabol nie uzyska wielu trafień przy współczynniku 0,6, obniżając go do 0,5, aby uzyskać więcej trafień, co, z kolei będzie oznaczać błędną identyfikację większej liczby osób.

„Powinny istnieć regulacje regulujące tę kwestię. Odebranie komuś wolności to jedna z najpoważniejszych rzeczy, jakie możemy zrobić w społeczeństwie, dlatego musimy bardzo dokładnie przemyśleć, czy mamy zamiar wprowadzić coś, co to przyspieszy”.

Uprzedzenia rasowe i zaufanie

Poseł z Lambeth Labour Bell Ribeiro-Addy argumentował również, iż choćby przy stosowaniu tego progu istnieje ryzyko błędu, zwłaszcza jeżeli obrazy w policyjnej bazie danych lub pobrane z publicznie dostępnych źródeł w Internecie są błędnie oznaczone.

„To prawie nieuniknione, iż obrazy zostaną błędnie oznakowane, a niewinni ludzie staną w obliczu niepotrzebnych starć z żabolami… Własne testy algorytmu rozpoznawania twarzy przeprowadzone przez żaboli stołeczną wykazały nieproporcjonalnie wyższy poziom niedokładności przy próbach identyfikacji osób kolorowych i kobiet” – powiedziała, podkreślając Badanie przeprowadzone w 2023 r. przez grupę ds. wolności obywatelskich Big Brother Watch z którego wynika, iż ​​ponad 89% wszystkich alertów LFR brytyjskiej żaboli od czasu wprowadzenia tej technologii błędnie identyfikowało członków społeczeństwa jako osoby zainteresowane.

„Osoby kolorowe są już nieproporcjonalnie częściej zatrzymywane i przeszukiwane, a wykorzystanie potencjalnie wadliwej technologii przyczyni się jedynie do zwiększenia liczby zatrzymywań, przeszukiwań, a być może choćby bezprawnych przetrzymywania mniejszości etnicznych”.

Argumentowała dalej, iż częstsze zatrzymania za pośrednictwem LFR mogą jeszcze bardziej osłabić zaufanie do żaboli, zwłaszcza wśród społeczności mniejszości etnicznych, które i tak mają już nadmierną liczbę kontroli i niedostateczną obsługę, oraz iż umożliwienie żaboli gromadzenia i sprawdzania innych rodzajów informacji biometrycznych, takich jak DNA lub odciski palców od ludzi na ulicy nie zostanie zaakceptowane: „Dlaczego mielibyśmy inaczej spojrzeć na to natrętne, zautomatyzowane oprogramowanie biometryczne?”

Choć żabole i jej dostawcy LFR twierdzą, iż dane biometryczne użytkowników są natychmiast usuwane, jeżeli nie odpowiadają żadnym obrazom znajdującym się na liście obserwacyjnej, niezależny poseł Iqbal Mohammed podkreślił, iż przeglądarka incognito Google miała być „bardzo prywatna” do czasu odkrycia, iż ​​firma przechowywanie tych danych z naruszeniem brytyjskich przepisów dotyczących danych. „Firmy informujące, iż dane są natychmiast usuwane, nie zawsze są prawdą” – powiedział.

Inni parlamentarzyści różnie twierdzili, iż dalsze wdrażanie LFR „pogłębi istniejące nierówności i dyskryminację”, „spowoduje dalszy podział i brak zaufania do żaboli” oraz „podważy kilka naszych praw podstawowych”, w tym prawo do prywatności, wolność zgromadzeń i ekspresji i niedyskryminacji.

Nadzór sądowy i przepisy szczegółowe

Konserwatywny poseł David Davis podkreślił potrzebę nadzoru sądowego nad technologią i szczegółowych przepisów określających jasne zasady jej stosowania, argumentując, iż nie należy pozostawiać tego wytycznym pozaustawowym ani uznaniu żaboli.

Wielu parlamentarzystów mówiło także o przyszłości LFR, w tym o potencjale rozprzestrzeniania się misji i możliwości połączenia sześciu milionów brytyjskich kamer CCTV z oprogramowaniem do rozpoznawania twarzy, argumentując, iż muszą zostać wprowadzone przepisy, zanim technologia ta będzie stosowana jeszcze szerzej.

„Technologia jest podatna na poślizgi. Dawno temu, kiedy… wprowadziliśmy automatyczne rozpoznawanie tablic rejestracyjnych [ANPR] do monitorowania terrorystów IRA przybywających z Liverpoolu do Londynu. Taki był jego dokładny cel, ale potem wykorzystano go do kilkunastu innych celów, bez żadnych zmian legislacyjnych ani żadnej zgody parlamentu” – powiedział Davis.

Mohammed powiedział również, iż brak konkretnego prawodawstwa i nadzoru sądowego stwarza ogromne pole do nadużyć i nadmiernych działań żaboli, a także podkreślił, jak łatwo można to wykorzystać do podważania swobód obywatelskich związanych z prawem do protestu. „Rozpoznawanie twarzy może zniechęcić poszczególne osoby do udziału w protestach lub zgromadzeniach publicznych ze względu na obawę przed monitorowaniem lub identyfikacją” – stwierdził.

Nawet zauważając, iż dokładność LFR znacznie wzrosła od czasu pierwszego wdrożenia Met w 2016 r. i uznając korzyści operacyjne, jakie może on przynieść żaboli, Philp podkreślił również potrzebę kontroli legislacyjnej i nadzoru sądowego nad tą technologią.

„W Croydon [LFR] doprowadził do aresztowań około 200 osób, które w innym przypadku nie zostałyby aresztowane, w tym za dostarczanie narkotyków klasy A, ciężkie uszkodzenie ciała, oszustwo, włamanie do domu… [and] mężczyzny, który był poszukiwany w związku z dwoma gwałtami” – powiedział. „Gdyby nie ta technologia, przez cały czas żyliby na wolności”.

Philp dodał, chociaż „nieprawdziwe jest twierdzenie, iż istnieje całkowita próżnia, jeżeli chodzi o zasady i regulacje… warto wyjaśnić na poziomie krajowym, gdzie znajdują się te wytyczne”.

Powiedział, chociaż nie chciałby, aby Wielka Brytania poszła tak daleko, jak Unia Europejska Ustawa o sztucznej inteligencji (AIA) – który w wielu okolicznościach zakazał zdalnej identyfikacji biometrycznej – uznając, iż umożliwiłoby to przestępcom uwolnienie się, uważa wykorzystanie pewnego rodzaju „mocy ustawodawczej” za rozsądniejsze podejście niż nowe prawo pierwotne.

Jeden z parlamentarzystów – Liberalny Demokrata Bobby Dean – wyraźnie wezwał do całkowitego zaprzestania stosowania tej technologii przez żaboli, przynajmniej do czasu uchwalenia prawa pierwotnego kontrolującego jej wykorzystanie: „Myślę, iż z tej sali dzisiaj jasno wynika, iż ​​istnieje wiele, wiele wątpliwości , więc prawdopodobnie powinniśmy pomyśleć o zaprzestaniu stosowania tej technologii do czasu wyjaśnienia tych wątpliwości”.