09/09/2016

Ciemna strona technologii rozpoznawania twarzy

Porady

Możesz zmienić swoje imię lub pseudonim, usunąć lub edytować konta w serwisach społecznościowych, ale twarz zawsze będziesz mieć taką samą. Rozpoznawanie twarzy pomaga nam rozwiązać wiele problemów — i równocześnie przysparza mnóstwo nowych. Dzisiaj omówię zagrożenia, które wynikają z popularności tych systemów na całym świecie.

bad-facial-recognition-featured
  1. Utrata prawa do prywatności — na skalę światową

FBI oficjalnie utrzymuje system NGI (ang. Next Generation Identification) — bazę danych zawierającą zdjęcia ludzi oskarżonych lub skazanych w postępowaniu cywilnym lub karnym. Co w tym złego?

Otóż w maju amerykańskie Biuro Kontroli Rządu przeprowadziło audyt Federalnego Biura Śledczego. Okazało się, że w jego bazie danych znajdowało się 412 milionów zdjęć, w tym osób, które nigdy nie były podmiotem żadnego śledztwa. FBI posiada nawet odrębną jednostkę, która zajmuje się przetwarzaniem danych związanych z twarzami (Facial Analysis, Comparison and Evaluation, FACE).

Badanie ujawniło, że przedstawiciele FBI w uzgodnieniu z kilkoma stanami uzyskali dostęp do zdjęć umieszczonych na dokumentach uprawniających do jazdy oraz dołączonych do aplikacji paszportowych i wizowych, jak również zdjęć osób podejrzanych i skazanych za popełnienie przestępstwa. W bazie danych znajdowały się również zdjęcia cudzoziemców — potencjalnie około 100 milionów osób.

FBI intensywnie wykorzystuje rozpoznawanie twarzy podczas przeprowadzania śledztw. Na pewno podejście takie się opłaca. Lecz tutaj sytuacja jest o wiele bardziej skomplikowana; technologia rozpoznawania twarzy jest jeszcze młoda i niedoskonała, a system FBI nie jest wyjątkiem: wykazuje uprzedzenia rasowe, a jego dokładność plasuje się na poziomie 80%-85%. Tymczasem FBI celowo ukryło informację, na jaką skalę używa rozpoznawania twarzy, wbrew wymogom Oceny wpływu na prywatność.

Warto dodać, że Rada miasta Moskwy i rosyjskie organy ścigania nieustannie rozwijają odpowiednie rozwiązania i przygotowują się na wdrożenie technologii FaceN (twórcy tego systemu są także autorami kodu do FindFace — usługi, która pomaga ludziom wyszukiwać innych na podstawie ich zdjęć). Te nowe systemy będą połączone z setkami tysięcy kamer monitoringu w Moskwie.

Według raportu rosyjskiego serwisu Meduza w żadnym mieście na świecie nie istnieje analogiczny system. Algorytm potrafi porównywać ludzi znajdujących się na ulicy z bazą danych przestępców, ale to nie wszystko. Może także wykrywać poszczególne osoby w dowolnej części miasta i znajdować ich konta w sieciach społecznościowych, które zazwyczaj zawierają wiele informacji osobistych.

Należy także wspomnieć tutaj, że na początku tego roku rosyjski Senat zmusił rosyjskie sądy do traktowania zdjęć i filmów jako dowody prawne. Wcześniej decyzja o tym należała do sądu.

  1. Nadużycia ze strony organów ścigania

Rozpoznawanie twarzy nie jest nieomylne. Wiadomo, że ludzie, którzy mają z nimi do czynienia, czasami ich nadużywają. Na przykład w sierpniu gazeta New York Times poinformowała, że policja w San Diego gromadziła zdjęcia osób winnych i niewinnych bez ich zgody.

27-letni Afroamerykanin Aaron Harvey żyjący w San Diego oskarżył policję o traktowanie z uprzedzeniem. Harvey mieszka na terenie, w którym wskaźnik przemocy jest jednym z najwyższych. Prawdopodobnie dlatego policja zatrzymywała go ponad 50 razy, podejrzewając go o członkostwo w gangu. Gdy nie zgodził się na to, aby oficer zrobił mu zdjęcie, usłyszał, że jego wola nie ma tu nic do rzeczy.

W 2013 roku system rozpoznawania twarzy testowały także władze Bostonu. Był on połączony z kamerami monitoringu, które potajemnie skanowały twarze ludzi podczas koncertów i innych imprez plenerowych. Pod koniec okresu testowania projekt został porzucony ze względów etycznych. Lecz Boston to tylko kropla w morzu, bo praktyka ta jest stosowana na całym świecie: systemy rozpoznawania twarzy są już często wykorzystywane przez agencje rządowe.

  1. Korporacje, które szpiegują wszystkich

Organizacje posiadają bazy twarzy, które są znacznie większe niż kolekcja FBI. Na szczycie listy znajdują się sieci społecznościowe: Facebook, Instagram (należący do Facebooka), Google (ze swoim Google+), nk.pl i wiele innych stron społecznościowych. Większość tych firm posiada własne rozwiązania rozpoznawania twarzy, które są nieustannie rozwijane i ulepszane.

Obecnie firma Microsoft pracuje nad podobną technologią dla aplikacji FamilyNotes, która umożliwi oprogramowaniu rozróżnianie użytkowników przy użyciu kamery wbudowanej w laptopa lub tablet. Microsoft rozwija jeden z najpopularniejszych systemów operacyjnych na świecie, a aplikacja ta odczuwalnie uzupełni firmową bazę twarzy.

System rozpoznawania twarzy Facebooka należy do najdokładniejszych na świecie. Firma po cichu uruchomiła to narzędzie w roku 2012, włączając je domyślnie dla większości użytkowników. Później musiała zmierzyć się z dziesiątkami pozwów — a liczba ta wciąż wzrasta; z kolei Google także ma sprawy w sądzie za podobne działania. W wyniku tej sytuacji Facebook musiał wyłączyć funkcję rozpoznawania twarzy w niektórych regionach.

W tym miejscu muszę stwierdzić, że Facebook ma do tej kwestii podejście jednostronne: na przykład w jego bazie wiedzy nie ma artykułów na temat tego, jak wyłączyć funkcję rozpoznawania twarzy — i nie jest to działanie wymagające jednego kliknięcia.

Nawet jeśli nie korzystasz z żadnej sieci społecznościowej (lub jeśli nie umieszczasz w nich swoich prawdziwych zdjęć), Twoja twarz może i tak znajdować się w bazie danych mediów społecznościowych. W zeszłym roku obywatel Chicago pozwał usługę fotoksiążki Shutterfly, ponieważ dodała ona do swojej bazy danych jego zdjęcie bez jego wiedzy. Ktoś (prawdopodobnie znajomy) wysłał i podpisał jego zdjęcie do serwisu Shutterfly.

  1. Każdy może Cię znaleźć

System rozpoznawania twarzy, który jest dostępny dla każdego, może zostać użyty do samosądu lub egzekwowania sprawiedliwości. Na przykład w tym roku dwóch młodych mężczyzn podpaliło lobby budynku w Petersburgu. Na koniec piromaniacy zdemolowali winę w tym samym budynku. Zabawę tej dwójki osób zarejestrowały kamery umieszczone w windzie oraz w jej pobliżu.

Gdy lokalna policja odmówiła otwarcia sprawy karnej, lokatorzy domu wzięli sprawę w swoje ręce: uzyskali zdjęcia twarzy oszustów i użyli programu FindFace, aby znaleźć ich w sieciach społecznościowych.

Detektywi amatorzy poinformowali o swoich odkryciach policję, w wyniku czego młodym mężczyznom postawiono odpowiednie zarzuty. W raporcie rosyjskiej telewizji Ren jeden z lokatorów powiedział, że mieli wystarczająco dużo danych i dowodów, aby wysłać wiadomość do znajomych chuliganów, a także poinformować o incydencie ich uczelnie i pracodawców.

Mieszkańcy Petersburga wykazali się dużą cierpliwością w proszeniu policji o pomoc, jednak nie wszyscy użytkownicy internetu tak by postąpili. A jeśli są chęci, znajdzie się sposób — aby zmusić ludzi. Jeśli znasz serwis FindFace, pewnie znasz jego najbardziej niesławny przypadek użycia: pewne osoby użyły go do wyszukiwania w Sieci aktorek pornograficznych. Trolle wyszukiwały profile kobiet w sieciach społecznościowych i wysyłały haniebne wiadomości do ich znajomych i krewnych wraz ze stosownymi zdjęciami.

Założyciel serwisu FindFace, Maxim Perlin, jest przekonany, że w dzisiejszych czasach ludzie dosłownie musza płacić za ochronę swojej prywatności. W wywiadzie telewizyjnym powiedział, że ludzie, którzy chcą wymazać swoje dane z bazy FindFace, muszą wykupić konto premium. Miesiąc prywatności kosztuje około 8 dolarów.

  1. Cienka linia między bezpieczeństwem a katastrofą

Wielu ekspertów jest przekonanych, że biometria zastąpi hasła i sprawi, że na świecie będzie jeszcze bezpieczniej. Zatem w przyszłości ludzie pozwolą systemom skanować swoją tęczówkę, odciski palców, a nawet twarz, co wyeliminuje konieczność wprowadzania skomplikowanych kombinacji symboli.

Microsoft jest w fazie tworzenia technologii, która umożliwi użytkownikom autoryzowanie się przy użyciu zdjęć typu selfie. Firma NEC bada, czy rozpoznawanie twarzy można wykorzystać do zabezpieczenia płatności elektronicznych. MasterCard pracuje nad systemem identyfikacji selfie, który umożliwia użytkownikom wysyłanie pieniędzy bez haseł.

Pisaliśmy już na temat minusów daktylografii, dlatego teraz skupię się na słabościach technologii rozpoznawania twarzy. Można je porównać do najnowszych osiągnięć druku 3D: dzisiaj można wydrukować naprawdę realistyczną kopię czyjejś twarzy. Twórcy nowych systemów identyfikacji będą musieli wziąć to pod uwagę, jeśli chcą utworzyć naprawdę bezpieczne produkty.

Na przykład MasterCard i Google prosi użytkowników, aby mrugnęli — proste działanie, które uniemożliwia oszustom oszukanie systemu przy użyciu twarzy wydrukowanej metodą 3D czy zwykłego zdjęcia. Niestety produkt Google’a zawodzi — niektórym osobom udało się ominąć zabezpieczenia przy użyciu prostej animacji. System MasterCarda jest w trakcie tworzenia, zatem jeszcze nie wiadomo, czy będzie można oszukać go w ten sam sposób.

„Kolega z pracy wydrukował moją twarz w 3D” – zdjęcie z serwisu Imgur

  1. Nie udostępniaj swojej twarzy nikomu

Być może słyszałeś o Anaface, stronie, która analizuje zdjęcie twarzy i ocenia poziom atrakcyjności. Głównym kryterium serwisu jest symetryczność — wątpliwy standard, nie sądzisz? Na przykład Angelina Jolie uzyskała tam jedynie 8,4 punktu na 10. Lecz dokładność strony to nie jej jedyny problem.

Po pierwsze, właściciele Anaface przyznają, że uruchomili ten projekt, aby zachęcić ludzi do zastanowienia się nad operacją plastyczną. Cóż, przynajmniej się do tego przyznają.

Po drugie, regulamin strony jest napisany skomplikowanym językiem i dosyć niejasno. Jest wyświetlany w bardzo małym oknie, więc użytkownik musi długo przewijać stronę, aby przeczytać te ponad 7 000 słów małą czcionką. Prawdopodobnie wielu ludzi nie czyta informacji, że przesyłając na stronę zdjęcia, użytkownicy dają jej właścicielom niewyłączną, możliwą do przesyłania i sublicencjonowania, nieodpłatną ogólnoświatową licencję użycia. Mówiąc wprost: usługa może sprzedawać zdjęcia ludzi przesłane bez żadnego obowiązku płacenia prawowitemu właścicielowi zdjęcia.

Z kolei użytkownicy, zobowiązują się przesłać jedynie własne zdjęcia; nie można umieszczać, przesyłać, wyświetlać ani udostępniać zawartości, która zawiera filmy, fotografie dźwiękowe lub obrazy innej osoby bez jej zgody (a w przypadku osoby niepełnoletniej jej opiekunka prawnego). Warunki korzystania z serwisu zawierają również niejasne uwagi na temat prywatności oraz możliwości usuwania zdjęć po zarejestrowaniu konta użytkownika — lecz tego nie może zrobić nikt na Anaface, bo strona na to nie pozwala.

Każdy gromadzi zdjęcia: rządy, korporacje i firmy, a nawet zwykli ludzie. Dzisiaj każdy może użyć i nadużyć systemów rozpoznawania twarzy — a my możemy jedynie próbować się przed nimi ukryć.