Oceny społeczne — uważaj, co publikujesz w internecie

Trudno już sobie wyobrazić życie bez sieci społecznościowych. Używamy ich do rozmawiania, komunikacji, udostępniania, omawiania najgorętszych tematów itp. Należy jednak pamiętać, że inni ludzie mogą używać naszych profili w mediach społecznościowych na przykład do oceny naszej zdolności do spłaty kredytu bankowego. Albo do podjęcia decyzji, czy nadajemy się do konkretnej pracy.

Miarą czyjegoś potencjału w oparciu o podjęte działania, krąg znajomych itd. jest tzw. ocena społeczna. W pewnym sensie można ją porównać do oceny zdolności kredytowej, którą kierują się banki podczas udzielania pożyczek, ale może obejmować ona znaczenie szerszy zakres informacji.

W wielu krajach oceny społeczne są już wykorzystywane w różnych obszarach. Na przykład firmy ubezpieczeniowe w Nowym Jorku oficjalnie mogą określać premie poprzez analizowanie danych dostępnych w sieciach społecznościowych.

W Chinach tymczasem rozwijany jest system zaufania społecznego, który według niektórych przypomina zasady rodem z utworu Rok 1984. Nie wszyscy się go boją — w opinii części społeczeństwa jest on przydatny, bo zwiększa bezpieczeństwo. Czy ludzie i technologie są na to gotowi?

Oceny społeczne. Co myślą o nich ludzie?

Zapytaliśmy ponad 10 tys. osób z całego świata, co sądzą o ocenach społecznych. Oto, czego się dowiedzieliśmy.

Słyszała o nich mniej niż połowa (46%) ankietowanych. Zjawisko to jest lepiej znane w Azji. W Chinach, w których oceny te są wprowadzane w całym kraju, słyszało o nich 71% respondentów, w porównaniu do zaledwie 13% w Austrii i Niemczech. Co więcej, znów niemal połowa (45%) ankietowanych przyznała, że ma problem ze zrozumieniem sposobu obliczania takiej oceny. Tylko jedna na pięć osób (21%) zetknęła się z nimi w życiu prawdziwym (chociaż możliwe jest, że niektóre osoby zwyczajnie nie miały świadomości, że oceny społeczne odgrywają rolę w przyznaniu kredytu lub hipoteki).

Niemniej jednak wiele osób ogólnie zgadza się z ideą, jaka przyświeca ocenom społecznym: 70% osób twierdzi, że to uczciwy i zgodny z prawem sposób na ograniczenie dostępu do zasobów publicznych (transportu, edukacji, mieszkań itp.) na podstawie czyjegoś zachowania.

Wiele osób nie ma nic przeciwko byciu monitorowanym, jeśli jest ku temu dobry powód. Na przykład w celu zwiększenia bezpieczeństwa niemal połowa osób jest gotowa zezwolić rządowi na monitorowanie sieci społecznych, a dwie na pięć osób udostępniłaby dane firmie w zamian za rabaty lub inne korzyści. Zaledwie 20% ankietowanych wyraża niepokój związany z zainteresowaniem prywatnymi informacjami ze strony organizacji publicznych i prywatnych.

Oceny społeczne. Stan technologii

Wiele osób, które wzięły udział w naszym badaniu, popiera pomysł wprowadzenia ocen społecznych, wierząc prawdopodobnie w to, że będą one sprawiedliwe i bezstronne. Niestety w obliczu aktualnego stanu technologii jest to mało prawdopodobne.

Aktualne systemy są oparte na sieciach neuronowych, których zasady działania są niezbyt jasne nawet dla producentów, nie mówiąc o operatorach czy ogółu społeczeństwa. Obniżając lub zwiększając czyjąś ocenę, sieć neuronowa nie ujawnia podstawy swojej decyzji. Jeśli komputer mówi, że nie kwalifikujesz się do udzielenia pożyczki, nie dostaniesz jej — nawet jeśli jesteś przyzwoitym obywatelem z przyzwoitym dochodem.

W języku testów medycznych i bezpieczeństwa komputerów określa się to jako fałszywe trafienie, podobnie jak rozwiązanie bezpieczeństwa oznacza czysty plik jako zainfekowany lub test medyczny błędnie rozpoznaje chorobę w próbce pacjenta.

W naszym ulubionym temacie — antywirusach — poziom liczby fałszywych trafień znacząco się różni w różnych produktach. Niektóre produkty wydają złe werdykty znacznie częściej niż wynosi średnia branżowa, a inne znacznie rzadziej (nasze rozwiązania zabezpieczające wykazują minimalną liczbę fałszywych trafień). Rzecz w tym, że błędów nie można całkowicie wyeliminować. Jednak w  przypadku ocen, które mają wpływ na prawa, a nawet życie człowieka, cena takich błędów może być bardzo wysoka.

Oprócz błędów wynikających z niedokładnych algorytmów lub danych systemy mogą zostać również zhakowane. Jeśli chodzi o oceny społeczne obejmujące cały kraj, nasi eksperci zidentyfikowali trzy typy potencjalnych ataków.

1. Ataki na urządzenia gromadzące dane

Aby dokładnie ocenić daną osobę, system potrzebuje wielu informacji na jej temat. Dane te są zbierane nie tylko z sieci społecznościowych, ale także z różnych urządzeń w postaci kamer i czujników — tzw. Internetu Rzeczy. Urządzenia te mają często luki w zabezpieczeniach i są cyklicznie atakowane. Tylko w pierwszej połowie 2019 roku zidentyfikowaliśmy 105 milionów prób ich zhakowania.

2. Ataki na implementację oprogramowania

Aby przypisać do jakiejś osoby ocenę społeczną, nie wystarczy, aby system zebrał odpowiednie informacje. Musi on je również przetworzyć i zinterpretować. Odpowiedzialny za to mechanizm także może mieć luki w zabezpieczeniach, narażające go na infekcje szkodliwymi programami, jak i ataki niestandardowe.

Na przykład atakujący może nosić kolorowe okulary. Inny człowiek nie będzie mieć większych problemów z rozpoznaniem go, lecz inteligentna kamera może omyłkowo wziąć go za kogoś innego — w efekcie działania, które zarejestruje ta kamera, zostaną przypisane niewłaściwej osobie.

3. Ataki na logikę systemu

Atakujący może także zidentyfikować działania, które po wielokrotnym powtórzeniu mogą zmienić ocenę, nie zważając na nic innego — zarówno na pozytywną, jak i negatywną. Na przykład poprzez wykorzystanie luk w logice systemu można zwiększyć czyjąś ocenę lub przeciwnie, obniżyć ją dla potencjalnej ofiary.

Jak przygotować się na świat ocen społecznych

Podsumowując, oceny społeczne mogą nie być tak uczciwe i bezstronne, jak byśmy tego chcieli lub oczekiwali. Takie systemy są już wdrożone w niektórych obszarach naszego życia i najprawdopodobniej trend ten będzie ewoluował. Chociaż nie ma możliwości całkowitej ochrony siebie przed ich wadami, warto chociaż spróbować zminimalizować ryzyko.

Dobrze się zastanów, zanim opublikujesz przedstawiające Cię niejednoznaczne zdjęcia lub jakieś inne potencjalnie kompromitujące informacje w sieciach społecznościowych. Niektóre rzeczy lepiej zachować dla siebie, a najlepiej nie udostępniać ich zbyt wielu.

Chroń swoje konta, aby cyberprzestępcy nie mogli się na nie włamać i użyć ich przeciwko Tobie. Utwórz silne i niepowtarzalne hasła, włącz autoryzację dwuetapową i nie wprowadzaj danych logowania na podejrzanych stronach.

Chroń swoją prywatność, aby bank nie odmówił Ci udzielenia pożyczki, bo na przykład dowie się, że szukasz pracy. Utrudnij gromadzenie danych na Twój temat — nasze podpowiedzi w tym temacie znajdziesz w tym poście.