Streszczenie

Social scoring to nie nazwa konkretnego algorytmu, lecz mechanizm zarządzania ludźmi za pomocą ustrukturyzowanej oceny ich zachowania, cech lub wiarygodności. System obserwuje zdarzenia dotyczące osoby, łączy je z tożsamością, interpretuje według reguł albo modelu, a następnie różnicuje dostęp do korzyści, obowiązków, kontroli lub usług. Wynikiem może być liczba, klasa ryzyka, wpis na liście, kolejność obsługi, rekomendacja dla urzędnika albo automatyczna decyzja.

Ta definicja jest szersza od potocznego obrazu „punktów społecznych”, ale węższa od nazywania social scoringiem każdej bazy danych. Rejestr PESEL identyfikuje osobę, lecz jej nie ocenia. Mandat zapisuje konkretne naruszenie, lecz sam nie tworzy profilu. Dopiero mechanizm, który wykorzystuje dane z jednego lub wielu kontekstów do systematycznego oceniania i różnicowania traktowania, zbliża się do social scoringu.

Najważniejsze pytanie nie brzmi więc: „czy istnieje jeden wynik?”, tylko: jaki fakt zmienia jaką decyzję, w czyim systemie i z jaką możliwością korekty.

Pięć elementów systemu

Każdy działający system można rozłożyć na pięć warstw. Pozwala to porównywać chińską listę dłużników, polski wskaźnik ryzyka podatkowego i amerykański scoring najemców bez twierdzenia, że są tym samym produktem.

1. Podmiot

System musi wiedzieć, kogo albo co ocenia. Podmiotem może być osoba fizyczna, przedsiębiorca, spółka, organ administracji, organizacja społeczna, gospodarstwo domowe, pojazd, konto albo urządzenie. Kluczowe jest rozstrzygnięcie tożsamości: czy dwa rekordy dotyczą tej samej osoby i czy zdarzenie nie zostało przypisane komuś o podobnym nazwisku.

W dojrzałym systemie identyfikator nie jest wynikiem. Chiński osiemnastoznakowy USCC identyfikuje organizację, podobnie jak polski NIP lub KRS. Numer PESEL identyfikuje osobę, ale sam nie mówi nic o jej zachowaniu. Identyfikatory umożliwiają dopiero łączenie faktów z różnych źródeł.

2. Obserwacja

Obserwacją może być spłata zobowiązania, administracyjna kara, wykonanie wyroku, przejazd na czerwonym świetle, kontrola przedsiębiorstwa, transakcja bankowa, odmowa wykonania obowiązku, przekroczenie granicy albo potwierdzona działalność społeczna. Źródłem jest najczęściej system transakcyjny, decyzja urzędowa, rejestr branżowy, dokument lub czujnik.

Warto rozdzielić surowy sygnał od ustalonego faktu. Kamera może wykryć twarz podobną do osoby A. Nie oznacza to jeszcze, że A popełniła wykroczenie. System bankowy może wykryć nietypową transakcję. Nie oznacza to jeszcze prania pieniędzy. Im poważniejsza konsekwencja, tym ważniejsza procedura przejścia od sygnału do faktu.

3. Interpretacja

Interpretacja odpowiada na pytanie, co obserwacja znaczy. Może mieć postać prostego przepisu: prawomocna decyzja o naruszeniu powoduje wpis na listę na dwa lata. Może to być punktacja, drzewo reguł, klasyfikator statystyczny, model uczenia maszynowego lub opinia człowieka wsparta informacją z systemu.

Najbardziej przejrzysta jest reguła deterministyczna, lecz przejrzystość nie gwarantuje sprawiedliwości. Jawna zasada może być nieproporcjonalna. Z kolei model statystyczny może być trafny, ale trudny do wyjaśnienia w pojedynczej sprawie. Projektant wybiera więc nie między „dobrym człowiekiem” i „złą sztuczną inteligencją”, tylko pomiędzy różnymi źródłami błędu, kosztami i możliwościami kontroli.

4. Wynik

Wynik może przyjąć co najmniej sześć form:

Forma Przykład Typowe zastosowanie
liczba 720 punktów ryzyko kredytowe lub program lokalny
klasa A, B, C, D częstotliwość kontroli przedsiębiorstwa
lista wpisany / niewpisany egzekucja orzeczeń, licencje, sankcje
flaga transakcja podejrzana skierowanie do analityka
prawdopodobieństwo 0,18 ryzyka zdarzenia prognoza i priorytetyzacja
rekomendacja kontrolować / nie kontrolować wsparcie decyzji człowieka

Liczba jest tylko jedną z form. W praktyce lista binarna może być dotkliwsza niż wynik na skali tysiąca punktów. Osoba z niskim wynikiem w dobrowolnym programie lojalnościowym może niczego nie stracić; wpis na sektorowej liście może natychmiast zablokować przetarg albo określony zakup.

5. Konsekwencja

Bez konsekwencji scoring jest analizą, nie instrumentem zarządzania. Konsekwencją może być dodatkowa kontrola, niższe oprocentowanie, brak kaucji, odmowa świadczenia, ograniczenie luksusowej konsumpcji, pierwszeństwo obsługi, obowiązek dostarczenia dokumentów albo tylko sygnał dla urzędnika.

To tutaj rozstrzyga się polityczne znaczenie systemu. Ten sam model ryzyka użyty do wybrania stu spraw do ręcznej kontroli jest czymś innym niż model automatycznie odcinający sto osób od świadczenia. Dlatego ocena systemu wyłącznie na podstawie zbieranych danych jest niewystarczająca.

Skala od rejestru do social scoringu

Nie istnieje jedna prawna granica obowiązująca we wszystkich dyskusjach, ale przydatna jest skala funkcjonalna.

Poziom 0 — ewidencja. System przechowuje fakt bez oceny. Przykład: data wydania dokumentu.

Poziom 1 — reguła w tym samym kontekście. Fakt wpływa na decyzję bezpośrednio z nim związaną. Nieopłacona faktura wpływa na kolejną sprzedaż z odroczonym terminem.

Poziom 2 — profil sektorowy. Wiele faktów służy do ogólnej oceny w jednej dziedzinie, jak zdolność kredytowa lub ryzyko podatkowe.

Poziom 3 — wymiana między instytucjami tego samego celu. Banki wymieniają informacje potrzebne do oceny zobowiązań, a organy podatkowe łączą dane dla przeciwdziałania wyłudzeniom.

Poziom 4 — przenoszenie skutku między kontekstami. Naruszenie w jednej dziedzinie wpływa na usługę lub przywilej w innej. Tu zaczyna się social scoring w najmocniejszym sensie.

Poziom 5 — ocena ogólna. System próbuje opisać całościową wiarygodność lub społecznie pożądane zachowanie osoby, a wynik ma wiele zastosowań.

Chiński system krajowy działa głównie jako mieszanina poziomów 2–4. Nie ma jednego uniwersalnego wyniku poziomu 5 dla wszystkich obywateli, lecz istnieją sektorowe listy, wymiana informacji i wspólne konsekwencje. Lokalne programy punktowe eksperymentowały z poziomem 5 w ograniczonej skali. Szerzej opisujemy to w artykule o faktach i mitach.

Scoring finansowy, społeczny i regulacyjny

Scoring finansowy odpowiada na stosunkowo wąskie pytanie: jak prawdopodobne jest wykonanie zobowiązania finansowego. Może być bardzo wpływowy — decydować o mieszkaniu, kredycie lub koszcie ubezpieczenia — ale jego cel pozostaje ekonomiczny. Nie każdy scoring finansowy jest social scoringiem.

Scoring regulacyjny ocenia ryzyko naruszenia przepisów przez firmę lub osobę. Może wyznaczać częstotliwość kontroli, zakres dokumentów albo warunki licencji. Chiński Corporate SCS jest w dużej części właśnie rozbudowanym systemem regulacyjnym: dane z wielu organów tworzą profil zgodności przedsiębiorstwa.

Scoring społeczny ocenia zachowanie wobec norm szerszych niż jedno zobowiązanie. Może premiować wolontariat, karać zachowania uznane za aspołeczne albo wykorzystywać ocenę wiarygodności z jednego obszaru w innym. Granica nie zależy od nazwy. Firma może nazwać produkt „bezpieczeństwem społeczności”, urząd — „zarządzaniem ryzykiem”, a partia — „systemem odpowiedzialności”. Funkcję rozpoznaje się po danych, regułach i skutkach.

Scoring nie wymaga sztucznej inteligencji

Najstarsze systemy scoringowe powstały przed współczesnym uczeniem maszynowym. Tabela punktowa, karta oceny, lista warunków i ręczne zakwalifikowanie do klasy są wystarczające. Wiele chińskich mechanizmów opiera się na decyzjach administracyjnych, prawomocnych orzeczeniach oraz wymianie wpisów, a nie na modelu przewidującym zachowanie.

AI staje się przydatna w trzech miejscach. Po pierwsze, wydobywa fakty z nieustrukturyzowanych dokumentów. Po drugie, wykrywa wzorce i anomalie w dużych strumieniach. Po trzecie, rozpoznaje obiekty, twarze, tablice i zdarzenia w danych sensorycznych. Każda z tych funkcji może zasilać scoring, lecz żadna sama w sobie nim nie jest.

To rozróżnienie ma znaczenie prawne. Europejski AI Act reguluje systemy AI i zakazuje określonych praktyk opartych na AI, ale nie zamienia każdego ręcznego rejestru sankcji w zakazany system. RODO jest technologicznie neutralne i może dotyczyć zarówno nowoczesnego modelu, jak i zwykłej tabeli, jeśli przetwarzane są dane osobowe.1,2

Profilowanie a decyzja

Profilowanie jest oceną aspektów osoby za pomocą automatycznego przetwarzania. Decyzja jest późniejszym użyciem wyniku. System może profilować bez podjęcia decyzji — na przykład tworzyć analityczną segmentację. Może również podejmować decyzję na podstawie prostego faktu bez profilowania.

Artykuł 22 RODO nie ustanawia ogólnego zakazu wszelkiego profilowania. Dotyczy decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują skutki prawne lub podobnie istotnie wpływają na osobę, i przewiduje wyjątki oraz zabezpieczenia.2 Niestety nawet to węższe ograniczenie poważnie komplikuje budowę systemu, którego wartość wynikałaby z konsekwentnej automatyzacji milionów drobnych zdarzeń.

AI Act w art. 5 zakazuje używania systemu AI do oceny lub klasyfikacji osób przez pewien czas na podstawie zachowania społecznego albo znanych, wywnioskowanych lub przewidywanych cech, jeżeli wynik prowadzi do niekorzystnego traktowania w niezwiązanym kontekście albo do traktowania nieuzasadnionego lub nieproporcjonalnego.1 Zakaz dotyczy podmiotów publicznych i prywatnych. Nie wystarczy więc rozpocząć projektu w firmie i założyć, że prywatny operator pozostaje poza regulacją.

Prawo nadal pozostawia przestrzeń dla ocen sektorowych, wykrywania oszustw, decyzji wspieranych przez człowieka i systemów nieopartych na AI. Ta przestrzeń jest cenna, ale nie powinna być opisywana jako prosta luka pozwalająca uruchomić dowolny system pod inną nazwą.

Dlaczego listy bywają silniejsze od punktów

Wyobrażenie jednego wyniku jest atrakcyjne, bo łatwo je pokazać w filmie: liczba maleje, drzwi się zamykają. Administracja częściej działa jednak przez listy i statusy. Wpis może wynikać z konkretnej podstawy prawnej, mieć określony czas, właściciela i procedurę usunięcia. Dla urzędu jest łatwiejszy do obrony niż tajemnicza liczba 612.

Lista może też uruchamiać wspólne konsekwencje. Jeżeli informacja o niewykonaniu wyroku trafia do przewoźnika, banku i rejestru osób zarządzających spółkami, nie potrzeba żadnego ogólnego wyniku. Wystarczy reguła „podmiot znajduje się na liście X”. To architektura prostsza, bardziej audytowalna i często dotkliwsza.

Punkty są użyteczne tam, gdzie potrzebny jest stopniowalny sygnał, wiele drobnych zdarzeń albo program zachęt. Ich słabością jest spór o wagę. Czy trzy drobne naruszenia równoważą jedno poważne? Czy wolontariat powinien kompensować dług? Lista pozwala zachować semantykę naruszenia; jedna liczba ją zaciera.

Dane imienne i dane statystyczne

System może działać na bezpośrednio ustalonych faktach dotyczących konkretnej osoby albo przewidywać ryzyko z podobieństwa do grupy. Pierwsze podejście mówi: „ta osoba nie wykonała tego obowiązku”. Drugie: „osoby o takim profilu częściej nie wykonują obowiązków”.

Dane imienne zmniejszają niektóre rodzaje dyskryminacji statystycznej, ale nie rozwiązują problemu automatycznie. Dobór obserwowanych faktów może być nierówny, policja może częściej rejestrować zdarzenia w jednej dzielnicy, a relacje konkretnej osoby mogą stać się cechami jej profilu. Imienność nie wyłącza RODO ani AI Act. Zaletą jest natomiast możliwość wskazania zdarzenia, źródła i drogi korekty.

Modele statystyczne pozwalają działać zanim wystąpi naruszenie, lecz płacą za to fałszywymi alarmami i błędem bazowym. Jeżeli poważne zdarzenie występuje u jednej osoby na dziesięć tysięcy, nawet model o wysokiej czułości może wskazać znacznie więcej niewinnych niż sprawców. Dlatego wynik predykcyjny powinien najczęściej kierować uwagę, a nie samodzielnie wymierzać sankcję.

System punktów czy system sterowania

Najbardziej ogólna definicja social scoringu nie powinna koncentrować się na liczbie, tylko na pętli sprzężenia zwrotnego:

  1. system obserwuje zachowanie;
  2. aktualizuje wiedzę o podmiocie;
  3. zmienia jego warunki działania;
  4. podmiot dostosowuje zachowanie;
  5. nowe zachowanie ponownie trafia do systemu.

Z punktu widzenia cybernetyki jest to system sterowania społeczeństwem. Nagroda i sankcja są sygnałami zwrotnymi. Jawność reguł pozwala ludziom świadomie dostosować zachowanie; niejawność ułatwia wykrywanie nadużyć, ale zmniejsza przewidywalność prawa. Za wolno działająca pętla nie zapobiega zdarzeniom. Za szybka może automatycznie propagować błąd, zanim człowiek zdąży go zakwestionować.

Technicznie interesujący projekt musi więc określić opóźnienia, źródła prawdy, ważność faktów, kolejność aktualizacji, odwracalność skutku oraz zachowanie podczas awarii. Hasło „oceniamy obywatela” nie jest specyfikacją.

Pozytywne i negatywne bodźce

System może karać, nagradzać albo robić jedno i drugie. Program nagród łatwiej uruchomić dobrowolnie i przetestować bez szkody dla osób błędnie ocenionych. Pozwala też zdobyć dane o tym, czy reguła rzeczywiście zmienia zachowanie.

Nie każda nagroda jest jednak neutralna. Pierwszeństwo w kolejce dla jednych oznacza dłuższe czekanie innych. Zniżka finansowana publicznie ma koszt ponoszony przez ogół. Dobrowolność jest pozorna, jeśli odmowa udziału zamyka dostęp do usługi niezbędnej do normalnego życia.

Negatywne konsekwencje mogą być skuteczne, gdy są blisko związane z naruszeniem i łatwe do zakończenia po naprawie. Chińska koncepcja ograniczania „wysokiej konsumpcji” dłużników sądowych pokazuje próbę wywierania presji bez formalnego pozbawiania podstawowych środków życia. W praktyce zakres, publiczne zawstydzanie i skutki wobec rodzin budzą uzasadnione spory.3

Cechy dojrzałego systemu

Dojrzały system potrzebuje znacznie więcej niż algorytm:

  • stabilnego identyfikowania podmiotów;
  • katalogu źródeł i podstaw prawnych;
  • proweniencji każdego faktu;
  • reguł jakości i rozstrzygania sprzeczności;
  • wersjonowania modeli oraz konfiguracji;
  • kontrolowanego dostępu operatorów;
  • rejestru każdego odczytu i eksportu;
  • mechanizmu zawiadomienia osoby;
  • sprostowania, sprzeciwu i ponownej oceny;
  • odwrócenia wszystkich konsekwencji błędnego wpisu;
  • mierników skuteczności i szkód;
  • odporności na działania ludzi próbujących oszukać system.

Najtrudniejsza jest propagacja korekty. Usunięcie błędu w rejestrze źródłowym nie wystarcza, jeśli kopię pobrało dwadzieścia instytucji, trzy modele utworzyły cechy pochodne, a dwie decyzje zmieniły kolejne dane. W takim środowisku potrzebny jest nie tylko komunikat „rekord usunięto”, lecz mechanizm odnajdywania i unieważniania skutków.

Czy Polska ma już social scoring

Polska ma wiele elementów: scoring kredytowy, wskaźniki ryzyka podatkowego, wykrywanie oszustw, taryfikację ubezpieczeń, rejestry dłużników, punkty karne, mechanizmy AML i liczne systemy branżowe. Nie tworzą one jednego systemu oceny społecznej, ponieważ mają różnych właścicieli, podstawy prawne, cele i konsekwencje.

To jednak nie znaczy, że zaczynalibyśmy od zera. Rejestr PESEL zapewnia silny identyfikator, System Rejestrów Państwowych łączy podstawowe ewidencje, a krajowe systemy podatkowe i finansowe przetwarzają ogromne strumienie w krótkim czasie. Opisujemy te elementy osobno.

Brakuje przede wszystkim wspólnego modelu zdarzeń, uzgodnionego celu, politycznej zgody na przenoszenie skutków między dziedzinami oraz instytucji odpowiedzialnej za całość. Niestety ograniczenia UE utrudniają ambitną automatyzację, ale nie zakazują prowadzenia prac architektonicznych, budowy na danych syntetycznych ani poprawy sektorowych systemów ryzyka. Właśnie dlatego warto rozdzielać dzisiejsze wdrożenie od projektu gotowego na przyszłą zmianę prawa.

Definicja używana w serwisie

Na potrzeby Socialscoring.pl przyjmujemy następującą definicję:

Social scoring jest trwałym mechanizmem oceny osób lub organizacji na podstawie danych o ich zachowaniu, cechach, relacjach albo wykonaniu obowiązków, którego wynik służy do systematycznego różnicowania nadzoru, korzyści, sankcji lub dostępu do usług.

Definicja obejmuje wynik liczbowy, listę, klasę i profil. Nie obejmuje samego rejestru faktów, jednorazowej decyzji bez profilu ani statystyki nieużywanej wobec konkretnych podmiotów. Pozwala też jasno opisać system hybrydowy: monitoring może dostarczać obserwacji, graf relacji — kontekstu, model — priorytetu, a człowiek — ostatecznej decyzji.

Tak rozumiany social scoring nie jest fantazją science fiction. Jego elementy działają dziś w większości rozwiniętych państw. Prawdziwe pytanie brzmi, czy pozostawić je jako przypadkowy zbiór niekompatybilnych mechanizmów, czy świadomie zaprojektować spójny system ze zrozumiałymi celami, odpowiedzialnością i zabezpieczeniami.