wtf

Chińska AI do wykrywania korupcji zbyt skuteczna by nadal działać?

Korupcja jest zła. Zwalczanie korupcji jest dobre. No chyba, że akurat jest złe. I niby mieszkając w Polsce powinniśmy rozumieć, że niektórym rzeczom mówimy stanowcze „być może”, ale rzecz komplikuje się niesamowicie, jeśli osiąga skalę chińską, a we wszystko wmieszana jest AI.

Xi Jinping może i przypomina Kubusia Puchatka, ale w swoich rękach zebrał więcej władzy, niż jakikolwiek chiński polityk od czasów Mao. By to osiągnąć musiał pokonać wielu przeciwników politycznych, głównie z obozu byłego sekretarza generalnego Komunistycznej Partii Chin, Jiang Zemina, zwanego Ropuchą (tak, oba porównania są w Chinach zakazane). Jednym z narzędzi służących do tej walki politycznej, która w ChRL może skończyć nawet się karą śmierci, jest oskarżenie o korupcję. Jednym z narzędzi służących do poszukiwania korupcji w Chinach, jest system oparty na sztucznej inteligencji o nazwie Zero Trust.

Zero Trust jest systemem relatywnie nowym i nadal eksperymentalnym. Działa zaledwie w 30 okręgach i miastach, obejmując swoim zasięgiem zaledwie 1 procent chińskiej administracji. Zadaniem systemu jest identyfikacja urzędników, którzy przyjmują łapówki. System robi to analizując dane na temat pracy i życia osobistego chińskich urzędników i wykrywa zachowania, które wskazują na to, że doszło do korupcji.

Algorytmy Zero Trust mają dostęp do ponad 150 chronionych rządowych baz danych, dzięki czemu budują wielopoziomowe mapy powiązań międzyludzkich, które pozwalają wykryć między innymi podejrzane transakcje, zezwolenia czy zakupy członków rodziny przekraczające typowy budżet.

Pomimo tego, że system nie obejmuje wszystkich chińskich urzędników, zespół stojący za Zero Trust może pochwalić się już niemałymi sukcesami – do tej pory ich system zidentyfikował 8721 urzędników, którzy przyjęli łapówki lub w inny sposób nadużyli władzy dla własnej korzyści.

Zero Trust zostanie wyłączony.

South China Morning Post niestety nie informuje o tym, czy system wykrył korupcję u kogoś, u kogo nie powinien. Według oficjalnej wersji powodem, dla którego system, zamiast zostać wdrożony wszędzie, zostanie wygaszony, jest ogromny opór urzędników, którzy nie chcą mieć nad sobą takiego automatycznego bata. Nawet jeśli w większości wykrytych przypadków urzędnicy przyłapani przez system na korupcji zachowywali swoje stanowiska i wymierzono im stosunkowo łagodne kary, a tylko nieliczni trafili do więzienia. W niektórych prowincjach urzędnicy w ogóle nie chcieli udostępnić danych ani wskazywać podejrzanych zachowań, a bez tego uczenie AI było bardzo utrudnione, jeśli nie niemożliwe. I nawet można byłoby przyklasnąć takiej trosce o prywatność, gdyby nie jeden drobny szczegół.

Ciekawe, że tym samym urzędnikom zupełnie nie przeszkadza zupełnie wdrażanie orwellowskiego systemu punktów społecznych, dla populacji im podległej.

Ilustracja: Flickr/alansimpsonMe

podobne treści