Tak inwigiluje chińskie państwo. Historia, która paraliżuje do szpiku kości

Reportaż o chińskiej inwigilacji

Geoffrey Cain jest dziennikarzem, pisarzem i antropologiem. Od lat największym zainteresowaniem darzy kraje azjatyckie, takie jak Japonia, Chiny, Kambodża, Wietnam czy Korea. “Doskonałe państwo policyjne. Wyprawa w głąb chińskiej inwigilacyjnej dystopii” to jego druga i najnowsza książka.

Nowe dzieło Caina opiera się na relacji młodej kobiety, która stara się wyrwać z okowów technologicznej dystopii, wspomnień innych świadków oraz dziennikarskiego śledztwa autora. Fragment, w którym twórca przybliża czytelnikowi tajniki chińskiej machiny inwigilacyjnej, możecie przeczytać poniżej:

“Doskonałe państwo policyjne. Wyprawa w głąb chińskiej inwigilacyjnej dystopii”

Irfan – ujgurski pracownik firmy telekomunikacyjnej, do którego dotarłem – przyznawał, że w 2014 roku Chinom brakowało „jedynej potrzebnej nam rzeczy: wystarczającej ilości danych, aby monitoring naprawdę zaczął działać”.

Tego roku chiński rząd, działając poprzez prywatne spółki, zapoczątkował w całym kraju projekty pilotowe systemu, który miał monitorować zakupy i zachowania w sieci, a także nadawać obywatelom ranking zaufania. System ten miał osiągnąć pełną funkcjonalność w ciągu sześciu lat.

Możliwość kontrolowania ogromnych platform do płatności internetowych – chińscy konsumenci woleli uiszczać należności przez aplikacje niż używać kart kredytowych – naturalną koleją rzeczy skłaniała firmy do rozwijania sektora rankingów kredytowych, w którym mogły wykorzystać dane na temat setek milionów ludzi dokonujących każdego dnia najróżniejszych płatności. A co, gdyby tak na podstawie informacji o zakupach online spróbować tworzyć także inne rankingi, na przykład „zaufania”? Właściwie nie różniło się to specjalnie od oceny zdolności kredytowej, obejmowało tylko pełniejszy zakres kryteriów.

W szybko rozwijających się krajach takich jak Chiny miliony ludzi nigdy nie miały dostępu do tradycyjnych mechanizmów pożyczkowych i w związku z tym nie posiadały historii kredytowej. Dzięki masowemu gromadzeniu danych na temat wszystkich obywateli można było przeskoczyć tę przeszkodę i otworzyć ludziom z całego kraju dostęp do pożyczek.

Ale system zaufania społecznego miał w sobie też coś złowieszczego. Li Yingyun, dyrektor w firmie kredytowej Sesame Credit, powiedział chińskiemu magazynowi „Caixin”, że „ktoś, kto na przykład gra na komputerze przez dziesięć godzin dziennie, zostanie zakwalifikowany jako osoba leniwa, a ktoś, kto często kupuje pieluchy, zostanie uznany za prawdopodobnego rodzica, co statystycznie zwiększa szansę, że będzie go cechowało poczucie odpowiedzialności”.

Ludzie z wyższą oceną zaufania społecznego mogli liczyć na różne drobne korzyści w życiu codziennym, jak choćby dostęp do ofert VIP przy szukaniu noclegów i wynajmie samochodów czy lepszą ekspozycję profili na portalach randkowych. Tych z kolei, którzy spadli zbyt nisko w rankingu, czekały potencjalne problemy z najmem mieszkania albo uzyskaniem kredytu w banku.

 

Chiński system zaufania społecznego

Chińskiemu systemowi zaufania społecznego daleko było jednak do scentralizowanego modelu orwellowskiego panoptykonu, który widziałby i wiedziałby wszystko. Na drodze do tego stały zagmatwane struktury biurokratyczne i biurowe wojenki. Pewien pracownik Tencenta przyznał mi się, że „działy firmy niechętnie dzieliły się danymi zbieranymi przez poszczególne należące do nas platformy, takie jak QQ i WeChat. Wszystkie filie i biura wewnątrz spółek konkurowały ze sobą”.

Irfan i inni pracownicy sektora technologicznego opowiadali, że ich największe obawy ziściły się w lipcu 2015 roku. Przeczytał wówczas na smartfonie artykuł na temat tego, że chińska legislatura wprowadziła pierwszą z serii ustaw, które miały zupełnie zmienić oblicze bezpieczeństwa narodowego – i to praktycznie jednogłośnie: 154 osoby głosowały za, zero przeciw i tylko jedna wstrzymała się od głosu. Nowe prawo pozwalało władzom wykorzystywać dane z różnych form monitoringu do celów policyjnych.

Treść ustawy była mętna, pełna eufemizmów i niedomówień. Potwierdzała najwyższe uprawnienia Komunistycznej Partii Chin jako „scentralizowanego, wydajnego i kompetentnego organu zarządzania bezpieczeństwem narodowym”.

„Wszyscy obywatele Chińskiej Republiki Ludowej, władze państwowe, siły zbrojne, partie polityczne, ugrupowania ludowe, przedsiębiorstwa, instytucje publiczne i inne organizacje społeczne będą miały prawo i obowiązek dbania o bezpieczeństwo narodowe” – głosił jeden z zapisów.

„New York Times” sugerował, że nowe prawo stanowiło swego rodzaju wezwanie do mobilizacji, zbiór ogólnikowych wytycznych, które nadały bezpieczeństwu rangę najwyższego priorytetu krajowego.

Trzy miesiące później Microsoft osiągnął przełom w pracy nad technologią rozpoznawania twarzy, która mogła znaleźć zastosowanie w monitoringu i działaniach policyjnych. Pod przewodnictwem doktora Sun Jiana – jego zespół przez poprzednie cztery lata doskonalił rozwiązania z zakresu sztucznej inteligencji, nakładając na siebie kolejne sieci neuronowe – Microsoft Research Asia stworzył ResNet, system rozpoznawania twarzy oparty na SI posiadającej głęboką sieć neuronową 152 warstwach. Podczas konkursu branżowego z września 2015 roku ResNet przyćmił produkty Google’a i innych firm, udowadniając, że potrafi identyfikować ludzi o wiele dokładniej niż jakiekolwiek inne rozwiązanie funkcjonujące na rynku.

Niewiele później doktor Sun, podobnie jak wielu jego byłych kolegów z MRA, postanowił iść na swoje. Połączył siły ze starym znajomym z Microsoftu, który cztery lata wcześniej wszedł na rynek technologii rozpoznawania twarzy ze startupem Megvii. Firma opracowała program Face++, z którego korzystał chiński rząd i prywatne korporacje zainteresowane gromadzeniem danych demograficznych o klientach.

Rodzący się ekosystem, którego Face++ stanowił zaledwie część, wytwarzał technologie niezbędne do prowadzenia całościowej inwigilacji: obserwowania ludzi przez kamery, kojarzenia twarzy z głosami, wyposażenia policji w smartfony i aplikacje niezbędne w przypadku monitoringu środowiskowego, a co najważniejsze – podłączenia tych odrębnych źródeł informacji do jednej potężnej sieci obsługiwanej przez SI.
 

Rozwój Infinovy

W 2015 roku Megvii i SenseTime, jej główny konkurent z branży rozpoznawania twarzy, powoli zaczynały zwracać na siebie uwagę międzynarodowego biznesu. SenseTime wszedł w partnerstwo z Infinovą, producentem kamer bezpieczeństwa z New Jersey, aby dostarczyć do Sinciangu rozwiązania z zakresu monitoringu.

„W Chinach Infinova należy także do pierwszej grupy marek zalecanych przez Ministerstwo Bezpieczeństwa Publicznego Sinciangu i znacząco przyczyniła się do realizacji sinciańskich projektów bezpiecznych miast – czytamy w komunikacie prasowym firmy z 2015 roku. – W 2014 roku wygrała przetarg na projekt obsługi i serwisowania sieci IP systemów bezpieczeństwa miast w całym regionie autonomicznym Sinciang”.

„Używamy ich oprogramowania do rozpoznawania twarzy, ale naszych własnych kamer do monitoringu – tłumaczył Fred Zhang, były menedżer z Infinovy, w wywiadzie dla BuzzFeeda dotyczącym pewnego projektu w Szanghaju. – Wykrywamy twarz i przechowujemy zdjęcie, ale współpracujemy z SenseTime’em, żeby porównywać zdjęcia z bazą danych”.

Widząc przełomowe osiągnięcia Microsoftu, Megvii i SenseTime’a, chiński rząd postanowił włączyć się do gry, licząc, że z czasem uda się z tych spółek uczynić swego rodzaju krajowych czempionów nowych technologii. Stworzył więc warty sześć i pół miliarda dolarów fundusz wspierający startupy, przy czym znacząca część środków pochodziła ze źródeł prywatnych. Branża venture capital, dla której dotąd nie było szczególnie dużo miejsca w centralnie sterowanej komunistycznej gospodarce, rozrosła się do wcześniej niespotykanych rozmiarów.

W styczniu 2015 roku „Financial Times” donosił, że chiński rynek funduszy private equity i funduszy hedgingowych pęcznieje w oczach. Tych pierwszych było już dwa i pół tysiąca i zarządzały łącznie 172,5 miliarda dolarów, te drugie osiągnęły liczbę 3100 i dysponowały 56 miliardami dolarów.

Chiny ukazywały światu nowe oblicze – oblicze kraju technologicznie zaawansowanego, opiekuńczego i chętnego popisywać się swą rosnącą siłą przed obywatelami i lokalnymi spółkami.

[ ]

Nowe oblicze ukazał również Xi Jinping, wyciągając dłoń do Stanów Zjednoczonych i obiecując odwilż w świtającej dopiero technologicznej zimnej wojnie.

We wrześniu 2015 roku prezydent Barack Obama i przewodniczący Xi oświadczyli, że doszli do porozumienia w kwestii ograniczenia cyberszpiegostwa pomiędzy ich krajami. Obama powiedział, że chińskie cyberataki, których celem jest kradzież sekretów handlowych, „muszą ustać”. „Ustaliliśmy, że ani amerykański, ani chiński rząd nie będą prowadziły ani świadomie wspierały cybernetycznej kradzieży własności intelektualnej, włącznie z tajemnicami handlowymi i innymi poufnymi informacjami biznesowymi, by w ten sposób zyskiwać przewagę na rynku” – zadeklarował prezydent w przemówieniu na trawniku Białego Domu.

Prowadzona przez Chińczyków ofensywa hakerska wymierzona w amerykańskie spółki technologiczne faktycznie zelżała, choć według wielu byłych pracowników rządu USA, z którymi rozmawiałem, regularne hakowanie w celach wywiadowczych bynajmniej nie ustało. Porozumienie miało charakter tymczasowy. Jak zawieszenie broni.

[ ]

W październiku 2015 roku, miesiąc po zawarciu przez USA i Chiny umowy w sprawie cyberbezpieczeństwa, Irfan siedział akurat w biurze, niedaleko sali mieszczącej stanowiska kontrolne monitoringu, kiedy nadszedł tajny rozkaz rządowy, który odwoływał się do nowych przepisów dotyczących bezpieczeństwa narodowego.

– Mieliśmy przez dwa lat przechowywać na naszych serwerach wszystkie wiadomości z WeChata w Sinciangu.

Wcześniej, pomiędzy kwietniem 2013 roku a sierpniem 2015 roku, firma Irfana gromadziła już z WeChata metadane: czasy połączeń, nazwy użytkowników wysyłających wiadomości, dokładne daty wysyłki tychże. Mówiąc krótko, monitorowała, kto z kim się kontaktuje, nie zaglądała jednak do treści komunikatów. Z samych metadanych mogła wyciągnąć mnóstwo informacji o sieciach społecznościowych różnych osób. Teraz jednak miała pójść o krok dalej i dobrać się do samej treści.

– Programy SI skanowały wszystko – opowiadał Irfan. – Znajdowały korelacje, których nie dostrzegaliśmy. Wyszukiwały nawet wiadomości zawierające takie słowa, jak „bomba” czy „broń”. Ludzie nie mieli na coś takiego czasu, ale SI mogła to zrobić.

Niegdyś całkiem niewydajna aparatura monitoringowa zyskała nowe życie. Dla Irfana wyglądało to tak, jakby nagle zaczęła myśleć, widzieć, postrzegać i rozumieć, choć w rzeczywistości daleko jej było do stopnia technologicznego zaawansowania, który mógłby pozwolić maszynie stać się istotą rozumną. Wciąż brakowało jej ogólnej inteligencji i nie potrafiła wyjść poza jeden z góry zaprogramowany obszar działania. W gruncie rzeczy potrafiła wykonywać tylko jedno zadanie: analizować to, co ludzie pisali na WeChacie, poprzez wyszukiwanie korelacji między słowami kluczowymi, takimi jak „Koran” albo „terrorysta”, czy jakimikolwiek innymi odnoszącymi się do religii lub przemocy.

Ewoluujący system inwigilacji z pomocą SI wysyłał pracownikom siedzącym przy stanowiskach kontrolnych pozornie losowe informacje osobiste na temat różnych ludzi.

Pewna młoda kobieta lubiła chodzić do kina. Pewien młody ojciec być może miał, problem z nadużywaniem alkoholu. Pewien człowiek poprzez osobliwe wykorzystanie wiadomości tekstowych zdradzał sztandarowe cechy złodzieja. Inni byli potencjalnymi terrorystami.

– Nie rozumieliśmy, w jaki sposób sztuczna inteligencja dochodzi do tych wniosków – przyznał Irfan. – Wiele z nich zdawało się losowych i niepokojących. Nie miałem pojęcia, czy ludzie wskazani przez SI jako podejrzani naprawdę byli podejrzani. Kiedy doszło do fuzji big data i SI, wszystko się zmieniło. Dostałem od kierownika polecenie przenosin do innego działu, bo pozostali pracownicy nie chcieli mnie widzieć w dotychczasowym miejscu pracy. Oni byli Chińczykami Han, a ja jednym z [nielicznych] Ujgurów w biurze. Nie czułem się tam dobrze. Być może moi hańscy współpracownicy myśleli, że ujawnię jakieś informacje, żeby pomóc innym Ujgurom.

Jesienią 2015 roku, czyli mniej więcej w czasie wprowadzenia nowej ustawy o bezpieczeństwie narodowym, Irfan zauważył, że starzy koledzy go ignorują, kiedy próbuje się witać albo zabierać głos na spotkaniach firmowych. Unikali patrzenia mu w oczy i nie chcieli, aby ktokolwiek widział ich w jego towarzystwie.

– Potem zaczęli odmawiać mi wstępu do newralgicznych pomieszczeń. Kazali mi czekać na zewnątrz.

Irfan stracił więc stanowisko i musiał zadowolić się podrzędną funkcją telewizyjnego propagandysty. 

– Moja praca polegała na puszczaniu w krajowej telewizji filmików o tym, jak
szczęśliwie żyją Ujgurzy. Szefowie chcieli nawet dystrybuować te filmy propagandowe na
cały świat, ale nigdy się to nie udało.

Choć Irfan nie miał już wglądu w wewnętrzne działania inwigilacyjnej machiny, bardzo wątpił, aby rząd zechciał szybko przerwać projekt masowego gromadzenia danych. Bez niego nie mógłby monitorować, inwigilować i odseparowywać mniejszości etnicznych od większości. To z kolei oznaczało, że prędzej czy później władze zaczną szukać sposobu na wyjście poza ograniczony zasób informacji, jakie mogły im zapewnić media społecznościowe i aplikacje komunikacyjne.