Nasze dane w rękach gigantów. "Wszyscy jesteśmy w tym mechanizmie"

Anna Nicz: - Amerykański dziennikarz Kyle Chayka w książce "Filterworld" opowiadał o tym, że wybierane przez niego kawiarnie w różnych zakątkach świata mają podobną estetykę, co tłumaczy kulturową globalizacją wspieraną przez algorytmy. W naszych stosunkach z big techami podobne do siebie kawiarnie to chyba najmniejszy problem. Jaki jest największy?

Sylwia Czubkowska: - Problemów jest wiele, zazębiają się, zahaczają o siebie nawzajem. Ale na szczycie wskazałabym monopolizację. I to nie tylko taką teoretyczną w rozumieniu prawno-ekonomicznym. Także praktyczną, bo monopole są złe, gdy odbierają nam szanse na wiele rzeczy. Choćby na różnorodność produktów.

- Gdy mówimy o kawiarniach, widać jeszcze jakąś różnorodność. Spójrz, siedzimy i rozmawiamy w jednej z takich, wydawać by się mogło, powtarzalnych - choć nie sieciowych - kawiarni, ale jednak jest w niej pewna unikalność. Wynika nie tyle z wystroju wnętrza czy nawet asortymentu, a z tego, jak jej pracownicy starają się swoim klientom zapewnić jak najlepszą usługę w postaci dobrej kawy, ale także miłej, dopasowanej pod konkretną osobę obsługi. Tego doświadczenia w dostępie do kolejnych usług technologicznych mamy coraz mniej. Konkurencja albo nie istnieje, albo jest trudna do znalezienia. I nie chodzi tu o samą alternatywę dla alternatywy, o bycie w kontrze. Tylko o alternatywy postrzegane jako bardziej dopasowaną, lepszą, wygodniejszą dla nas konsumentów ofertę.

- To monopol doprowadza do tego, że nie dostajemy innowacji, nowych, ciekawych, jak to się mówi - "ładnych rzeczy". Firmy, które mają już zagarnięte rynki nie czują presji do eksperymentowania. Nie są od tego, żeby wymyślać kolejne nowe usługi, tylko żeby zarabiać.

Czytaj więcej: Szukał wyjątkowej kawiarni, zawsze znajdował to samo. Pułapka algorytmów

Przecież firmy co jakiś czas reklamują jakąś nową, fajną usługę, nowy model smartfona itd.

- Wspaniale, ale czy faktycznie to są nowości? Czy raczej marketingowe nakładki, drobne zmiany funkcjonalności, zwiększanie pamięci, ostrości obrazu, trochę bajerów. Zastanówmy się, jaki jest największy wynalazek ostatnich 10 lat? Wynalazek, który sprawił, że pod jakimś kątem nasze życie diametralnie się zmieniło?

Generatywna AI. Nie możesz zaprzeczyć, że to jednak ogromny i ważny skok technologiczny.

- Tak, niedługo miną trzy lata od premiery ChataGPT3, nastąpił inny boom na kolejne usługi, czaty, modele, oparte na generatywnej AI. I tu widać ten impet, rynek nie jest jeszcze całkiem zabetonowany przez kilku największych graczy. Ale i w tych usługach zaczynają się niebezpieczne tendencje. OpenAI, które urosło do wyceny ponad 500 mld dolarów, wcale nie tak nieśmiało pokazuje nowe opcje w ChatcieGPT, które kierują go w stronę platformy społecznościowej i sprzedażowej. Czyli nie wymyśla czegoś nowego, nie idzie w stronę wykorzystania ogromnych zasobów mocy obliczeniowych choćby w stronę poszukiwania mitycznego leku na raka. Zamiast tego zaczyna się kombinowanie, jak by tu z konsumentów uczynić bardziej uzależnionych od produktu użytkowników, na których będzie można więcej zarobić.

- Obawiam się, że z takim podejściem, ale także z coraz bardziej szalonymi budżetami potrzebnymi na wspomniane moce obliczeniowe, i ten rynek zacznie się odgradzać i dążyć w stronę monopolizacji… I zostaną nam zalewające nas AI slopy w miejsce wielkich wynalazków, które AI miała przynieść ludzkości.

- W którym momencie nastąpił ostatni wyraźny skok technologiczny dla nas, zwykłych konsumentów? Wraz z pojawieniem się internetu 3G, przejścia do LTE, pojawieniem się smartfonów, tabletów czyli wraz z rewolucja mobilną. Potem dochodziły nowe funkcjonalności, nowe wersje sprzętu, szybszy, bardziej przepustowy internet, lepsze aplikacje i wreszcie na tej technologicznej bazie media społecznościowe i usługi streamingu. Czegoś trochę więcej, coś trochę szybciej.

- Po kilkunastu latach zaczął się regres. Te usługi, zamiast się poprawić, są raczej psute. Pisarz Cory Doctorow wymyślił na to świetną nazwę - "enshitification", czyli "rozgównienie". Kiedyś usługa była lepsza, niż teraz, a jeśli chcesz znowu mieć ten lepszy standard, musisz za niego zapłacić. Czasem gotówką, czasem zgodą na to, by oddać jeszcze więcej swoich danych, czasu, uwagi. Zupełnie inaczej to sobie wyobrażaliśmy. Wiesz, że George Jetson zgodnie ze scenariuszem klasycznej kreskówki (Jetsonowie - red.) urodził się kilka lat temu. A to zupełnie nie jest ten świat przyszłości, o jakim marzono kilka pokoleń wstecz.

Powinniśmy już mieć latające taksówki?

- Taksówki, roboty pracujące w domach przebrane za pokojówki, ruchome chodniki… No dobra, żartuję, to oczywiście dziecięce wyobrażenia przyszłości, niekoniecznie najbardziej praktyczne ani potrzebne. Ale pokazują, jak bardzo technologiczne fantazje nie sprawdzają się w realnym świecie.

- Nawet wspomniana AI - zwróć uwagę na to, jak dużym problemem jest zwalczenie jej halucynacji, co powoduje, że wciąż nie możemy jej w pełni zaufać, a co dopiero zrzucić na jej barki trudy i znoje różnych trudnych zadań, z którymi się mierzymy.

Może to dla nas być nieco pocieszające. Oddalamy się od momentu, gdy AI zacznie zastępować kolejne stanowiska pracy.

- Niestety i tak zabiera. Częściowo dlatego, że kolejne firmy otumanione trochę wizją bycia nowoczesnymi, a trochę krótkoterminowym rachunkiem ekonomicznym, próbują przechodzenia w ekspresowym tempie na AI. Czasem, jak szwedzka Klarna, muszą się szybko zreflektować i z powrotem zatrudniać ludzi. Ale w wielu przypadkach efekt będzie jeden: większe wymagania w stosunku do ludzi, bo przecież AI może ich zastąpić, a nawet jeżeli nie, to mają wsparcie w postaci AI, więc to oczywiste, że powinni być bardziej produktywni.

- Więc zamiast, dzięki technologiom czynić nasze życia lżejszymi, lepszymi, odciążać nas, ludzie dodatkowo są poddawani technostresowi, że są za słabi, za mało wydajni. I tu mamy pewnego rodzaju pętlę, bo podobne zjawiska od wielkiego optymizmu, po rozczarowania przeżywaliśmy już w relacji z innymi technologiami. Tak naprawdę w dużej mierze innowacje z ostatnich 20 lat, z perspektywy bycia bardziej dojrzałymi obywatelami tego świata, coraz wyraźniej widzimy jako problematyczne. Na czele z największą innowacją pierwszych lat XXI wieku czyli z mediami społecznościowymi.

- Okazały się one ani nie mediami, ani nie społecznościowymi, tylko mechanizmami do takiego zbierania informacji o nas, że firmy, które za nimi stoją, upasły się do gigantycznych rozmiarów. Stało się to możliwe dzięki temu, że te platformy stały się maszynami do przetwarzania nadwyżek behawioralnych. Termin ten wprowadziła Shoshana Zuboff, oznacza on część danych o ludzkich zachowaniach, które wykraczają poza to, co jest niezbędne do usprawniania usług cyfrowych.

Jak wytłumaczyć to pojęcie w kontekście technologii?

- Firmy technologiczne opierają się mocno na zbieraniu danych. Potrzebują ich do swojej pracy, do tworzenia własnych produktów, usług. Kiedy korzystasz z wyszukiwarki, mediów społecznościowych czy aplikacji, firmy zbierają dane potrzebne do świadczenia usługi, jednak rejestrują także znacznie więcej informacji: czas reakcji, sposób poruszania myszką, lokalizację, historię kliknięć, interakcje z innymi użytkownikami. Ta dodatkowa pula danych, niekonieczna dla samej usługi, to właśnie nadwyżka behawioralna, którą mogą wykorzystywać do targetowania użytkowników pod sprzedaż produktów i usług. Albo pod docieranie z bardziej doskonałymi algorytmami pozycjonowania treści. Wszyscy jesteśmy w tym mechanizmie.

- W efekcie Facebook przestał być firmą, która specjalizuje się w mediach społecznościowych. Facebook jest firmą reklamową. Google ma wyszukiwarkę, mapy, pocztę, system operacyjny, ale przede wszystkim jest firmą reklamową. Na tym zarabiają. Podobnie Bytedance, czyli właściciel TikToka. To innowacja, która tym firmom dała potęgę, a nam, no cóż - uzależnienie od świetnie targetujących nas algorytmów.

Dała nam cokolwiek więcej?

- Dostajemy dobrze dopasowane do siebie reklamy, więc kupujemy więcej.

Tymczasem pewnie każdy, kogo zapytasz powie, że nie chce tego widzieć, nie potrzebuje tego, czuje się zmęczony.

- Czuje się przebodźcowany - z jednej strony nadmiarem rzeczy, z drugiej strony z niedomiarem, bo wszyscy inni mają więcej. A przynajmniej takie jest złudzenie.

- Skoki technologiczne w przeszłości dawały nam nadzieję na to, że będzie lepiej, że czeka nas coś ekscytującego. Dziś w stosunku do AI jest jeszcze trochę technologicznych optymistów, ale lekcja wyciągnięta z ostatnich dwóch dekad powoduje, że jest to trudne. Nie chodzi o podejrzenia w stosunku do samej technologii, tylko do firm, które ją tworzą. Niestety jest spora szansa, że będą powtarzały mechanizmy i działania big techów. Będą chciały podbijać rynki, wychowywać sobie konsumentów, uzależniać nas od swojej oferty. A wszystko przy wykorzystaniu wspomnianej nadwyżki behawioralnej, wspartej ogromnymi mocami obliczeniowymi i coraz doskonalszymi algorytmami.

- Żeby ten monopolistyczny dryf mógł być dalej możliwy, firmy zaczynają coraz bardziej patologizować swoje działania, otoczenie, w którym funkcjonują, chwytają się tych samych strategii, które opisuję w "Bóg techach".

- Zaczynają bardzo mocne procesy przejmowania konkurencji, aby uzależniać od siebie. Wchodzą na kolejne rynki, spowalniają prawo, ładują ogromne zasoby w lobbing. Konkurencja, która mogłaby przynieść coś nowego, nie ma szans się rozwinąć.

Na co dzień nie myślimy o tym, nie zdajemy sobie z tego sprawy, bo mamy wrażenie, że na rynku co chwila pojawia się jakaś nowość: nowy smartfon, lepszy tablet, nowa wersja modelu AI.

- Jesteśmy zarzucani takim pozłotkiem. Wszystko świeci, wszystko jest nowe. Tymczasem pod spodem nie ma żadnych dużych, generalnych, fundamentalnych zmian.

Odświeżanie, jak rekonstrukcja rządu.

- Tak. Dlatego właśnie myślę, że monopol jest największym bólem. Jednocześnie takim, z którym można jeszcze coś zrobić. Nie będzie to łatwe, ale można próbować. Na szczęście monopole są opisane prawnie, wiele państw ma narzędzia do ich łamania.

- Jest to jednocześnie coraz trudniejsze. Pojawia się obawa - może lepiej nie ruszać dużej firmy, bo będzie jeszcze gorzej? Widać to po dwóch procesach antymonopolowych przegranych przez Google.

- Jeden dotyczył monopolizacji rynku wyszukiwarek. Tak, firma, od której wzięło się słowo "googlowanie" od lat twierdziła, że na rynku jest duża konkurencja i wcale nie jest monopolistą. By to podważyć, rząd USA potrzebował kilku lat śledztwa i twardych dowodów. Jednymi z nich były potwierdzenia, że Google płacił dziesiątki miliardów dolarów dla firm takich jak Samsung, Apple, czyli dostawców sprzętu, ale także firm takich jak Firefox czy Mozilla, czyli dostawców przeglądarek, żeby ich wyszukiwarka pojawiała się jako domyślna, preinstalowana, wręcz wciskana do gardeł użytkownikom .

- Po tym, jak sąd orzekł, że Google jest monopolistą, Departament Sprawiedliwości zaproponował środki zaradcze, w tym nawet odebranie Google'owi przeglądarki Chrome. Ostatecznie zdecydowano się na łagodniejsze kroki, takie jak zobowiązanie firmy do dzielenia się informacjami, nadwyżką behawioralną z innymi podmiotami rynkowymi tak, by i one miały szanse się rozwijać.

- Widać więc wyraźnie, że nikomu nie chodzi o to, by poważnie zaszkodzić firmie, tylko żeby oddała trochę innym, podzieliła się danymi. Choćby dlatego, że na ich bazie inne firmy też będą mogły pracować nad AI.

- Big techy, budując taką patologiczną pozycję na rynku, odcinają konkurencji możliwość tworzenia innowacji, także tych opartych na sztucznej inteligencji. Gdy spojrzymy na problem monopoli właśnie z takiej optyki to widać, że odebrano nam szansę na lepsze technologie. Aż ciężko sobie wyobrazić, jak lepsze mogliśmy mieć życie.

Więc może jednak nie jest nam żal, bo do końca nie wiemy, czego mamy żałować?

- Naprawdę mogliśmy mieć lepsze rzeczy, nieuzależniające a bardziej praktyczne treści w mediach społecznościowych. Mogliśmy mieć narzędzia, które zapewniłyby więcej bezpieczeństwa, rozwiązując poważne wyzwania. Tymczasem poszło w stronę tego, żebyśmy zostali gałkami ocznymi, którym można wciskać treści reklamowe i na nas zarabiać.

W książce cytujesz eksperta, który mówi, że musimy pogodzić się z tym, że każdemu w życiu przydarzy się kradzież tożsamości. 

- Niestety tak. Na to, że ktoś ukradnie ci tożsamość mamy szanse większe niż na kradzież portfela na ulicy, zwłaszcza w takim bezpiecznym kraju jak Polska. To dzieje się cały czas. Często nawet nie wiemy o tym, że na przykład wyciekła baza danych z informacjami o nas.

- To także jeden z elementów popsucia mediów społecznościowych, na których wciąż bezkarnie reklamują się oszuści i na tych reklamach wielkie platformy zarabiają. Co więcej, oszukany człowiek ma później znacznie mniejsze szanse na otrzymanie pomocy od platformy, bo w ocenie algorytmu jest mniej ważny niż oszust, bo ten zapłacił przecież za reklamy.

To dlaczego nie rezygnujemy masowo z tych platform, nie ma zjawiska odchodzenia ludzi z serwisów społecznościowych?

- Bo zostaliśmy w pewien sposób zamknięci w ogrodach, za murami konkretnej firmy, konkretnej usługi. Nie ma interoperacyjności, która pozwoliła by nam zabrać swoje wpisy, zdjęcia, filmy, wspomnienia i przenieść się do innego ogrodu. A wciąż jednak ogromna część użytkowników chce przynajmniej części tego życia. Co więcej, do takiego funkcjonowania wychowywane są kolejne pokolenia. Dzieci i nastolatki nawet w szkołach wychowywane są do życia w zamkniętym ogrodzie jednej, drugiej, trzeciej firmy. Od małego nie tłumaczy im się tych problemów, tylko wrzuca w konkretne usługi, więc nie widzą potrzeby kombinowania i szukania alternatywy.

A firmy nie muszą się bardzo starać dla klientów?

- Nie tak, jak mogłyby się starać, gdyby istniała prawdziwa rynkowo konkurencja. Dziś już nie jesteśmy dla nich klientami. Jesteśmy użytkownikami. My używamy i nas się używa. Bo klient ma prawa, a użytkownik... ma to co ma.

Czy w ramach tych ogrodów jesteśmy zamykani także w grupach wiekowych? Np. przedstawiciele pokolenia Z rzadziej korzystają z Facebooka.

- Facebook nie chciał być taki boomerski. A TikTok wciąż podkreśla, że wśród jego użytkowników nie ma samych bardzo młodych ludzi. To jednak pokazuje, że skupienie się na komponencie reklamowym, zarobkowym spowodowało, że firmy straciły z pola widzenia to, co dzieje się z ich użytkownikami i ciężej jest im dotrzeć do nowych grup.

- Tak naprawdę największą innowacją na tym rynku było pojawienie się na Facebooku "lajka" w 2009 roku. To od lajków zaczęła się drastyczna zmiana mediów społecznościowych. Algorytmy przestały być oparte na elemencie czasowym, a zaczęły proponować treści, oceniając, co bardziej przyciągnie twoją uwagę. Od tego zaczęło się silne uzależnianie. Trudno się z tego wyłączyć, bo wytrenowano w nas te potrzeby.

Mamy jeszcze szansę wychowywać dzieci w taki sposób, żeby nie wpadały w to uzależnienie?

- Globalnie nie, jednostkowo tak. Wiem, że łatwo wpadać na takie proste lekarstwa jak zakaz telefonów w szkołach. A nie jestem zwolenniczką samego zakazu bez połączenia z szerokimi politykami wsparcia dzieci. Wprowadzenie zrozumiałych dla nich, ale także dla nauczycieli i rodziców zasad ma większy sens. To nie dzieci powinny być pociągnięte do odpowiedzialności, nie powinny czuć się ukarane, tylko dostawcy tych uzależniających narzędzi i treści.

- Młodym trzeba mówić o zagrożeniach we właściwy sposób, pokazywać je, traktować dzieci podmiotowo. To zresztą jest bardzo ważne w świecie technologii, działań antymonopolowych - przywracanie nam podmiotowości.

Edukacja medialna pojawia się w podstawie programowej edukacji zdrowotnej.

- Nieobowiązkowej edukacji zdrowotnej, która wywołała burzę polityczną i na którą chodzić będzie zgodnie z deklaracjami pewnie wcale nie taki duży procent dzieci. Więc wciąż nie mamy szans na masową edukację medialną z prawdziwego zdarzenia. Kiedyś tak anegdotycznie opowiadaliśmy, że dzieci najważniejszych prezesów w Dolinie Krzemowej w szkołach uczą się bez komputerów, tylko z papierowych książek. Ale za tą anegdotą stoi dużo mądrości. Nie chodziło o to, żeby odebrać dzieciom szanse na technologię. Wręcz przeciwnie - rodzice tych dzieci byli od zawsze świadomi tego, że ich pociechy w procesie edukacji muszą uczyć się pisania, rysowania, by rozwijać motorykę małą; muszą mieć szansę na naukę głęboką bez rozpraszania ekranami. Wiedzieli, że zbyt duży kontakt z ekranami powoduje problemy z kognitywistyką, ze skupieniem, z zapamiętywaniem.

- Dziś już wszyscy o tym wiemy, są badania, są analizy, są programy edukacji medialnej, są też wprowadzane w kolejnych państwach konkretne polityki edukacyjne korzystające z tej świadomości. Niestety nie w Polsce. I co bardzo ważne: nie możemy w tym względzie liczyć na big techy. Zapomnijmy, że one tu pomogą, że się poprawią. Nie poprawią się. Nie mam żadnych złudzeń.

Dyskutujemy dużo o cyberbezpieczeństwie w kontekście działań hybrydowych Rosji. To nie jest dobry moment, żeby powiedzieć jasno: człowiek, który od wieku szkolnego nie będzie świadomy takich zagrożeń, w przyszłości może być jeszcze bardziej podatny na dezinformację, fake newsy?

- Bardzo dobry! I ta świadomość rośnie. Ale jednak zagrożenie wojenne, szczególnie rosyjskie, bardziej kojarzy nam się jako zagrożenie konwencjonalne, atak fizyczny. Tego boimy się bardziej, co jest naturalne. W efekcie obawiając się tak bardzo wojny tradycyjnej, patrząc na międzynarodowy układ sił, cały czas mocno stawiamy na Stany Zjednoczone jako jedynego gwaranta naszego bezpieczeństwa.

- A widząc, jak silna jest kooperacja między Donaldem Trumpem a big techami, bardzo rzadko myślimy o suwerenności w kontekście cyfryzacji. Nie bierzemy pod uwagę tego, że elementem naszej suwerenności jest także ta w cyberbezpieczeństwie. A naprawdę musimy mieć własne kompetencje, własne patenty, własne alternatywy. Bo co zrobimy, jeśli zmieni się układ międzynarodowy? Gdy dostawcy niezbędnych narzędzi naszego codziennego funkcjonowania, takich jak chmura cyfrowa, przestaną być naszymi partnerami? A to przecież się zdarza.

- Przypomniała mi się pewna sprawa z tego roku, która mną wstrząsnęła. Donald Trump mocno krytykował Trybunał Haski i groził jego sędziom zakazem wjazdu do Stanów Zjednoczonych - była to odpowiedź na nakaz aresztowania premiera Izraela Binjamina Netanjahu. Nakaz ten wydano na wniosek prokuratora MTK Karima Khana. W pewnym momencie Microsoft odciął go od jego poczty. Potraktowano go jak jakiegoś terrorystę.

- Technologia nigdy nie jest apolityczna. Myśląc o naszej suwerenności technologicznej musimy pamiętać, że dziś nasz najbliższy sojusznik niekoniecznie jest nim na sto procent.

Jest kapryśny.

- Tak, jest bardzo niestabilny. Powinniśmy przy tym pamiętać, że kilka lat temu przyjęto Cloud Act, w którym amerykańskie firmy zobowiązują się do tego, by udostępniać na żądanie władz USA dane ich użytkowników z całego świata. Jeżeli przechowujesz dane w chmurze należącej do Amazona, Google czy Microsoftu, nawet nie będą pytać polskich władz o zgodę na ujawnienie tych informacji.

W kontekście chmury, przypomniało mi się…

- … o chmurze wszyscy zapominają, a jest taka ważna.

Dokładnie. Co widać było w tym, co zrobiła Ukraina tuż przed wybuchem pełnoskalowej wojny. Chodzi o przeniesienie wszystkich danych umożliwiających państwu funkcjonowanie z terenów państwa, które były zagrożone do prywatnej chmury i de facto wywiezienie ich za granicę. Do czego trzeba było zresztą zmiany w prawie. Wyobrażasz sobie, że coś takiego dzieje się w Polsce?

- Mam nadzieję, że nigdy takiej potrzeby nie będzie. Na poziomie zmiany w prawie i samej bardzo skomplikowanej kampanii wywożenia danych byłyby to bardzo nadzwyczajne środki. Ale to dobry przykład tego, jak big techy mogą pomóc, jak technologie, które oferują mogą być służebne.

- To, co zrobił Amazon i Microsoft przenosząc właściwie całe państwo ukraińskie na bezpieczne tereny, na bezpieczne serwery, było bardzo ważne. Oczywiście nie zrobiły tego zupełnie za darmo, dla ideałów, praw człowieka i tak dalej. Bo mają w tym też swoje własne interesy ekonomiczne. Ale co jest ważne - pokazały, że opracowane przez nich technologie mogą naprawdę ratować życia i oby częściej były zdolne do takich kroków!

- To pokazało także, że władze ukraińskie mają świetnie zmapowane ryzyka. Wiedzą, że bez suwerenności cyfrowej, bez kontroli nad danymi swoich obywateli nie są w stanie zachowywać suwerenności państwowej. I my też powinniśmy mieć taką świadomość.

Anna Nicz

Chcesz porozmawiać z autorką? Napisz: anna.nicz@firma.interia.pl