Iran, AI na wojnie, rewolucja technologiczna? Nas to nie obchodzi

To zaskakujące, że przy takiej modzie na tematykę AI sprawa przechodzi u nas niemal bez echa. Mamy do czynienia z rewolucją, którą można porównywać z pierwszym użyciem broni atomowej. Sztuczna inteligencja właśnie dowiodła, że jest w pełnym tego słowa znaczeniu technologią typu "dual use", czyli ma zastosowanie cywilne i wojskowe, choć ponoć model stosowany przez Pentagon różni się od tego, co widzimy na co dzień. Także swoją mocą.

W ciągu minut dokonuje czegoś, co w żargonie wojskowym nazwano "kompresją decyzji" i wskazuje cele, których wyznaczanie zajmowało wcześniej ludziom i komputerom godziny. W ten sposób, według mediów, w ciągu pierwszych 24 godzin wojny zniszczono 900 celów w Iranie, choć wciąż nie wiadomo, na ile dotyczyło to zabicia przywódcy Iranu ajatollaha Ali Chameneiego.

Sam fakt użycia AI przez wojsko nie jest nowością. Nowością jest skala i coraz wyższe miejsce, jakie te systemy zajmują w łańcuchu decyzyjnym. Człowiek podejmuje decyzje, ale nie ma już czasu, by ocenić cały łańcuch analizy danych. Następny krok to kwestia podejmowania decyzji. Zresztą już jakiś czas trwa spór, czy broń w pełni autonomiczna była używana na Ukrainie (dowództwa ukraińskie i rosyjskie temu zaprzeczają). Mówiąc krótko, czy o zabiciu człowieka decyduje jeszcze drugi człowiek.

Co się dzieje w tym czasie z naszym krajem? Żyjemy awanturą o SAFE (i sejf Adama Glapińskiego), w której linie podziału idą równo według sympatii partyjnych i dominują przekazy polityczne multiplikowane przez główne media obu stron.

Spór dotyczy tego, czy rząd jest nieporadny w ściąganiu Polaków z Bliskiego Wschodu, czy też winni są sami, bo nie powinni jeździć, a do tego ten Dubaj. Strach i nadzieje przed zmianami w dużej telewizji. No i na osłodę "Taniec z gwiazdami", akurat trzeba przyznać, że wnosi odrobinę radości i ponadpolityczności do tej środkowoeuropejskiej republiki, gdzie ludność, szczególnie plemię bliskie obozowi rządzącemu, zajmuje się głównie szykowaniem maczet na drugie plemię o tym samym obywatelstwie.

Przejrzałem podcasty i audycje medialne. Dwie dziennikarki skupiły się na poprzedzającym wojnę sporze pomiędzy prezydentem Trumpem a wspomnianą firmą Anthropic, twórcą modelu Claude. Puenta? Dobry Anthropic w przeciwieństwie do konkurencji jest wysoce etyczny, dlatego nie chce współpracować ze złym Trumpem. Wszystko wpisane w emocjonalne i symboliczne narracje polskiej polityki i mediów.

Warto tu wyjaśnić jedną rzecz. W tym żargonie nie ma zasad etycznych tak, jak je rozumiemy i jak odebrały je wspomniane panie, jako normę postępowania wynikającą z przekonań o tym, co jest dobre, a co złe.

Anthropic ma odpowiadać zarówno za plan porwania Nicolása Maduro, jak i wyznaczanie celów w Iranie, w tym być może feralne niedopatrzenie polegające na niezauważeniu szkoły dla dziewcząt na terenie bazy marynarki. Wojna i operacje specjalne w ogóle nie są etyczne i nigdy nie były. Tu "etyka" oznacza po prostu granicę, której nie wolno przekraczać, bo może się zrobić niebezpiecznie. Ale i to wątpliwe. Wszyscy wiedzą, że ten, kto ich nie będzie przekraczał, przegra. Dlatego zrobiło się bardzo niebezpiecznie.

Tymczasem niemal równocześnie z wojną w Iranie wybuchła bezkrwawa wojna w USA między dwoma ludźmi, Donaldem Trumpem a Dario Amodei, szefem wspomnianej firmy, która ma ambicje być najpotężniejszym start-upem w dziejach świata. Panowie dali sobie po razie. Amodei oskarżył Trumpa o zmuszanie firmy do łamania swoich kodów etycznych i próbę przejmowania kontroli.

Trump, oprócz rytualnego zarzucenia swoim oponentom, że są lewakami, ogłosił, że Anthropic zostaje wycięty z wojskowych i publicznych zamówień publicznych i że dogada się z jego konkurencją, czyli OpenAI, wynalazcami Chata GPT.

Przy okazji pojawiło się jeszcze jedno pytanie. Przede wszystkim to, jak głęboko sztuczna inteligencja penetrowała najbardziej zastrzeżone obszary działania CIA i Pentagonu, a także jak daleko była od tego, by przejąć kontrolę nad poszczególnymi fragmentami całości.

Tu pojawia się suma wszystkich strachów rysowanych przez strategiczną literaturę science fiction, czy esejów w rodzaju "Singularity warfare" autorstwa pracującego na Uniwersytecie Warszawskim naukowca hinduskiego pochodzenia Ridvana Bari Urcosty. Czyli pomieszanie symulacji z realiami i rozmycie granic między ludzką decyzją a wyrokiem sztucznej inteligencji.

Pojawia się też wizja znana od lat dobrze miłośnikom strategii i jądrowych symulacji komputerowych - okna przewagi strategicznej. Kiedy algorytm zobaczy przewagę strategiczną, a także jej brak w przyszłości, podejmie inicjatywę wojenną, także nuklearną. Taka analiza była osiągalna już w latach 50., a w latach 60. program do analizy strategicznej proroczo przepowiadał USA klęskę w Wietnamie. Co więc ma być różnicą? To, że przy kompresji decyzyjnej i nanosekundach, na które będą ścigały się konkurencyjne modele, nie będzie miejsca na ludzkie emocje. A to strach z obu stron kilka razy ratował świat przed wykorzystaniem przewagi strategicznej przez ZSRR lub USA.

Tu po prostu będzie pierwsza decyzja wynikająca z danych o własnej przewadze albo o rosnącej przewadze przeciwnika, która wymusza prewencyjne uderzenie.

Przechodząc na moment na drugą stronę "dual use", Rafał Brzoska, który skonfrontował Claude ze swoimi menedżerami, mówi o szybkim zanikaniu całych sektorów zatrudnienia dla ludzi w gospodarce. Powstaje też poważne pytanie o to, na ile wybory będą procesem demokratycznym w sytuacji, kiedy cały proces kampanii, wyboru kandydatów, komunikacji i strategii politycznej przejmą algorytmy.

W końcu powstaje zjawisko załatwiania interesów politycznych, naruszania procesów demokratycznych, a także ograniczania wolności słowa w ramach walki z domniemanymi, rzekomymi lub po prostu wymyślonymi nadużyciami kreowanymi przez algorytmy.

Polska potrzebuje nowoczesnych regulacji i decyzji, kontroli danych, w końcu badań i rozwoju. Trudno o tym mówić w sytuacji, gdy stanowiska w ośrodkach badawczych przekazano partyjnym nominatom i dziennikarzowi, który za pomocą metody łączenia kropek specjalizował się w dowodzeniu, że Jarosław Kaczyński jest rosyjskim szpiegiem.

Europejska Rada ds. Innowacji EIC dysponuje miliardowymi środkami na finansowanie przełomowych projektów deep tech, w tym systemów opartych na sztucznej inteligencji. Udział polskich podmiotów w tym programie pozostaje jednak marginalny, zarówno pod względem liczby projektów, jak i wartości pozyskanego finansowania. Charakterystyczne, że równocześnie toczy się wielki spór o SAFE. Widać, że tamtej sprawy nie dało się wpisać w agendę politycznej naparzanki, która stała się życiem szefa rządu.

A państwo jesteście za Kaczyńskim i Trumpem czy Tuskiem i Brukselą? Bo w tym pytaniu mieści się dziś odpowiedź na wszystkie problemy świata na naszej pogrążonej w wewnętrznym konflikcie odizolowanej wyspie.

Wiktor Świetlik