Szacunek dla praw człowieka i demokracji muszą stać się filarami funkcjonowania europejskiej przestrzeni cyfrowej. Jeśli ten proces się powiedzie, wówczas Europa będzie mogła stworzyć alternatywną wizję roli technologii czy sztucznej inteligencji – dla siebie i dla świata.

W składającym się z dwóch wywiadów materiale Alexandra Geese, eurodeputowana Partii Zielonych, oraz Marietje Schaake, ekspertka w dziedzinie cyberbezpieczeństwa, podkreślają potrzebę wspólnego działania Unii Europejskie w zakresie geopolitycznego wymiaru technologii. Rozmawiają o tym, jak technologie mogą służyć ludziom, jak Europa może wyznaczać światowe standardy i dlaczego przestrzeń cyfrowa jest kluczowym tematem w debatach geopolitycznych. Sukces będzie zależał od prawdziwie europejskiego podejścia opartego o inwestycje, prawa cyfrowe i budowanie koalicji.

Green European Journal: Jakie są główne pytania które należy sobie postawić, myśląc o europejskim podejściu do technologii cyfrowych?

Alexandra Geese: Istotną kwestią jest to, w jakiego rodzaju technologiach będziemy chcieli się specjalizować – szczególnie zaś w szerokim ich zakresie, wrzucanym do worka z napisem sztuczna inteligencja (AI). Dominuje dziś opowieść o tym, że Europa pozostaje w tyle za Stanami Zjednoczonymi czy Chinami. Powinniśmy sobie zadać pytanie o to jaka właściwie powinna być strategia UE wobec tych zagadnień.

Mamy aktualnie do czynienia z sytuacją, w której Chiny i USA obierają zupełnie inne drogi. Chińskie państwo stosuje narzędzia totalitarnej kontroli wobec swych obywateli, a obecnie decyduje się nawet na zwarcie z lokalnymi firmami technologicznymi, próbującymi realizować amerykański model zbierania prywatnych danych użytkowników. Prywatne korporacje w Stanach z kolei oparły swoje modele biznesowe na tworzeniu bardzo rozbudowanych profili osób, które określają jako użytkowników Internetu – tyle że, z demokratycznego punktu widzenia, użytkownicy ci to obywatele, i tak też powinni być traktowani. Te dwie, różniące się od siebie wizje technologii cyfrowych łączy poleganie na mechanizmach nadzoru.

Okres rządów Donalda Trumpa uzmysłowił Europie, iż nie może ona po prostu polegać na Stanach Zjednoczonych. Musi ona dysponować własną strategią geopolityczną, co wymagać od niej będzie kontroli nad własnymi zasobami i technologiami. Mając własną strategię możemy podjąć decyzję o tym, czy chcemy osiągac przewagi w zakresie sztucznej ideologii poprzez zwiększenie zakresu inwigilacji. Czy tego jednak chcemy? Nie sądzę. Właśnie dlatego pracujemy w Parlamencie oraz Radzie nad nowymi regulacjami, które z jednej strony dadzą nam pewność co do wzrostu poziomu inwestycji, z drugiej zaś nakierują je na odpowiednie technologie. Powinniśmy skupiać się na technolgiach AI, które zwiększą efektywność naszego przemysłu oraz pomogą w walce ze zmianą klimatu – na przykład poprzez lepszą koordynacje inteligentnych sieci przemysłowych czy inne działania, nakierowane na odpowiadanie na wyzwania zielonej transformacji. Nie chcemy budowy społeczeństwa, w którym sztuczna inteligencja służy nadzorowi czy podtrzymywaniu dyskrymiancji. Musimy dokonać tych wyborów – i musimy to zrobić teraz.

Okres rządów Donalda Trumpa uzmysłowił Europie, iż nie może ona po prostu polegać na Stanach Zjednoczonych. Musi ona dysponować własną strategią geopolityczną.

Dlaczego technologie są wyzwaniem, na które powinno się odpowiadać na szczeblu europejskim?

Jest jasne, że jako poszczególne państwa nie będziemy w stanie konkurować w kwestiach, związanych z technologiami cyfrowymi i sztuczną inteligencją. Nawet Niemcy nie tu mają szans w wyścigu z Chinami czy Stanami Zjednoczonymi. Europejskie podejście jest w tym wypadku koniecznością. Uważam, że fakt ten został już zauważony przez Komisję Europejską, ale państwa członkowskie UE wciąż mają wiele do zrobienia w zakresie pogłębienia współpracy i koordynacji strategii. Muszą na przykład skupić się na tworzeniu europejskich centrów badawczych. W Europie pochwalić się możemy tradycją instytucji tego typu o średniej wielkości, funkcjonujących w różnych miastach i cechujących się zróżnicowanymi specjalizacjami. Możemy skorzystać z tej tradycji decentralizacji, nadając jej wyższy, europejski cel.

Czy możliwe jest w ogóle wpisanie wartości, takich jak demokracja czy prawa człowieka, w regly funkcjonowania cyfrowego świata?

Tak. Potrzebujemy do tego jednak odpowiedniej legislacji. Taki cel stawia sobie chociażby Akt w sprawie sztucznej inteligencji – ale to nie wystarczy. Musimy unikać wszystkiego, co stałoby w sprzeczności z naszą wizją wolnej woli jednostek, likwidując ukryte, dyskryminacyjne założenia wpisywane w AI oraz jasno sprzeciwiając się działaniom w rodzaju upowszechniania się rozpoznawania biometrycznego, deep fake’ów czy szemranym sposobom wykorzystywania technologii, takim jak identyfikowanie emocji. To samo tyczy się Aktu o usługach cyfrowych czy Aktu o rynkach cyfrowych. Dane obywateli muszą przestać być przekazywane (często bez efektywnie wyrażonej zgody) dwóm czy trzem globalnym firmom, które użyją je do stworzenia profili użytkowników i ich późniejszej sprzedaży. Ramy prawne muszą wspierać osiąganie tych celów – tak, by opierające swój model biznesowy na prywatności firmy były w stanie konkurować na rynku – tak w Europie, jak i poza nią. Nie jest to niemożliwe. Wiele tego typu przedsięwzięć funkcjonuje na kontynencie już dziś.

Obecna sytuacja nie jest jakimś prawem natury, a efektem braku odpowiednich regulacji. Uważam, że Europa może kreować inne standardy. Prawodawstwo, które musi zostać wprowadzone, musi wiązać się z paroma zakazami, ale zarazem przyczyni się do otwarcia rynku, zdominowanego dziś przez kilka potężnych firm, na większą konkurencję.

Potrzebować również będziemy inwestycji. Europa ma dziś problem z ich finansowaniem. W Chinach liczyć można na sporej wielkości wsparcie publiczne, podczas gdy Stany Zjednoczone dysponują olbrzymim rynkiem venture capital. Europejscy inwestorzy pozostają tymczasem bardzo konserwatywni. Finansowanie otrzymuje się, gdy można pochwalić się odpowiednim zabezpieczeniem. W ich przyznaniu pomaga sytuacja, gdy jesteś mężczyzną i realizujesz tradycyjne normy, oczekiwane przez inwestorów. Rozwój sektora cyfrowego ogranicza dziś brak różnorodności.

Dane obywateli muszą przestać być przekazywane (często bez efektywnie wyrażonej zgody) dwóm czy trzem globalnym firmom, które użyją je do stworzenia profili użytkowników i ich późniejszej sprzedaży.

O jakie stawki toczy się aktualna gra legislacyjna w Europie?

O to, czy Unia jest w stanie stworzyć i przyjąć regulacje, które zabezpieczać będą demokratyczne prawa i wartości, zapisane w Karcie Praw Podstawowych, czy może będziemy jedynie udawać posiadanie odpowiedniego prawa, a obecne w nim luki umożliwią dalsze sukcesy modelu amerykańskiego – a nawet chińskiego.

Akt o usługach cyfrowych (DSA) stanowi dobrą propozycję ze strony Komisji Europejskiej, nie zmienia jednak tak bardzo pola gry. Mierzy się z szeregiem systemowych problemów, takich jak używanie algorytmów do wzmacniania widoczności określonych treści, kwestiami przejrzystości czy dostępu do danych, ale to zdecydowanie za mało. Za przykład weźmy transparentność algorytmów. Duże platformy cyfrowe będą musiały dokonać samooceny związanych z nimi ryzyk, które przejdą następnie niezależny audyt. Facebook czy Google nigdy nie przyznają jednak, że ich modele amplifikacji treści stanowią systemowe zagrożenie dla demokracji. Nikt nie jest w też w stanie udzielić sensownej odpowiedzi na pytanie o to, kto właściwie wykonywać będzie te audyty. Audytorzy przekonywać będą, że w przeciwieństwie do sprawdzania operacji finansowych, gdzie mamy za sobą kilka dekad doświadczeń, nie ma precedensu w zakresie kontroli dużych platform cyfrowych. W obliczu braku dysponujących odpowiednią ekspertyzą firm bardzo prawdopodobna jest sytuacja, w której założone przez Google czy Facebooka inicjatywy audytować będą firmy, które je stworzyły. Potrzebujemy silnych mechanizmów wdrożenia takich regulacji, jak również niezależnych instytucji audytujących, które będą mogły powstać pod okiem niezależnej, publicznej agencji.

W wypadku sztucznej inteligencji DSA zabrania szeregu niebezpiecznych praktyk, takich jak inspirowanych Chinami rozwiązań w rodzaju systemu zaufania społecznego czy identyfikacji biometrycznej w przestrzeniach publicznych. Znajdziemy tam jednak za dużo odstępstw, generujących ryzyko podmywania naszych podstawowych praw. Przykład? W celu walki z zawartymi w algorytmach uprzedzeniami wzywa się do reprezentatywnego charakteru danych, na bazie których są tworzone – nie wyjaśnia się jednak co to właściwie znaczy. Na poziomie retoryki brzmi to dobrze, ale już konkretne zapisy potrafią być niewystarczające.

Czy istnieją napięcia pomiędzy etycznym i demokratycznym regulowaniem technologii a geopolitycznymi skutkami ich rozwoju?

Oczywiście nie wygrywa się wyścigu tylko dlatego, że jest się etycznym. Historia pokazuje jednak, że koniec końców totalitarne społeczeństwa zawsze przegrywają. Wierzę, że wolność pozwala nam zrealizować najlepsze rozwiązania. Wolne społeczeństwa muszą jednak być bronione. W trakcie pandemii mogliśmy obserwować, jak Chinom i Rosji udaje się wyprodukować własne szczepionki wcześniej niż państwom Zachodu, po czym okazało się jednak, że te zachodnie są bardziej efektywne. Posiadanie otwartego społeczeństwa, wolnej prasy i swobody badań naukowych stanowi najlepszy grunt dla najskuteczniejszych rozwiązań.

Komisja Europejska ogłosiła niedawno plany, związane z inwestowaniem w produkcję półprzewodników. Co zasugerowałabyś Europie, jeśli chodzi o kwestie związane z inwestycjami i zdolnościami produkcyjnymi w dziedzinie technologii?

Inwestycje odgrywają tu kluczową rolę – rolę, która nie jest doceniana przez państwa członkowskie. Komisja Europejska zaproponowała zwiększenie budżetu na badania cyfrowe, ale postulat ten nie znalazł uznania Rady. Nie jest to zatem winą Komisji, lecz odpowiedzialności rządów państw Unii. Europa musi zwiększyć budżety tego typu inicjatyw co najmniej dziesięciokrotnie by utrzymać się w wyścigu z Chinami i Stanami Zjednoczonymi.

Unia ma pewne interesujące projekty, ale nie są one wystarczające. Mówię tu chociażby o Gaia-X, ujednoliconym ekosystemie usług w chmurze oraz centrów danych, zarządzanych wedle europejskiej legislacji i wspieranych przez amerykańskie podmioty, zajmujące się hiperskalowaniem[1]. Przydałaby się nam teraz europejska inicjatywa, pozwalająca nam zacząć coś zupełnie nowego – mająca odpowiednie wsparcie, w tym finansowe. Obecnie musimy polegać na Microsofcie czy Google, a to nie pozwoli nam urzeczywistnic wizji realnej autonomii strategicznej. Potrzebujemy więcej odwagi i więcej pieniędzy.

Czy – wraz w z kształtowaniem własnego modelu cyfrowego przez Europę – regulacje związane ze środowiskowym wymiarem sztucznej inteligencji i gospodarki cyfrowej nie powinny zacząć zajmować więcej naszej uwagi?

Jak najbardziej. Musimy myśleć o osiągnięciu neutralności klimatycznej oraz o zrównoważonym rozwoju – a także o strategiach, umożliwiających nam ich realizacje razem z naszymi zamierzeniami w kwestiach cyfrowych. Komisja Europejska stawia przed sobą dwa cele: neutralność klimatyczną dizęki Europejskiemu Zielonemu Ładowi oraz cyfryzację, którą mamy osiągnąć dzięki legislacji z zakresu usług cyfrowych, sztucznej inteligencji oraz danych. Nie są one jednak za bardzo ze sobą wiązane.

Zieloni postulują, by Akt o usługach cyfrowych uwzględniał kwestię analizy ryzyk pod kątem neutralności klimiatycznej i ochrony środowiska. Powinno to dotyczyć również regulacji z zakresu AI, jako że duże modele pochłaniają duże ilości energii. Potrzebny jest nam benchmark konsumpcji energii przez technologie związane ze sztuczną inteligencją oraz przemyślenia kwestii elektrośmieci, pozyskiwania minerałów i metali ziem rzadkich. Często słyszymy o tym, że AI może pomóc uratować klimat. Nie jest to jednak wcale takie oczywiste. Jeśli nie powiążemy ze sobą dwóch priorytetów Komisji możliwy jest zgoła inny scenariusz.

Komisja Europejska stawia przed sobą dwa cele: neutralność klimatyczną dizęki Europejskiemu Zielonemu Ładowi oraz cyfryzację, którą mamy osiągnąć dzięki legislacji z zakresu usług cyfrowych, sztucznej inteligencji oraz danych. Nie są one jednak za bardzo ze sobą wiązane.

Jaka jest szansa na to, że europejskie regulacje świata cyfrowego będą w stanie wpływać na globalne standardy?

Świat naprawdę spogląda na Europę. Żaden kraj nie chce powielać modelu chińskiego, a i ten amerykański budzi sporo zastrzeżeń. Zdarza mi się uczestniczyć w panelach z ludźmi z Indii, Pakistanu i wielu innych krajów, którzy interesują się tym, w jaki sposób radzimy sobie w Europie z kwestiami, takimi jak swoboda wypowiedzi w sieci, sztuczną inteligencją czy podejściem do usług cyfrowych. Nawet w Stanach Zjednoczonych nie brak głosów o tym, że Europa stała się trendsetterką w dziedzinie ochrony danych osobowych dzięki RODO – nawet, jeśli do tej pory nie udało się go do końca prawidłowo wdrożyć. Ludzie w różnych zakątkach świata widzą, że Europa dysponuje zasobami, by móc ustanawiać nowe standardy, takie jak te z Aktu o usługach cyfrowych czy Aktu o rynkach cyfrowych. Unia nie może zmarnować takiej okazji.

[1] Hyperskalowanie odnosi się do usług cyfrowych, takich jak obliczenia w chmurze, które szybko można skalować do poziomu milionów czy miliardów procesów i użytkowników. W dziedzinie tej prym wiodą wielkie, amerykańskie korporacje, takie jak Amazon czy Microsoft.

Tłumaczenie: Bartłomiej Kozek

Cookies on our website allow us to deliver better content by enhancing our understanding of what pages are visited. Data from cookies is stored anonymously and only shared with analytics partners in an anonymised form.

Find out more about our use of cookies in our privacy policy.