Trzecia fala etyki AI
– w stronę zrównoważonej sztucznej inteligencji
Maciej Chojnowski
Pojęcie sustainable AI wyznacza nowy trend w etyce sztucznej inteligencji. Jednak aby AI mogła zostać rzeczywiście uznana za zrównoważoną technologię, musi stać się częścią prawdziwie innowacyjnych modeli gospodarczych. Takich, które ograniczą konsumpcjonizm, umożliwią odtwarzanie naturalnych ekosystemów i zagwarantują godziwe warunki zatrudnienia.
Temat zrównoważonego rozwoju od kilku lat pozostaje jednym z lejtmotywów w dyskusjach o współczesnej gospodarce. Nie inaczej jest w przypadku rozważań dotyczących cyfrowych technologii, ze sztuczną inteligencją na czele. Z różnych stron słychać dziś entuzjastyczne głosy mówiące o tym, w jaki sposób AI pomoże nam realizować określone przez ONZ w 2015 roku cele zrównoważonego rozwoju (Sustainable Development Goals, SDG).
Nie wszyscy jednak równie optymistycznie patrzą w przyszłość. Wielu badaczy przekonuje, że starając się wprowadzić w życie SDG, nie powinniśmy bezkrytycznie sięgać po rozwiązania z obszaru AI, ale wpierw przyjrzeć się wpływowi, jaki one same wywierają na naszą rzeczywistość.
Ewolucja etyki AI
Specjalizująca się w etyce technologii prof. Aimee van Wynsberghe z Uniwersytetu w Bonn zauważa, że w obszarze etyki AI mieliśmy do tej pory do czynienia z dwiema falami refleksji. Pierwsza z nich skupiała się na zagrożeniach związanych z ewentualnym rozwojem tzw. ogólnej sztucznej inteligencji oraz – będącej jej możliwym następstwem – superinteligencji. Dyskusje nad tymi scenariuszami, choć obecnie dalekimi od urzeczywistnienia (a przez niektórych w ogóle kwestionowanymi jako nierealne), utorowały jednak drogę dalszym badaniom nad odpowiedzialnym rozwojem sztucznej inteligencji.
W rezultacie druga fala refleksji etycznej dotyczącej AI skupiała się już na jak najbardziej rzeczywistych problemach związanych z wykorzystywaniem uczenia maszynowego. Chodziło m.in. o takie kwestie, jak nieprzejrzystość działania AI i potrzeba jej wyjaśnialności, skrzywienie algorytmiczne czy zagrożenia dla prywatności. Ten obszar etyki AI spotkał się z dużym odzewem różnych środowisk zaangażowanych w rozwijanie i wykorzystywanie technologii i zaowocował powstaniem wielu opracowań definiujących podstawowe zasady umożliwiające rozwój AI zgodnie z wartościami. Najlepszym przykładem takich dokumentów są wytyczne przygotowane przez Komisję Europejską i OCED.
Dziś jednak, przekonuje van Wynsberghe, najwyższy czas na trzecią falę w etycznej refleksji and AI, czyli skoncentrowanie się na katastrofie klimatycznej i oddziaływaniu AI na środowisko. Na tym etapie cele zrównoważonego rozwoju powinny stanowić centrum dyskusji. Zarazem badaczka wprowadza istotną dystynkcję: wykorzystanie sztucznej inteligencji dla realizacji celów zrównoważonego rozwoju (AI for sustainability) odróżnia od zrównoważonego rozwijania i wykorzystywania samych systemów AI (sustainability of AI). O co dokładnie chodzi?
AI i koszty zewnętrzne
Zdaniem van Wynsberghe nie możemy dłużej ignorować kosztów środowiskowych sztucznej inteligencji. Dziś wiadomo już, że ślad węglowy wielu systemów AI (szczególnie tych opartych na uczeniu głębokim) jest ogromny. Kilka lat temu obliczono, że wytrenowanie jednego modelu przetwarzania języka naturalnego (Natural Language Processing, NLP), bazującego właśnie na deep learningu, wymagało zużycia energii skutkującego emisją 284 ton dwutlenku węgla, co odpowiada emisji pięciu samochodów osobowych w całym ich cyklu użytkowania!
Dlatego, twierdzi van Wynsberghe, pojęcie zrównoważonej sztucznej inteligencji (sustainable AI) musi uwzględniać nie tylko sposoby realizacji SDG możliwe dzięki zastosowaniu tej technologii, ale także koszty zewnętrzne, które generuje AI. Jest to szczególnie ważne, jeśli zdamy sobie sprawę, że chodzi o technologię ogólnego zastosowania, możliwą do wykorzystania w różnych sektorach, której wpływ na środowisko będzie wzrastał.
Limity na moce obliczeniowe
Pomysły praktycznego przeciwdziałania energochłonności AI już są. Zespół badawczy z udziałem prof. Marka Coeckelbergha z Uniwersytetu Wiedeńskiego opublikował niedawno artykuł, w którym przedstawiono, jak wprowadzić mechanizm optymalizacji zużycia energii do procesu projektowania AI.
Naukowcy odwołali się do opracowanej m.in. przez Cynthię Dwork metody Differential Privacy dotyczącej anonimowości danych w systemach AI i do występującej w niej koncepcji tzw. Privacy Budgets (kwot prywatności). Określają one górny próg informacji możliwych do ujawnienia ze zanonimizowanych zbiorów danych, gwarantując w ten sposób, że żadne wrażliwe informacje nie będą możliwe do odtworzenia poprzez korelację.
Stworzona na zasadzie analogii koncepcja Sustainability Budgets miałaby na podstawie zaproponowanego wzoru określać limit mocy obliczeniowych w danym projekcie, dzięki czemu twórcy AI musieliby rozważniej gospodarować dostępnymi zasobami, co w efekcie pozwoliłoby właśnie ograniczyć zużycie energii.
Aby zachęcić inżynierów do takiego podejścia, badacze proponują wykorzystanie narzędzi grywalizacji. Przekonują, że wprowadzenie takiego mechanizmu mogłoby zadziałać nie tylko w obrębie poszczególnych organizacji, ale także na poziomie sektorów czy w wymiarze międzynarodowym.
Oczywiście, zanim metoda Sustainability Budgets będzie mogła zostać powszechnie zastosowana, potrzeba jeszcze szeregu dalszych badań. Jak jednak podkreślają jej twórcy, jest ona pomysłem ważnym przede wszystkim dlatego, że zwiększa świadomość problemu energochłonności AI tak wśród programistów, jak i w skali całych organizacji, a ponadto czyni tę kwestię ważnym elementem procesu projektowania AI, a nie tylko uciążliwym dodatkiem. Czyżbyśmy zatem byli na dobrej drodze do wyeliminowania kosztów zewnętrznych związanych z AI?
Ślad węglowy to nie wszystko
Niestety, do tego jeszcze daleko. Działania na rzecz klimatu to bowiem tylko jeden z 17 celów zrównoważonego rozwoju wskazanych przez ONZ. Co więcej, negatywne efekty sztucznej inteligencji również nie sprowadzają się wyłącznie do dużego śladu węglowego. Jest ich znacznie więcej.
Profesor Peter Dauvergne z University of British Columbia w książce „AI in the wild. Sustainability in the age of artificial intelligence” przygląda się sztucznej inteligencji przez pryzmat ekonomii politycznej. Dzięki temu, jak przekonuje, można ujrzeć AI nie jako neutralną technologię, ale odzwierciedlenie porządku kapitalistycznego i narzędzie władzy. W ten sposób staje się też widoczne pełne spektrum oddziaływania sztucznej inteligencji na różne obszary życia gospodarczego, społecznego i politycznego.
To ważne, ponieważ wpływ AI na życie ludzi oraz kondycję planety jest wielowymiarowy i dużo negatywnych skutków pozostaje na pierwszy rzut oka niewidocznych. Z kolei korporacje mają skłonność do przeceniania tej technologii przy jednoczesnym umniejszaniu jej negatywnych stron i błędnym ocenianiu skutków jej komercjalizacji. Co więcej, przyjmowane przez firmy kryteria oceny są często nieobiektywne i mają za zadanie wzmacniać dalekie od stanu faktycznego twierdzenia o korporacyjnym zrównoważonym rozwoju.
Konsumpcjonizm, wyzysk, degradacja
Tymczasem AI, twierdzi Dauvergne, jest dziś silnym czynnikiem umacniającym kulturę konsumpcjonizmu, potęgującym wyzysk i zwiększającym degradację środowiska. Wszystko to odbywa się równolegle z opiewaniem zalet tej technologii jako narzędzia służącego bardziej efektywnemu, oszczędnemu i inteligentnemu zarządzaniu w różnych sferach.
Taką sytuację Dauvergne przypisuje dominacji myślenia technokratycznego w dzisiejszym świecie, czyli takiego sposobu postrzegania rzeczywistości, w którym wszystkie problemy traktuje się jako osobne zadania, bez uwzględnienia całościowej, globalnej perspektywy. Dlatego też jego zdaniem, aby móc adekwatnie ocenić wpływ AI na świat, należy nie tylko poznać różne szczegółowe zastosowania sztucznej inteligencji, ale też odpowiedzieć na bardziej ogólne pytania, m.in.:
- Dlaczego mamy dziś do czynienia ze wzrostem znaczenia i wpływu AI?
- Kto na tym korzysta?
- Jakie są ukryte koszty globalnych łańcuchów dostaw umożliwiających produkcję rozwiązań opartych na AI?
- Jakie siły polityczne i gospodarcze napędzają dziś używanie (i nadużywanie) AI?
- Jak walka o korzyści czerpane z rozwoju AI wpływa na sprawiedliwe wykorzystywanie zasobów planety i prawa człowieka?
Udzielając szczegółowych odpowiedzi na powyższe kwestie, kanadyjski badacz podkreśla, że przy wszystkich swoich cząstkowych korzyściach AI w obecnym porządku światowym nigdy nie doprowadzi do powszechnej realizacji celów zrównoważonego rozwoju. Co stoi temu na przeszkodzie?
Spośród licznych argumentów Dauvergne’a warto przytoczyć te, które są stosunkowo rzadko poruszane w dyskusjach dotyczących etyki AI.
Ciemna strona ekobiznesu
Po pierwsze zatem, ekobiznes, polegający na wpisywaniu zrównoważonego rozwoju w model biznesowy korporacji, zazwyczaj nie służy poprawie ogólnoświatowej stabilności ekologicznej czy zwiększeniu sprawiedliwości społecznej, ale przyczynia się raczej do zrównoważenia globalnego kapitalizmu. Chodzi w nim bowiem przede wszystkim o zdobywanie przewagi konkurencyjnej w świecie rosnących niedoborów zasobów naturalnych i zmieniających się regulacji dotyczących środowiska.
Oczywiście w ekobiznesie można też wskazać działania pozytywne, jak ograniczanie kosztów zużycia energii, minimalizowanie odpadów, lepszą kontrolę jakości czy optymalizację opakowań, jednak ostatecznie jego celem nie jest gruntowna reorganizacja paradygmatu gospodarczego, ale dalsze zdobywanie jak największych korporacyjnych zysków.
Inteligentne produkty, bezmyślna konsumpcja
Po drugie, powszechne wprowadzanie na rynek inteligentnych produktów, zachwalanych jako bardziej ekologiczne niż ich tradycyjne odpowiedniki, wcale nie przekłada się w skali państw, aglomeracji czy nawet pojedynczych gospodarstw domowych na niższy ślad ekologiczny. Dzieje się tak dlatego, że równolegle wszyscy kupujemy coraz więcej towarów.
Ponadto recykling elektroniki jest wciąż na bardzo niskim poziomie, a liczba e-odpadów nie maleje. Szacuje się, że w latach 2010–2018 w skali globalnej wzrosła ona o 16 milionów ton (z 34 do 50), a w 2050 r. może wynieść aż 120 milionów ton rocznie! Upowszechnianie różnego typu rozwiązań AI w produktach konsumenckich z pewnością nie wpłynie na ograniczenie liczby kolejnych generacji urządzeń elektronicznych wprowadzanych na rynek oraz utylizację starszych modeli.
Korporacje górą
Po trzecie, wykorzystanie AI w rolnictwie może w jeszcze większym stopniu niż dotychczas doprowadzić do oddalenia produkcji żywności od jej spożycia, a tym samym wzmocnić tendencję do utowarowienia produktów rolno-spożywczych i spekulacji na tym rynku. Taka sytuacja poprawi pozycję międzynarodowych korporacji, a osłabi lokalnych producentów żywności.
Z kolei dyskurs dotyczący inteligentnych miast skupia się na realizacji celów zrównoważonego rozwoju w wymiarze głównie lokalnym, pomijając kwestie destrukcyjnego oddziaływania ośrodków miejskich na ekosystemy w szerszej skali. Miasta, pisze Dauvergne, to silniki napędzające konsumpcję, która przewyższa możliwość regeneracji systemów naturalnych i zagraża dynamice biologicznej. Większość ośrodków miejskich korzysta z zasobów (jak np. woda, pożywienie, grunty rolne) dalece wykraczających poza granice tych aglomeracji.
AI wpisana w system
Diagnozy Dauvergne’a, który od lat bada sposoby realizowania polityk prośrodowiskowych przez państwa i korporacje, nie napawają optymizmem. Badacz rozwiewa złudzenia, że sztuczna inteligencja będzie cudownym sposobem na realizację celów zrównoważonego rozwoju, i pokazuje jej wielowymiarowe uwikłanie w dzisiejsze struktury władzy tak na poziomie politycznym, jak i gospodarczym czy społecznym.
W jego ujęciu AI – mimo swojej bezdyskusyjnej użyteczności w wielu cząstkowych projektach mających na celu ochronę środowiska czy ograniczanie zużycia energii – jako całość nie przyczyni się do poprawy dobrostanu ludzi i naszej planety. Dzieje się tak dlatego, że choć autonomiczność i wydajność tej technologii umożliwia jej wykorzystywanie w przedsięwzięciach obliczonych na przeciwdziałanie degradacji środowiska, to większość jej pozostałych zastosowań (np. przyspieszenie wydobycia zasobów naturalnych) jest jawnie sprzeczne z tym ambitnymi celami.
Przeciw technokratycznej utopii
Trzecia fala etyki AI nie może się zatem sprowadzać do promowania użycia sztucznej inteligencji w pojedynczych projektach zorientowanych na realizację celów zrównoważonego rozwoju czy nawet do tworzenia takich rozwiązań systemowych, które ograniczą ślad węglowy AI poprzez bardziej rozważne wykorzystanie mocy obliczeniowych. Sztuczna inteligencja stanie się bowiem prawdziwie zrównoważona dopiero wtedy, gdy jej wykorzystanie zostanie sprzęgnięte z innowacyjnymi modelami gospodarczymi, które ograniczą konsumpcjonizm, umożliwią odtwarzanie naturalnych ekosystemów i zagwarantują godziwe warunki zatrudnienia.
Pobożne życzenia? Zapewne tak. Warto jednak pamiętać, że AI jest dziś elementem technokratycznej utopii, w której wmawia się nam, że technologia skrywa w sobie recepty na wszystkie problemy świata. Jednym z najważniejszych zadań etyki sztucznej inteligencji musi być zatem krytyczne dekonstruowanie tego mitu. W przeciwnym razie stanie się ona jeszcze jednym narzędziem z arsenału ekspertów od wizerunku korporacyjnego. A wtedy może być już za późno na czwartą falę.
Źródła: