Etyka, edukacja, standardy [podsumowanie panelu IGF 2021 Internet of Behavior – New way of thinking?]
Maciej Chojnowski
Firmy w branży cyfrowej ścigają się dziś o przywiązanie do własnych rozwiązań jak największej liczby ludzi. Szczegółowe dane o konsumentach pomagają im w budowaniu przewagi konkurencyjnej. Internet of Behavior tylko wzmocni ten trend. Aby przeciwdziałać jego negatywnym skutkom, konieczna jest odpowiednia legislacja i standardy etyczne dla branży Big Tech, transparentne działania firm oraz cyfrowo uświadomieni obywatele.
Podczas Internet Governance Forum 2021 Centrum Etyki Technologii oraz Centrum Mikser Inteligentnych Technologii UŁ zorganizowały panel „Internet of Behavior – New way of thinking?” W godzinnej dyskusji poświęconej jednemu z najgorętszych trendów związanych z przyszłością transformacji cyfrowej wzięło udział grono ekspertów reprezentujących akademię, biznes, instytucje rządowe oraz organizacje trzeciego sektora.
Plusy i minusy IoT
Pojęcie Internet of Behavior opisuje połączenie technicznego potencjału Internetu Rzeczy, pozyskującego szczegółowe dane o zachowaniach ludzi w świecie rzeczywistym, z analitycznymi możliwościami psychologii behawioralnej pozwalającej wydobywać z tych danych wartościowe informacje o postawach konsumenckich – mówiła dr Dominika Kaczorowska-Spychalska, dyrektor Centrum Mikser. Na IoB mogą zyskać nie tylko firmy, ale także użytkownicy, którzy dzięki niemu mają możliwość szybciej i trafniej podejmować decyzje. IoB to jednak nie tylko korzyści, lecz również szereg niebezpieczeństw – podkreślała.
Internet Rzeczy, czyli podstawa IoB, ma wiele cech, które powinny nas niepokoić – dodawał Maciej Chojnowski, dyrektor programowy CET. Chodzi przede wszystkim o jego wszechobecność, która zagraża naszej prywatności. Dalej o połączenie wszystkiego ze wszystkim (ultraconnectivity), co skutkuje generowaniem ogromnych ilości danych mogących wzmacniać to, co Shoshana Zuboff nazywa kapitalizmem nadzoru. Wreszcie o postępującą miniaturyzację urządzeń IoT utrudniającą audyt czy kontrolę – wyjaśniał Chojnowski. Dodawał, że choć IoB da się wykorzystywać w trosce o dobro wspólne (np. by stymulować działania proekologiczne), to może on też posłużyć do zwiększania podatności konsumentów na działania marketingowe.
Najsłabsze ogniwo ICT
Wątpliwości co do Internetu Rzeczy są w pełni uzasadnione – przekonywała Zofia Dzik, prezes Instytutu Humanites. IoT to dziś najsłabsze ogniwo infrastruktury informatycznej, które nie raz posłużyło do zhakowania całych systemów. Co więcej, IoT daje wiele nowych możliwości nieetycznego zbierania danych (np. smart telewizory, asystenci głosowi) – także wśród najmłodszych (tzw. inteligentne zabawki).
Problem w tym, że konsumenci uwielbiają dzielić się informacjami na swój temat, a zarazem czują dyskomfort, gdy dowiadują się, że firmy gromadzą te dane – zauważała dr Kinga Stopczyńska z Uniwersytetu Łódzkiego. Dlatego kluczowe znaczenie ma dziś odpowiednie kształtowanie świadomości użytkowników i edukacja w tym zakresie.
Priorytet: świadomy e-konsument
Podobnego zdania była dr Katarzyna Sanak z Uniwersytetu Ekonomicznego w Krakowie, która przypomniała klasyczne prawo asymetrii informacji. Firma mająca dane o konsumencie jest wobec niego w pozycji nadrzędnej. Co więcej, sam konsument może nie zdawać sobie sprawy z tego, że jego zachowanie jest śledzone w sieci. Podkreślała, że w tym przypadku nie ma prostych rozwiązań i trzeba podejmować trzy równoległe działania.
Po pierwsze, odpowiednią legislację, co jednak nie jest proste, bo prawo nie nadąża za innowacjami. Po drugie, zagwarantować transparentność firm, co z kolei wymaga, by konsument wiedział, na jakie działania powinien zwracać uwagę. Z tym wiąże się ostatnie działanie, czyli potrzeba rzetelnej edukacji dotyczącej świata cyfrowego, która powinna rozpoczynać się jak najwcześniej. Niestety, w tej chwili tak w Polsce, jak i w wielu innych państwach EU jest ona wciąż niezadowalająca.
Stopczyńska i Sanak były zgodne, że dostępność szczegółowych danych o konsumentach jest na tyle ważna dla firm, że trudno, by zrezygnowały one z budowania swojej przewagi konkurencyjnej na podstawie tych informacji. Zarazem podkreślały, że z podobnymi praktykami wiąże się moralne ryzyko. Bycie etycznym jest w tym kontekście jedną z najważniejszych rzeczy – podkreślała Stopczyńska.
Big Techy chcą standardów
Z kolei Katarzyna Paliwoda z META (dawniej Facebook) podkreślała, że firmy technologiczne chcą standardów etycznych w technologii. Ludzie powinni być właścicielami swoich danych, mieć do nich dostęp, móc je edytować i usuwać, a firmy powinny ponosić odpowiedzialność za trzymanie się zasad. Dlatego potrzeba dziś bardzo globalnej legislacji oraz współpracy branży, naukowców i regulatorów, żeby zapewnić bezpieczeństwo użytkownikom – przekonywała.
Mecenas Robert Kroplewski z Kancelarii Prezesa Rady Ministrów przypomniał, że Komisja Europejska pracuje nad dokumentem Privacy Act, który zapewne będzie źródłem regulacji także w zakresie Internetu Rzeczy. Przywołał również unijny projekt prawa dotyczącego sztucznej inteligencji (AI Act), w którym chodzi m.in. o zapewnienie prywatności i przeciwdziałanie inwigilacji, jako dobry punkt odniesienia dla regulacji dotyczących IoB.
Gospodarka nadmiaru bodźców
Kroplewski odniósł się także do pojęcia tzw. dopamine economy, czyli formy gospodarki, która bazuje na rozrywce i uzależnia konsumentów od pozytywnych emocji. Podkreślał, że taki model działania redukuje ludzką autonomię przekształcając nas w biernych odbiorców bodźców wywołujących uczucie przyjemności. Zaznaczał przy tym, że żadna regulacja nie pomoże, jeśli nie stworzymy praktycznego mechanizmu, który będzie wspierał autonomię ludzi w kontakcie z technologiami. W tym kontekście nawiązał do pomysłu Privacy Enhancing Technologies, czyli technologii wspierających prywatność.
Zofia Dzik zwróciła uwagę na dwa czynniki potęgujące ujarzmianie ludzi przez nowe technologie. To po pierwsze wyścig między największymi firmami w branży cyfrowej o dominację i przywiązanie jak największej liczny konsumentów do własnych rozwiązań. Po drugie, przestymulowanie człowieka w cyfrowym świecie różnorakimi bodźcami, co zagraża jego zdrowiu psychicznemu, a zarazem ogranicza potencjał intelektualny.
Deficyt autorefleksji
Coraz bardziej nawigują nami algorytmy, a coraz mniej miejsca zostaje nam na autorefleksję – wyjaśniała. Dodawała jednak, że na szczęście świadomość takiego stanu rzeczy staje się coraz powszechniejsza zarówno wśród zwykłych użytkowników technologii, jak i kadry menedżerskiej. W tym kontekście nawiązała do rozwijanego w Instytucie Humanites modelu Spójnego Przywództwa.
Odnosząc się do problemu konfliktów wartości w kontekście etyki technologii, Zofia Dzik przekonywała, że zawsze znajdzie się argument, by usprawiedliwić ograniczenie prywatności na rzecz bezpieczeństwa. Dlatego w tym kontekście kluczowe jest pytanie, czy cel zawsze uświęca środki.
Do problemu nadmiaru informacji odniosła się też dr Katarzyna Sanak. Zwróciła uwagę, że efektem przestymulowania konsumentów jest coraz częstsze poleganie na stereotypach i uproszczonym myśleniu. Ludzie muszą oszczędzać energię psychiczną, stąd na co dzień często posługują się skrótami w rozumowaniu. To podejście jest podsycane przez zalew bodźców. Stąd zjawisko baniek informacyjnych: zasklepiamy się w swoich poglądach, bo nie mamy sił na drobiazgowe analizowanie rzeczywistości – wyjaśniała. Dlatego tak ważna jest edukacja konsumentów – szczególnie tych najmłodszych, którzy funkcjonowanie w przestrzeni cyfrowej uważają za zupełnie naturalne.
Dyskusja „Internet of Behavior – New way of thinking?” odbyła się 6 grudnia online i była częścią Szczytu Cyfrowego ONZ – IGF 2021, zorganizowanego w Katowicach w dniach 6–10 grudnia.