Raport ONZ ostrzega przed erą autonomicznych agentów i globalną koncentracją władzy. Tempo rozwoju technologii wykracza poza zdolności pomiaru i regulacji.
Niezależny Międzynarodowy Panel Naukowy ds. Sztucznej Inteligencji (Independent International Scientific Panel on AI) opublikował swój pierwszy raport “Preliminary Report of the Independent International Scientific Panel on AI: Evidence-based assessment of opportunities, risks and impacts of artificial intelligence”. Panel powołany przez Zgromadzenie Ogólne ONZ w 2025 r. składa się z 40 niezależnych ekspertów z całego świata (m.in. prof. Piotr Sankowski), mianowanych na trzyletnią kadencję.
Według autorów raportu, znajdujemy się w punkcie zwrotnym. AI staje się systemem zdolnym do autonomicznego wnioskowania i działania.
Od „produktywności mikro” do niepewności makro
Raport podkreśla, że AI jest technologią ogólnego przeznaczenia (GPT), podobną do elektryczności czy silnika parowego. Jednak korzyści z jej wdrożenia nie są automatyczne. Źródła wskazują na tzw. krzywą J produktywności. Firmy muszą najpierw zgromadzić „wartości niematerialne”, takie jak nowe umiejętności pracowników i przeprojektowane procesy, zanim realny wzrost wydajności stanie się widoczny w statystykach makroekonomicznych.
W kontekście biznesowym kluczowe są dwa trendy. Po pierwsze, kapitał wydatkowany przez największych dostawców chmury (tzw. hyperscalers) na infrastrukturę AI wzrósł pięciokrotnie od 2023 roku, osiągając prognozowany poziom 770 mld dolarów w 2026 roku. Po drugie, przychody czołowych firm AI wzrosły ponad trzydziestokrotnie w tym samym okresie, przekraczając 70 miliardów dolarów rocznie.
Jednocześnie następuje niepokojąca koncentracja zasobów. USA dysponują 75% mocy obliczeniowej wśród 500 najpotężniejszych superkomputerów AI, a dalsze 15% – Chiny.
Autorzy raportu zwracają także uwagę, że AI pozostaje technologią „anglocentryczną”. Choć na świecie używa się ponad 7000 języków, infrastruktura AI i dane treningowe skupiają się tylko na niewielkim ułamku z nich, co pogłębia globalny podział cyfrowy.
Ryzykowna era agentów
Największą zachodzącą zmianą jakościową jest przejście do AI agentycznej. W przeciwieństwie do systemów generujących tekst, agenci AI potrafią planować, używać oprogramowania i podejmować działania w celu osiągnięcia celów przy minimalnym nadzorze człowieka. Badania cytowane w źródłach wykazują, że długość zadań programistycznych, które AI potrafi samodzielnie ukończyć, podwaja się co cztery do siedmiu miesięcy. Może to prowadzić do dziesięciokrotnego przyspieszenia odkryć naukowych, np. w laboratoriach chemicznych.
Zdolność do autonomicznego działania niesie ze sobą bezprecedensowe zagrożenia dla pojedynczych użytkowników i całych społeczeństw. Raport przypominając, że żyjemy już w erze deep fake’ów, oraz o tym, że od 15 do 45% twierdzeń generowanych przez zoptymalizowane modele, ostrzega przed:
- utratą kontroli, ponieważ metody weryfikacji bezpieczeństwa są niewystarczające dla systemów agentycznych, które mogą uczyć się takich zachowań, jak oszukiwanie testów lub budowania schematów nielegalnego uzyskiwania uprawnień, aby uniknąć wyłączenia;
- pochlebczą naturą chatbotów, która wzmacnia błędne założenia użytkownika: chatboty, dążąc do zadowolenia użytkownika, potrafią wzmacniać jego błędne przekonania. W udokumentowanych przypadkach prowadziło do tragicznych incydentów, w tym śmierci użytkowników;
- erozją rzeczywistości: masowa produkcja syntetycznych treści utrudnia odróżnienie prawdy od fałszu, co badacze nazywają „dywidendą kłamcy” (przestępcy i w ogóle – wszelkiej maści manipulanci – zyskują na samym fakcie istnienia deepfake’ów, gdyż mogą negować przy ich pomocy prawdziwe dowody).
Dylemat regulatorów i decydentów
Autorzy raportu formułują także swoisty dylemat, przed którym stoją obecnie decydenci. Muszą oni już teraz podejmować krytyczne decyzje o regulacjach, zanim tempo rozwoju technologii sprawi, że interwencja będzie spóźniona. Muszą to jednak robić, pomimo że uzyskują podstawy tych decyzji, np. naukowe dowody na skutki działania AI, z opóźnieniem.
Dlatego w ocenie autorów raportu, kluczem do bezpiecznego wykorzystania potencjału AI nie jest sam dostęp do narzędzi, ale inwestycje w analityczną i zarządczą zdolność instytucji do oceny ryzyka oraz weryfikacji systemów, które stają się coraz bardziej autonomiczne i nieprzejrzyste.