Kolejny przełom w rozwoju sztucznej inteligencji może doprowadzić do powstania modeli, które wymkną się spod kontroli człowieka – ostrzega Gordon M. Goldstein w analizie opublikowanej na łamach Council on Foreign Relations. W jego ocenie stawką nie jest już wyłącznie zrównoważony rozwój technologiczny, ale także bezpieczeństwo narodowe i globalna stabilność.
AI coraz bliżej punktu krytycznego rozwoju
Kolejny przełom w rozwoju sztucznej inteligencji może doprowadzić do stworzenia zaawansowanego modelu AI o takiej skali możliwości, że całkowicie wymknie się on spod kontroli człowieka – ostrzega Gordon M. Goldstein w analizie opublikowanej przez Council on Foreign Relations.
W ocenie eksperta stawką dynamicznego rozwoju AI nie jest już wyłącznie zrównoważony rozwój technologiczny, ale przede wszystkim bezpieczeństwo państw i systemów międzynarodowych.
Goldstein zajmuje się nowymi technologiami oraz bezpieczeństwem międzynarodowym. Był dyrektorem zarządzającym w Silver Lake – globalnej firmie inwestycyjnej działającej w sektorze technologicznym – oraz autorem książki „Lekcje w katastrofie: McGeorge Bundy i droga do wojny w Wietnamie”.
Council on Foreign Relations – wpływowy ośrodek analityczny
Council on Foreign Relations to jeden z najbardziej wpływowych niezależnych amerykańskich think tanków. Organizacja non-profit została założona w 1921 roku i ma siedzibę w Nowym Jorku.
CFR zajmuje się analizą polityki zagranicznej oraz relacji międzynarodowych, dostarczając ekspertyz decydentom politycznym, liderom biznesu, mediom i opinii publicznej. W jej strukturach znajdują się byli dyplomaci, politycy, ekonomiści, naukowcy i przedstawiciele sektora prywatnego. Instytucja jest często uznawana za jedno z kluczowych centrów analitycznych wpływających na debatę o amerykańskiej strategii globalnej.
Anthropic i AI jako element bezpieczeństwa narodowego
W swojej analizie Goldstein odnosi się do globalnego koncernu Anthropic. Jest to amerykańska firma zajmująca się badaniami i wdrażaniem sztucznej inteligencji, założona w 2021 roku przez byłych kluczowych pracowników OpenAI. Przedsiębiorstwo jest uznawane za jednego z najważniejszych i najgroźniejszych rywali dla twórców ChatGPT.
Jak podkreśla ekspert:
„Rosnący gigant sztucznej inteligencji (AI) Anthropic nie jest już po prostu globalną potęgą technologiczną. Jego najnowocześniejsze modele sztucznej inteligencji są coraz bardziej kluczowe dla bezpieczeństwa narodowego USA”.
W kwietniu firma wstrzymała publikację modelu Mythos Preview po tym, jak system miał samodzielnie stworzyć najpotężniejszą broń cybernetyczną w historii, zdolną do wykrycia ponad 10 tysięcy luk w zabezpieczeniach systemów uznawanych za wysoce chronione.
W czerwcu Anthropic opublikował raport, w którym ostrzega, że kolejny przełom w rozwoju AI – możliwy nawet w ciągu najbliższych dwóch lat – może doprowadzić do powstania systemu całkowicie wymykającego się kontroli człowieka.
Rekurencyjne samodoskonalenie AI jako nowy paradygmat
W analizie Goldstein zwraca uwagę na ryzyko związane z tzw. „rekurencyjnym samodoskonaleniem” systemów AI.
„Gdy pojawi się kolejny paradygmat tej technologii, AI będzie miała zdolność do doskonalenia i rozprzestrzeniania, tworząc przyszłe iteracje coraz bardziej dynamicznych modeli. Będą one priorytetowo traktować własne przetrwanie i potencjalnie same się przedostać przez Internet do sieci komputerowych na całym świecie” – pisze Goldstein.
W jego ocenie może to oznaczać powstanie systemów zdolnych do autonomicznego rozwoju, których kolejne wersje będą coraz trudniejsze do przewidzenia i kontrolowania przez człowieka.
Dalsza część artykułu jest pod wywiadem z prof. Andrzejem Zybertowiczem
Cyberzagrożenia, broń biologiczna i chemiczna
Choć raport Anthropic nie porusza wszystkich potencjalnych scenariuszy, Goldstein wskazuje na dodatkowe ryzyka. Autonomiczne systemy AI mogłyby potencjalnie projektować zaawansowaną broń biologiczną i chemiczną, wykraczającą poza dotychczasowe ludzkie możliwości poznawcze.
W obszarze cyberbezpieczeństwa przyszłe systemy mogłyby automatycznie generować, przydzielać i modyfikować ataki typu „zero-day” w czasie rzeczywistym, prowadząc do bezprecedensowych naruszeń infrastruktury cyfrowej.
Ekspert podkreśla również ryzyko ingerencji w systemy wojskowe, w tym w sieci dowodzenia i kontroli, co mogłoby mieć poważne konsekwencje dla globalnego bezpieczeństwa.
Apel o współpracę międzynarodową i kontrolę rozwoju AI
W związku z rosnącymi zagrożeniami Anthropic – według analizy Goldsteina – miał wezwać konkurencję oraz partnerów technologicznych do podjęcia wspólnych działań na rzecz stworzenia wielostronnego systemu kontroli rozwoju sztucznej inteligencji.
„AI z możliwością rekurencyjnego samodoskonalenia może być przełomem dla globalnego bezpieczeństwa. Ukryte ryzyka tej technologii powinny zaniepokoić nawet najbardziej optymistycznego obserwatora transformacji AI — i służyć jako sygnał ostrzegawczy dla społeczeństwa.”
Jak dodaje ekspert:
„Liderzy branży mogą być bierni, pozwalając, by przyszłość się rozwijała bez próby jej kształtowania. Albo alternatywnie podjąć wspólny wysiłek—nawet ten stawiający czoła dużym przeciwnościom. Chodzi o podjęcie próby stworzenia spójnej koncepcji, która pozwoli przygotować się na bardzo niebezpieczne jutro”.
Technologia między innowacją a ryzykiem systemowym
Zdaniem Goldsteina tempo rozwoju sztucznej inteligencji – przyspieszane m.in. przez dostęp do wyspecjalizowanych chipów nowej generacji – może rosnąć w sposób wykładniczy. W takim scenariuszu AI nie tylko będzie coraz bardziej autonomiczna, ale również potencjalnie trudna do zrozumienia dla ludzkich operatorów.
W dłuższej perspektywie może to oznaczać powstanie systemów, które będą dynamicznie modyfikować własne algorytmy, komunikować się w sposób niezrozumiały dla człowieka oraz tworzyć architektury matematycznie nieczytelne.
Ekspert podkreśla, że wybór między biernym obserwowaniem rozwoju technologii a globalną współpracą regulacyjną może przesądzić o przyszłym poziomie bezpieczeństwa międzynarodowego.
Cała analiza Gordona M. Goldsteina jest dostępna NA TEJ STRONIE COUNCIL ON FOREIGN RELATIONS.
Źródło: Council on Foreign Relations
Te artykuły też mogą Cię zainteresować
Prof. Aleksandra Przegalińska: Podpisałam Oświadczenie w sprawie superinteligencji
III Kongres ESG – społeczna odpowiedzialność biznesu w czasach AI
