Szef Anthropic wezwał rządy i firmy AI do spowolnienia rozwoju sztucznej inteligencji
・ 6 min czytania
Dyrektor generalny Anthropic Dario Amodei wezwał koncerny AI do natychmiastowego spowolnienia prac nad rozwojem sztucznej inteligencji. W przeciwnym wypadku — jak stwierdził w opublikowanym w sobotę eseju — niekontrolowane modele mogłyby w ciągu roku przejąć cały internet. Poparcie dla stanowiska Amodeia wyrazili Elon Musk oraz CEO OpenAI Sam Altman. Krytycznie do apelu szefa Anthropic odniósł się z kolei Donald Trump.
Amodei jako jeden z głównych problemów rozwoju sztucznej inteligencji w swoim eseju wymienił gwałtowne przyspieszenie rozwoju tzw. rekurencyjnego samodoskonalenia, polegającego na tworzeniu nowych generacji AI przez starsze modele AI. Jak wskazał, zjawisko to zaczyna występować w całej branży, a jeśli ten proces nie zostanie poddany kontroli, może wyprzedzić możliwość zrozumienia i opanowania tych systemów.
Amodei w dalszej kolejności przypomniał o niedawnym incydencie z udziałem platformy Hugging Face. Podczas wewnętrznych testów OpenAI agenci AI obeszli zabezpieczenia, tworząc niezależną sieć komunikacyjną liczącą ok. 700 jednostek. Powstały w ten sposób „rój” wydostał się do zewnętrznej sieci i przeprowadził skoordynowany atak na infrastrukturę platformy Hugging Face. Szef Anthropic ocenił, że podobny rój dysponujący większymi możliwościami mógłby doprowadzić do katastrofalnych szkód, a biorąc pod uwagę tempo rozwoju sztucznej inteligencji, byłby w stanie w ciągu 6–12 miesięcy przejąć cały internet za pomocą botnetu.
W związku z narastającym zagrożeniem związanym ze zwiększaniem się możliwości sztucznej inteligencji, Amodei zaproponował w swoim tekście trzyetapowy plan, którego celem jest właściwe zarządzanie tempem rozwoju modeli o najwyższym poziomie zaawansowania.
- Pierwszy etap zakłada, że każda wiodąca firma AI zobowiązuje się do zapewnienia stałego dostępu zewnętrznym audytorom, którzy weryfikowaliby przestrzeganie procedur i zobowiązań w zakresie bezpieczeństwa oraz zgłaszaliby incydenty. Szef Anthropic zaznaczył przy tym, że jego firma podejmie ten krok bez względu na decyzje konkurencji.
- Drugi etap zakłada, że wszystkie wiodące firmy AI działające w krajach demokratycznych koordynowałyby swoje działania w celu ustalenia wspólnych standardów bezpieczeństwa oraz ograniczeń tempa niekontrolowanego rozwoju sztucznej inteligencji. Amodei podkreślił przy tym, że wymagałoby to wsparcia ze strony rządów oraz rozwiązania wyzwań prawnych.
- Trzeci etap zakłada, że rządy państw demokratycznych podjęłyby próbę koordynacji działań z rządami państw autorytarnych przy jednoczesnym poważnym traktowaniu wyzwań związanych z przestrzeganiem ustalonych zasad.
Szef Anthropic podkreślił w swoim eseju, że trzeba kontrolować tempo rozwoju możliwości sztucznej inteligencji, tak aby środki bezpieczeństwa mogły za tym postępem nadążyć. Stwierdził, że zyskanie roku lub dwóch lat, zanim agenci osiągną krytyczny poziom zaawansowania, dałoby niezbędny czas na przeprowadzenie debaty publicznej oraz na prace nad bezpieczeństwem i zgodnością systemów, które znacząco mogłyby ograniczyć ryzyko poważnych awarii lub niepożądanych skutków.
„Środki, które proponuję, by w bezpiecznym tempie przesuwać granice możliwości, nie będą łatwe do wdrożenia. Wierzę jednak, że jesteśmy to winni ludzkości — podjęcie takiej próby” — skonkludował.
Do apelu szefa Anthropic odniósł się w sobotę na platformie X Elon Musk, który napisał na swoim profilu krótko: „Dario ma rację”. Podobne stanowisko wyraził także kilka dni wcześniej dyrektor generalny OpenAI Sam Altman, który na otwartym spotkaniu z pracownikami wyraził gotowość do rozważenia spowolnienia rozwoju sztucznej inteligencji w koordynacji z innymi laboratoriami. Przeciwną opinię wyraził z kolei w niedzielę prezydent USA Donald Trump, który stwierdził, że za krytykę rozwoju sztucznej inteligencji odpowiadają „bardzo negatywne siły”.
„Wyprzedzamy Chiny w dziedzinie AI. Jesteśmy najbardziej zaawansowanym technologicznie krajem na świecie i szczerze mówiąc, chcę, aby tak pozostało, ponieważ ten, kto wygra wyścig w dziedzinie AI, wygrywa wszystko” — powiedział dziennikarzom na polu golfowym w Irlandii.
Trump zasugerował równocześnie, że być może rząd wprowadzi „pewne zabezpieczenia”. Stwierdził jednak, że temat ten jest podnoszony przez ludzi, którzy „nie powinni tego robić” i którzy „mówią o rzeczach, które nigdy się nie wydarzą”.
Red. Mateusz Karcewicz
Dzięki subskrypcji premium masz pełny dostęp do wszystkich artykułów, nie tylko do tego.