Mija około 24 godzin od opublikowania przez byłego już pracownika OpenAI „Nadchodząca dekada – Leopold Aschenbrenner „, wiedzy jakiej nie spodziewał się nikt. Szczere wyznanie o tym gdzie dziś jest ludzkość utwierdziła tylko mnie, że takie projekty jak Q* to nie wymysł szalonego naukowca a istniejąca w laboratoriach technologia.
Streściłem Wam 165 stron – pdfa autorstwa Leopold Aschenbrenner.
I. od GPT-4 do AGI: liczenie OOMów
Przez ostatnie cztery lata obserwowaliśmy niesamowity postęp w dziedzinie sztucznej inteligencji, szczególnie w modelach językowych. Od GPT-2, które mogło ledwo zrozumieć i generować prosty tekst, do GPT-4, które potrafi rozwiązywać skomplikowane problemy matematyczne, pisać złożony kod i zdawać egzaminy na poziomie college’u. Skok jakościowy między tymi modelami był olbrzymi i sugeruje, że do 2027 roku możemy osiągnąć AGI (Artificial General Intelligence), czyli sztuczną inteligencję o zdolnościach dorównujących lub przewyższających ludzkie.
Wzrost mocy obliczeniowej i efektywności algorytmów:
Postęp AI jest napędzany przez trzy główne czynniki: wzrost mocy obliczeniowej, efektywność algorytmów oraz tzw. „unhobbling”, czyli usuwanie ograniczeń w modelach. Moc obliczeniowa używana do treningu modeli AI rośnie w tempie około 0,5 rzędu wielkości (OOM) rocznie. Efektywność algorytmów również rośnie w podobnym tempie, co pozwala osiągać lepsze wyniki przy mniejszym nakładzie mocy obliczeniowej. Dodatkowo, usuwanie ograniczeń w modelach, takich jak wprowadzenie „chain-of-thought” prompting, znacznie zwiększa ich możliwości.
Biorąc pod uwagę obecne trendy, można spodziewać się, że do 2027 roku modele AI będą zdolne do wykonywania pracy na poziomie inżynierów i badaczy AI. To nie wymaga wiary w fantastykę naukową, lecz jedynie zaufania do prostych linii na wykresach. Jeśli te modele będą w stanie automatyzować badania nad AI, może to wywołać lawinowy wzrost postępu technologicznego.
Co udało się już:
GPT-4 już teraz przekracza większość testów, które dajemy licealistom i studentom. Na przykład, potrafi rozwiązywać złożone problemy matematyczne i pisać skomplikowane programy komputerowe. Jego postęp w porównaniu do GPT-3, które miało poziom zbliżony do ucznia szkoły podstawowej, jest znaczący.
Postęp w dziedzinie AI jest nie tylko imponujący, ale również szybki. Liczenie OOMów pokazuje, że jesteśmy na drodze do osiągnięcia AGI w niedalekiej przyszłości. Ważne jest, abyśmy byli świadomi tych trendów i przygotowani na wyzwania, jakie mogą przynieść.
II. od AGI do superinteligencji: eksplozja inteligencji
Osiągnięcie poziomu AGI (Artificial General Intelligence) to tylko pierwszy krok w kierunku jeszcze większych możliwości AI. Superinteligencja, czyli AI znacznie przewyższająca ludzką inteligencję, może stać się rzeczywistością szybciej, niż nam się wydaje. Gdy setki milionów AGI będą mogły automatyzować badania nad AI, możemy spodziewać się eksplozji postępu technologicznego.
Główna teza tej części opracowania jest prosta: postęp AI nie zatrzyma się na poziomie ludzkim. Automatyzacja badań nad AI przez same AGI może skrócić dekady postępu algorytmicznego do zaledwie jednego roku. To oznacza, że w krótkim czasie możemy przejść od poziomu ludzkiego do znacznie superinteligentnych systemów AI.
Chociaż superinteligencja oferuje ogromne możliwości, niesie ze sobą również poważne zagrożenia. Tak potężne systemy mogą wywołać dramatyczne zmiany w społeczeństwie i gospodarce. Wprowadzenie superinteligentnych systemów AI będzie wymagało ścisłej kontroli i zarządzania, aby uniknąć katastrofalnych skutków.
Eksplozja inteligencji może prowadzić do różnych scenariuszy. Możemy mieć do czynienia z dramatycznym postępem technologicznym i ekonomicznym, ale również z nowymi wyzwaniami w zakresie bezpieczeństwa narodowego i globalnego zarządzania. W najgorszym przypadku, szybki rozwój superinteligencji bez odpowiedniej kontroli może prowadzić do katastrofalnych konsekwencji. Przejście od AGI do superinteligencji to kluczowy etap w rozwoju sztucznej inteligencji. Choć możliwości są ogromne, musimy być świadomi zagrożeń i odpowiednio się do nich przygotować. Konieczne jest opracowanie strategii zarządzania i kontroli superinteligentnych systemów AI, aby zapewnić, że ich wprowadzenie przyniesie korzyści, a nie szkody.
zobacz także: https://arxiv.org/abs/2303.12712
III. Wyzwania
IIIa. wyścig do klastra wartego biliony dolarów
Rozwój sztucznej inteligencji wymaga ogromnych zasobów, zarówno finansowych, jak i technologicznych. Wyścig do stworzenia klastra komputerowego wartego biliony dolarów już się rozpoczął. W miarę jak przychody z AI rosną, miliardy dolarów zostaną zainwestowane w GPU, centra danych i infrastrukturę energetyczną przed końcem dekady.
Mobilizacja przemysłowa w zakresie AI będzie intensywna. Wzrost produkcji energii elektrycznej w USA o dziesiątki procent będzie niezbędny, aby sprostać rosnącym wymaganiom energetycznym centrów danych i klastrów GPU. Będzie to wymagało ogromnych inwestycji i współpracy na skalę niespotykaną od dziesięcioleci.
Budowa klastrów komputerowych na taką skalę wiąże się z wieloma wyzwaniami. Konieczne będą nie tylko ogromne inwestycje finansowe, ale również innowacje technologiczne, aby sprostać rosnącym wymaganiom obliczeniowym i energetycznym. Ponadto, zabezpieczenie tych zasobów przed zagrożeniami cybernetycznymi będzie kluczowe dla ich skutecznego funkcjonowania.
Wyścig do stworzenia klastra komputerowego wartego biliony dolarów to nie tylko wyzwanie technologiczne, ale również ekonomiczne i polityczne. Sukces w tej dziedzinie będzie wymagał skoordynowanych wysiłków na wielu frontach, w tym inwestycji, innowacji technologicznych i zabezpieczeń cybernetycznych.
IIIb. Zabezpieczenie laboratoriów: bezpieczeństwo AGI
Bezpieczeństwo w laboratoriach AI to kluczowy element w kontekście rozwoju AGI. Obecnie czołowe laboratoria AI traktują bezpieczeństwo jako sprawę drugorzędną, co stwarza poważne zagrożenia. Niezabezpieczone laboratoria AI mogą stać się celem ataków ze strony obcych państw, takich jak Chiny, które mogą przejąć kluczowe informacje dotyczące AGI. Zabezpieczenie tych informacji przed zagrożeniami ze strony państw będzie ogromnym wyzwaniem, a obecnie nie jesteśmy na dobrej drodze do jego rozwiązania.
Aby skutecznie zabezpieczyć laboratoria AI, konieczne będzie przyjęcie nowych strategii i technologii bezpieczeństwa. Będzie to wymagało zarówno inwestycji w technologie zabezpieczające, jak i zmian w kulturze organizacyjnej laboratoriów, aby traktować bezpieczeństwo jako priorytet.
Bezpieczeństwo w laboratoriach AI jest kluczowe dla dalszego rozwoju AGI. Konieczne są skoordynowane wysiłki na rzecz zabezpieczenia kluczowych informacji i technologii przed zagrożeniami cybernetycznymi. Bez tego ryzyko przejęcia kluczowych informacji przez obce państwa może zagrozić globalnemu bezpieczeństwu.
IIIc. Superalignment
Superalignment to termin opisujący problem kontrolowania systemów AI znacznie mądrzejszych od ludzi. Jest to jedno z najważniejszych wyzwań, jakie stoją przed nami w kontekście rozwoju AGI i superinteligencji.
Superalignment to nadal nierozwiązany problem techniczny. Kontrola nad systemami AI znacznie mądrzejszymi od nas jest niezwykle trudna i wymaga innowacyjnych rozwiązań technologicznych. W trakcie gwałtownej eksplozji inteligencji mogą wystąpić poważne problemy, które mogą prowadzić do katastrofalnych skutków.
Rozwiązanie problemu superalignment jest kluczowe dla bezpiecznego rozwoju AGI. Niezbędne będą inwestycje w badania i rozwój nowych technologii, które pozwolą na kontrolowanie superinteligentnych systemów AI. W przeciwnym razie, niekontrolowany rozwój AI może prowadzić do poważnych zagrożeń dla ludzkości.
Superalignment to jedno z najważniejszych wyzwań w kontekście rozwoju AGI. Konieczne są skoordynowane wysiłki na rzecz opracowania technologii, które pozwolą na kontrolowanie superinteligentnych systemów AI. Tylko w ten sposób możemy zapewnić, że rozwój AI przyniesie korzyści, a nie zagrożenia.
IIId. Wolny świat musi zwyciężyć
Rozwój superinteligencji zapewni decydującą przewagę ekonomiczną i militarną. W kontekście globalnej rywalizacji, zwłaszcza z Chinami, stawką jest przetrwanie wolnego świata.
Superinteligencja może zapewnić ogromne korzyści ekonomiczne i militarne. Kraje, które będą w stanie wykorzystać superinteligentne systemy AI, będą miały znaczną przewagę nad innymi. Dlatego tak ważne jest, aby wolny świat utrzymał przewagę nad autorytarnymi mocarstwami.
Utrzymanie przewagi w dziedzinie AI będzie wymagało skoordynowanych wysiłków na wielu frontach. Konieczne będą inwestycje w badania i rozwój, współpraca międzynarodowa oraz skuteczne zarządzanie ryzykiem. W przeciwnym razie, autorytarne mocarstwa mogą przejąć przewagę, co może mieć poważne konsekwencje dla wolności i demokracji na świecie.
Wolny świat musi zwyciężyć w wyścigu do superinteligencji. Konieczne są skoordynowane wysiłki na rzecz utrzymania przewagi technologicznej i militarnej nad autorytarnymi mocarstwami. Tylko w ten sposób możemy zapewnić, że rozwój superinteligencji będzie służył dobru ludzkości, a nie jej zagładzie.
IV. Projekt
W miarę intensyfikacji wyścigu do AGI, państwo zacznie się angażować w rozwój sztucznej inteligencji. Do roku 2027/28 pojawi się jakiś rządowy projekt AGI. Żaden startup nie poradzi sobie z superinteligencją, dlatego konieczne będzie zaangażowanie rządu.
Rządowe projekty AGI będą ważne dla dalszego rozwoju tej technologii. Zaangażowanie państwa zapewni odpowiednie zasoby finansowe i technologiczne, które są niezbędne do rozwoju superinteligentnych systemów AI. Współpraca między sektorem publicznym a prywatnym będzie kluczowa dla osiągnięcia sukcesu.
Superinteligencja będzie miała ogromne znaczenie dla bezpieczeństwa narodowego. Rządowe projekty AGI będą kluczowe dla zapewnienia, że technologia ta będzie wykorzystywana w sposób bezpieczny i zgodny z interesem narodowym. Wprowadzenie superinteligentnych systemów AI będzie wymagało ścisłej kontroli i zarządzania, aby uniknąć potencjalnych zagrożeń.
Zaangażowanie rządu w rozwój AGI będzie kluczowe dla dalszego postępu technologicznego. Konieczne są skoordynowane wysiłki na rzecz rozwoju superinteligentnych systemów AI oraz zapewnienia, że będą one wykorzystywane w sposób bezpieczny i zgodny z interesem narodowym. Tylko w ten sposób możemy zapewnić, że rozwój superinteligencji przyniesie korzyści, a nie zagrożenia.
V. Wnioski
Jeśli nasze przewidywania dotyczące rozwoju AI są słuszne, czeka nas dramatyczna przyszłość. AI ma potencjał do rozwiązania wielu problemów, ale również niesie ze sobą poważne zagrożenia.
Sztuczna inteligencja ma ogromny potencjał do rozwiązywania problemów społecznych, ekonomicznych i technologicznych. Może przyczynić się do poprawy jakości życia, zwiększenia efektywności w różnych dziedzinach oraz przyspieszenia postępu technologicznego.
Zagrożenia związane z AI:
Rozwój AI niesie ze sobą również poważne zagrożenia. Superinteligencja może prowadzić do nowych wyzwań w zakresie bezpieczeństwa narodowego, globalnego zarządzania oraz etyki. Niekontrolowany rozwój AI może prowadzić do katastrofalnych skutków, dlatego tak ważne jest, abyśmy byli świadomi tych zagrożeń i odpowiednio się do nich przygotowali.
Rozwój AI to najważniejszy etap w historii ludzkości. Konieczne są skoordynowane wysiłki na rzecz zapewnienia, że technologia ta będzie wykorzystywana w sposób bezpieczny i zgodny z interesem społecznym. Musimy być świadomi wyzwań, jakie niesie ze sobą rozwój AI, i odpowiednio się do nich przygotować, aby zapewnić, że przyniesie ona korzyści, a nie zagrożenia.
Każdy z tych działów dostarcza wiele materiału do przemyśleń i dyskusji na temat przyszłości sztucznej inteligencji oraz jej wpływu na nasze życie, społeczeństwo i globalny porządek. Zachęcam do dyskusji, merytorycznej.
Źródło: „Nadchodząca dekada – Leopold Aschenbrenner”
I w tym momencie powinna powstać dyskusja o tym gdzie my jako Polska jesteśmy. [kurtyna]
