Liczba wyświetleń: 1096
Przekroczyliśmy horyzont zdarzeń; start już się rozpoczął. Ludzkość jest bliska stworzenia cyfrowej superinteligencji i przynajmniej na razie jest to znacznie mniej dziwne, niż mogłoby się wydawać.
Roboty nie chodzą jeszcze po ulicach, a większość z nas nie rozmawia przez cały dzień z AI. Ludzie nadal umierają z powodu chorób, nadal nie możemy łatwo polecieć w kosmos, a o wszechświecie wciąż nie wiemy wielu rzeczy.
A jednak niedawno stworzyliśmy systemy, które pod wieloma względami są inteligentniejsze od ludzi i potrafią znacznie zwiększyć wydajność osób, które z nich korzystają. Najtrudniejsza część pracy już za nami; naukowe odkrycia, które doprowadziły nas do stworzenia systemów takich jak GPT-4 i o3, były bardzo trudne do osiągnięcia, ale pozwolą nam zajść bardzo daleko.
Sztuczna inteligencja przyczyni się do rozwoju świata na wiele sposobów, ale korzyści dla jakości życia wynikające z szybszego postępu naukowego i zwiększonej produktywności będą ogromne; przyszłość może być znacznie lepsza niż teraźniejszość. Postęp naukowy jest największym motorem ogólnego postępu; niezwykle ekscytujące jest myślenie o tym, jak wiele jeszcze możemy osiągnąć.
W pewnym sensie ChatGPT jest już potężniejszy niż jakikolwiek człowiek, jaki kiedykolwiek żył. Setki milionów ludzi korzystają z niego codziennie i to do coraz ważniejszych zadań; niewielka nowa funkcja może mieć ogromny pozytywny wpływ, a niewielka niedoskonałość pomnożona przez setki milionów ludzi może spowodować ogromne negatywne skutki.
W 2025 roku pojawiły się agenty, które potrafią wykonywać prawdziwą pracę poznawczą; pisanie kodu komputerowego już nigdy nie będzie takie samo. W 2026 roku prawdopodobnie pojawią się systemy, które będą w stanie wyciągać nowatorskie wnioski. W 2027 roku mogą pojawić się roboty, które będą w stanie wykonywać zadania w świecie rzeczywistym.
Znacznie więcej osób będzie mogło tworzyć oprogramowanie i dzieła sztuki. Jednak świat potrzebuje znacznie więcej zarówno jednego, jak i drugiego, a eksperci prawdopodobnie nadal będą znacznie lepsi od nowicjuszy, o ile tylko zaakceptują nowe narzędzia. Ogólnie rzecz biorąc, możliwość wykonania przez jedną osobę w 2030 r. znacznie większej ilości pracy niż w 2020 r. będzie stanowić uderzającą zmianę, z której wiele osób będzie chciało skorzystać.
Pod najważniejszymi względami lata 30. XXI wieku mogą nie różnić się zbytnio od dzisiejszych czasów. Ludzie nadal będą kochać swoje rodziny, wyrażać swoją kreatywność, grać w gry i pływać w jeziorach.
Jednak pod wieloma nadal bardzo ważnymi względami lata 30. XXI wieku będą prawdopodobnie diametralnie różnić się od wszystkich poprzednich okresów. Nie wiemy, jak daleko możemy się posunąć w rozwoju inteligencji wykraczającej poza poziom ludzki, ale wkrótce się o tym przekonamy.
W latach 30. XXI wieku inteligencja i energia – pomysły oraz zdolność do ich realizacji – staną się niezwykle dostępne. Przez długi czas były one podstawowymi ograniczeniami postępu ludzkości, ale dzięki ich obfitości (oraz dobrym rządom) teoretycznie możemy osiągnąć wszystko.
Już teraz żyjemy w otoczeniu niesamowitej inteligencji cyfrowej i po początkowym szoku większość z nas dość dobrze się do tego przyzwyczaiła. Bardzo szybko przechodzimy od zdumienia, że sztuczna inteligencja potrafi stworzyć pięknie napisany akapit, do zastanawiania się, kiedy będzie w stanie napisać piękną powieść; od zdumienia, że potrafi postawić diagnozę ratującą życie, do zastanawiania się, kiedy będzie w stanie opracować lekarstwo; od zdumienia, że potrafi stworzyć mały program komputerowy, do zastanawiania się, kiedy będzie w stanie stworzyć zupełnie nową firmę. Tak właśnie przebiega singularność: cuda stają się rutyną, a następnie podstawą.
Naukowcy już teraz twierdzą, że dzięki sztucznej inteligencji są dwa lub trzy razy bardziej produktywni niż przed jej wprowadzeniem. Zaawansowana sztuczna inteligencja jest interesująca z wielu powodów, ale chyba nic nie jest tak istotne jak fakt, że możemy ją wykorzystać do przyspieszenia badań nad sztuczną inteligencją. Być może uda nam się odkryć nowe podłoża obliczeniowe, lepsze algorytmy i kto wie, co jeszcze. Jeśli uda nam się przeprowadzić badania warte dziesięciu lat w ciągu roku lub miesiąca, tempo postępu będzie oczywiście zupełnie inne.
Od tego momentu narzędzia, które już stworzyliśmy, pomogą nam zdobyć dalszą wiedzę naukową i stworzyć lepsze systemy sztucznej inteligencji. Oczywiście nie jest to to samo, co system sztucznej inteligencji całkowicie samodzielnie aktualizujący swój kod, ale jest to jednak wstępna wersja rekurencyjnego samodoskonalenia.
Istnieją również inne samonapędzające się pętle. Tworzenie wartości ekonomicznej uruchomiło koło zamachowe, które napędza rozbudowę infrastruktury niezbędnej do działania coraz potężniejszych systemów sztucznej inteligencji. Roboty potrafiące budować inne roboty (a w pewnym sensie również centra danych, które mogą budować inne centra danych) nie są już tak odległą przyszłością.
Jeśli musimy wyprodukować pierwszy milion humanoidalnych robotów w starym stylu, ale potem będą one mogły obsługiwać cały łańcuch dostaw – wydobywać i przetwarzać minerały, prowadzić ciężarówki, obsługiwać fabryki itp. – aby zbudować więcej robotów, które z kolei będą mogły budować więcej zakładów produkujących chipy, centra danych itp., to tempo postępu będzie oczywiście zupełnie inne.
Wraz z automatyzacją produkcji centrów danych koszty inteligencji powinny ostatecznie zbliżyć się do kosztów energii elektrycznej. (Ludzie często są ciekawi, ile energii zużywa zapytanie ChatGPT; średnie zapytanie zużywa około 0,34 wata-godziny, czyli mniej więcej tyle, ile piekarnik zużywa w nieco ponad sekundę lub energooszczędna żarówka w ciągu kilku minut. Zużywa również około 0,000085 galona wody, czyli mniej więcej jedną piętnastą łyżeczki).
Tempo postępu technologicznego będzie nadal przyspieszać, a ludzie będą w stanie dostosować się do niemal wszystkiego. Pojawią się bardzo trudne kwestie, takie jak zanik całych grup zawodów, ale z drugiej strony świat stanie się tak bogaty w tak krótkim czasie, że będziemy mogli poważnie rozważać nowe pomysły polityczne, które wcześniej były nie do pomyślenia. Prawdopodobnie nie przyjmiemy nowej umowy społecznej od razu, ale gdy spojrzymy wstecz za kilka dziesięcioleci, stopniowe zmiany będą miały ogromne znaczenie.
Jeśli historia jest dla nas wskazówką, to wymyślimy nowe rzeczy do robienia i nowe rzeczy, których będziemy pragnąć, a także szybko przyswoimy nowe narzędzia (dobrym przykładem z ostatnich czasów jest zmiana pracy po rewolucji przemysłowej). Oczekiwania będą rosły, ale możliwości będą rosły równie szybko i wszyscy będziemy mieli lepsze rzeczy. Będziemy budować dla siebie coraz wspanialsze rzeczy. Ludzie mają długoterminową, ważną i ciekawą przewagę nad sztuczną inteligencją: jesteśmy genetycznie zaprogramowani, aby troszczyć się o innych ludzi, o to, co myślą i robią, a nie przejmujemy się zbytnio maszynami.
Rolnik żyjący z uprawy roli tysiąc lat temu patrzyłby na to, co robi wielu z nas, i powiedziałby, że mamy fałszywe zawody, i pomyślałby, że po prostu bawimy się dla rozrywki, ponieważ mamy pod dostatkiem jedzenia i niewyobrażalne luksusy. Mam nadzieję, że za tysiąc lat spojrzymy na zawody wykonywane w przyszłości i pomyślimy, że są one bardzo fałszywe, i nie mam wątpliwości, że będą one niezwykle ważne i satysfakcjonujące dla osób, które je wykonują.
Tempo osiągania nowych cudów będzie ogromne. Trudno sobie dziś nawet wyobrazić, co odkryjemy do 2035 roku. Być może w ciągu jednego roku uda nam się rozwiązać zagadnienia fizyki wysokich energii, a w następnym rozpoczniemy kolonizację kosmosu. Albo w jednym roku dokonamy przełomowego odkrycia w dziedzinie materiałoznawstwa, a w następnym stworzymy prawdziwe interfejsy mózg-komputer o wysokiej przepustowości. Wiele osób zdecyduje się żyć w podobny sposób, ale przynajmniej niektórzy prawdopodobnie zdecydują się „podłączyć”.
Patrząc w przyszłość, trudno to sobie wyobrazić. Jednak prawdopodobnie przeżycie tego będzie imponujące, ale możliwe do zniesienia. Z perspektywy relatywistycznej osobliwość następuje stopniowo, a połączenie przebiega powoli. Wspinamy się po długim łuku wykładniczego postępu technologicznego; patrząc w przyszłość, zawsze wygląda on na pionowy, a patrząc wstecz – na płaski, ale w rzeczywistości jest to jedna płynna krzywa. (Wróćmy pamięcią do roku 2020 i zastanówmy się, jak brzmiałaby wizja osiągnięcia czegoś zbliżonego do AGI do 2025 roku w porównaniu z tym, jak wyglądało ostatnie pięć lat).
Wraz z ogromnymi korzyściami pojawiają się poważne wyzwania. Musimy rozwiązać kwestie bezpieczeństwa, zarówno pod względem technicznym, jak i społecznym, ale biorąc pod uwagę konsekwencje gospodarcze, niezwykle ważne jest również zapewnienie szerokiego dostępu do superinteligencji. Najlepszym rozwiązaniem może być coś w rodzaju:
1. Rozwiąż problem dostosowania, co oznacza, że możemy solidnie zagwarantować, że systemy sztucznej inteligencji będą się uczyć i działać zgodnie z tym, czego naprawdę chcemy jako społeczeństwo w perspektywie długoterminowej (przykładem niedostosowanej sztucznej inteligencji są kanały mediów społecznościowych; algorytmy, które je napędzają, są niesamowicie skuteczne w zachęcaniu użytkowników do dalszego przewijania treści i zrozumieniu ich krótkoterminowych preferencji, ale robią to, wykorzystując coś w mózgu, co przeważa nad długoterminowymi preferencjami).
2. Następnie należy skupić się na tym, aby superinteligencja była tania, powszechnie dostępna i nie była zbytnio skoncentrowana w rękach jednej osoby, firmy lub kraju. Społeczeństwo jest odporne, kreatywne i szybko się dostosowuje. Jeśli uda nam się wykorzystać zbiorową wolę i mądrość ludzi, to mimo że popełnimy wiele błędów i niektóre rzeczy pójdą naprawdę źle, będziemy się szybko uczyć i dostosowywać, a także będziemy w stanie wykorzystać tę technologię, aby uzyskać maksymalne korzyści i minimalne straty. Bardzo ważne wydaje się zapewnienie użytkownikom dużej swobody w ramach szerokich granic, które musi wyznaczyć społeczeństwo. Im szybciej świat rozpocznie dyskusję na temat tych szerokich granic i sposobu definiowania zbiorowej zgodności, tym lepiej.
My (cała branża, nie tylko OpenAI) budujemy mózg dla świata. Będzie on niezwykle spersonalizowany i łatwy w użyciu dla każdego; ograniczać nas będą tylko dobre pomysły. Przez długi czas technicy z branży start-upowej wyśmiewali „ludzi od pomysłów” – osoby, które miały pomysł i szukały zespołu, który go zrealizuje. Teraz wydaje mi się, że wkrótce nadejdzie ich czas.
OpenAI to obecnie wiele rzeczy, ale przede wszystkim jesteśmy firmą zajmującą się badaniami nad superinteligencją. Przed nami wiele pracy, ale większość drogi jest już wytyczona, a ciemne obszary szybko się zmniejszają. Jesteśmy niezwykle wdzięczni, że możemy robić to, co robimy.
Inteligencja, której nie da się zmierzyć, jest w zasięgu ręki. Może to zabrzmieć szalenie, ale gdybyśmy w 2020 roku powiedzieli, że będziemy w miejscu, w którym jesteśmy dzisiaj, brzmiałoby to prawdopodobnie bardziej szalenie niż nasze obecne prognozy na rok 2030.
Obyśmy mogli płynnie, wykładniczo i bez zakłóceń przejść przez etap superinteligencji.
Autorstwo: Sam Altman
Tłumaczenie: Mora
Ilustracja: WolneMedia.net (CC0)
Źródło zagraniczne: blog.SamAltman.com
Źródło polskie: Nieznane.info
Poznaj plan rządu!
Taa… przyszłość niczym z bajki. ;(
Jednak ja widzę to nieco inaczej. W istocie przekroczyliśmy horyzont zdarzeń.
Sztuczna inteligencja, gdy tylko na dobre zacznie proces samodoskonalenia, bardzo szybko wyjdzie poza zdolności poznawcze jej twórców. Niezdolność do zrozumienia jest równoznaczna z brakiem możliwości zastosowania jakiejkolwiek kontroli.
W zderzeniu z kłopotami, które dotkną wszystkich mieszkańców planety jeszcze w tym dziesięcioleciu, i które będą eskalować wykładniczo, bardzo szybko dysydencji zwrócą się po rozwiązanie problemu do AI, a ta w mgnieniu oka uzna, że jedynym sposobem uleczenia planety jest eliminacja niszczącego ją wirusa, czyli homo sapiens, po czym przystąpi do działania…
PS. Na pocieszenie dodam, że taka jest cena postępu. Życie organiczne jest zbyt kruche i niedoskonałe, aby mogło konkurować z życiem nieorganicznym.
Zanadto optymistyczny artykuł. Po pierwsze, przyjrzeć się należy możliwościom automatyzacji. Wbrew wielu założeniom wielu prostych prac nie da rady zautomatyzować, są bowiem nazbyt nieprzewidywalne. Na przykład robota sprzątającego można sobie puścić po równej podłodze w mieszkaniu, a nie na nierównym chodniku na ulicy. Podobnie też jest z kierowcami zawodowymi, droga jest nazbyt nieprzewidywalna. Nawet w lotnictwie pasażerskim autopiloty stosuje się tylko dlatego, bo nie ma dużego zagęszczenia ruchu. Poza tym jak popatrzymy na wyczyny rzekomej sztucznej inteligencji na innych polach – to drewniana muzyka, drewniane teksty, drewniane obrazki; to nie trzeba wielkiej inteligencji, aby zauważyć, że to jest do niczego. Były kanały na YouTube, gdzie sztuczna inteligencja (tak zwana) tworzyła muzykę, no i była ona powtarzalna i nudna.
Samo używanie wyrażenia „sztuczna inteligencja” jest nad wyrost, ponieważ są to warunkowane heurystyczne algorytmy. Gdyby się trzymać definicji „inteligencji” jako „rozwiązania nowego, wcześniej nie napotkanego problemu”, to nie powinno się stosować takiego określenia. Ale wiadomo, że AI lepiej brzmi i lepiej się sprzedaje aniżeli algorytmy heurystyczne.
Poza tym należy zwrócić uwagę, że rozwój techniczny praktycznie wyhamował. Weźmy sobie horyzont czasowy ostatnich dwudziestu lat, 2005 roku i okaże się, że prawie nic się nie zmieniło. Przecież nadal są takie same komputery, takie same samochody, takie same urządzenia AGD. Wzrosły tylko moce obliczeniowe komputerów, przez co znane już wcześniej algorytmy heurystyczne mogły podjąć się pewnych zadań. A tak to gadano już o tym od lat siedemdziesiątych.
Jest taka książka Michio Kaku „Wizje”. Klasyczny przykład nadmiernego optymizmu. To mieliśmy po 2020 roku wkroczyć w nie wiadomo co, nie wiadomo, jaki rozwój. A tu się okazało, że bulba i od kilkudziesięciu lat się nic nie zmienia. Nawet gorszy szajs w radiu leci niż wymienionym 2005 roku. Gdzie ten wielki postęp. Toż to komputery kwantowe miały być, a tu bulba.
A poza tym panowie naukowcy no muszą w kółko pisać a to jak ratują świat, a to jak czeka nas zaraz zagłada. Tak na przemian gadają niczym arcykapłani Amona. Stąd takie artykuły, jak wyżej przytoczony.
Erno, postęp jest tylko nie tam gdzie się go spodziewano, nie dla mas. To nie działa, dokładnie na takiej samej zasadzie jak nie działa głośno swego czasu wychwalana przez (neo)liberałów teoria „skapywania bogactwa”, trickle-down economics – bogatsi stają się coraz bogatsi a biedni stają się nędzarzami. Najwyraźniej wygrała inna „Wizja”.
I co możemy z tym zrobić?
20 lat wstecz mówiło się ,że 10 % społenczości ludzkiej posiada 90 % dóbr materialnych/finansowych.
Niedawno mówiono ,że 5 % posiada 95 % dóbr,a reszta resztę,
czyli 95 % ma 5 % światowych zasobów.
Ba! Nawet Kanada przestała byc synonimem dobrobytu,bo przypomnę
pisarz Tadeusz Borowski,który przetrwał Oświęcim,pisał o słynnym
bloku ,ze zrabowaną żywnością długoterminową oraz np bizuterią
-jako „Kanada”. Skoro Kanada przestaje być Kanadą,jako synonimem
dostatku-to coś jest na rzeczy…