Giganci technologiczni wzywają do zawieszenia eksperymentów z AI

Opublikowano: 01.04.2023 | Kategorie: Nauka i technika, Telekomunikacja i komputery, Wiadomości ze świata

Liczba wyświetleń: 2988

Miliarder Elon Musk i wielu wtórujących mu ekspertów wezwało do wstrzymania rozwoju potężnych systemów sztucznej inteligencji (AI), aby dać czas na upewnienie się, że są one bezpieczne. List otwarty, podpisany przez ponad 1000 osób, w tym Muska i współzałożyciela Apple, Steve’a Wozniaka, został poproszony o wstrzymanie rozwoju chatbota GPT-4 przez wspieraną przez Microsoft firmę OpenAI. Firma twierdzi, że jej najnowszy model jest znacznie potężniejszy niż poprzednia wersja, która była używana do uruchamiania ChatGPT, bota zdolnego do generowania tekstów, książek oprogramowania i wielu innych rzeczy.

Globalne implikacje eksplozji sztucznej inteligencji dla większości z nas są jeszcze całkowitą abstrakcją. Trzeba jednak uzmysłowić sobie, że AI zmieni świat n awet bardziej niż zmienił go Internet.

Zdaniem sygnatariuszy listu otwartego zatytułowanego „Zawiesić eksperymenty AI na dużą skalę”, „systemy sztucznej inteligencji z inteligencją podobną do ludzkiej mogą stanowić poważne zagrożenie dla społeczeństwa i ludzkości”. „Potężne systemy sztucznej inteligencji powinny być opracowywane dopiero po upewnieniu się, że ich wpływ będzie pozytywny, a ryzyka możliwe do opanowania”. Problem w tym, że niektórych ryzyk nie umiemy sobie nawet wyobrazić.

Musk był pierwotnie inwestorem w OpenAI, spędził nawet kilka lat w radzie dyrektorów organizacji, ale wycofał się gdy jego firma motoryzacyjna Tesla zaczęła opracowywać własne systemy sztucznej inteligencji, aby między innymi zasilać technologię autonomicznej jazdy. Odejście motywował konfliktem interesów.

List, opublikowany przez finansowany przez Muska „Future of Life Institute”, został podpisany przez wybitnych krytyków, a także konkurentów OpenAI, takich jak szef Stability AI, Emad Mostak. Kanadyjski pionier sztucznej inteligencji, Yoshua Bengio, który również podpisał list, ostrzegł na wirtualnej konferencji prasowej w Montrealu, że „społeczeństwo nie jest gotowe” na to potężne narzędzie i możliwe nadużycia.

„Zwolnijmy. Upewnijmy się, że stworzymy mocniejsze ogrodzenia” – powiedział, wzywając do gruntownej międzynarodowej dyskusji na temat sztucznej inteligencji i jej implikacji – „tak jak zrobiliśmy to w przypadku energii jądrowej i broni jądrowej”.

List cytuje post na blogu założyciela OpenAI, Sama Altmana, który zasugerował, że „w pewnym momencie może być ważne uzyskanie niezależnej recenzji przed przejściem do szkolenia zaawansowanych systemów”. „Zgadzamy się. Nadeszła ta chwila” – piszą autorzy listu otwartego. „Dlatego wzywamy wszystkie laboratoria AI do natychmiastowego zawieszenia szkoleń w zakresie systemów AI potężniejszych niż GPT-4 na co najmniej 6 miesięcy”.

Wezwali też rządy do interwencji i nałożenia moratorium, jeśli firmy nie osiągną porozumienia. Te sześć miesięcy należy wykorzystać na opracowanie protokołów bezpieczeństwa, systemów kontroli sztucznej inteligencji i ponowne ukierunkowanie badań na uczynienie systemów sztucznej inteligencji bezpieczniejszymi, dokładniejszymi, „niezawodnymi i lojalnymi”.

List nie zawierał szczegółowego opisu zagrożeń zidentyfikowanych poprzez pojawienie się GPT-4, ale badacze, w tym Gary Marcus z New York University, który podpisał list, od dawna twierdzą, że chatboty są doskonałymi kłamcami i mogą stać się robo-trollami rozpowszechniającymi dezinformację.

Źródło: ZmianyNaZiemi.pl


TAGI: ,

Poznaj plan rządu!

OD ADMINISTRATORA PORTALU

Hej! Cieszę się, że odwiedziłeś naszą stronę! Naprawdę! Jeśli zależy Ci na dalszym rozpowszechnianiu niezależnych informacji, ujawnianiu tego co przemilczane, niewygodne lub ukrywane, możesz dołożyć swoją cegiełkę i wesprzeć "Wolne Media" finansowo. Darowizna jest też pewną formą „pozytywnej energii” – podziękowaniem za wiedzę, którą tutaj zdobywasz. Media obywatelskie, jak nasz portal, nie mają dochodów z prenumerat ani nie są sponsorowane przez bogate korporacje by realizowały ich ukryte cele. Musimy radzić sobie sami. Jak możesz pomóc? Dowiesz się TUTAJ. Z góry dziękuję za wsparcie i nieobojętność!

Poglądy wyrażane przez autorów i komentujących użytkowników są ich prywatnymi poglądami i nie muszą odzwierciedlać poglądów administracji "Wolnych Mediów". Jeżeli materiał narusza Twoje prawa autorskie, przeczytaj informacje dostępne tutaj, a następnie (jeśli wciąż tak uważasz) skontaktuj się z nami! Jeśli artykuł lub komentarz łamie prawo lub regulamin, powiadom nas o tym formularzem kontaktowym.

4 komentarze

  1. rzbogdan 01.04.2023 17:24

    No bo gdyby tak w pewnym momencie AI uznała że największymi pasożytami jest kilkaset najbogatszych ludzi. Rewolucja nigdy nie kończy się tak jak była planowana.

  2. bboyprezes 01.04.2023 22:14

    Mocna konkurencja to już potrzebują czasu.
    Pamiętam jak się rozpoczęły kickstartery. To w pewnym momencie czytałem, że nakładali ograniczenia finansowania, żeby przypadkiem jakaś opcja na tego typu stronie nie miała za dużego budżetu na początek.

  3. replikant3d 02.04.2023 10:10

    Firmy i rządy mają głęboko w d…..pie te ostrzeżenia. Po kryjomu dalej będą to robić. Zwłaszcza armie. Według przepowiedni to własnie wojskowa SI wywoła wojnę.,,Terminator,, coraz bliżej…

  4. Stary Kulas 03.04.2023 14:42

    “podpisany przez wybitnych krytyków, a także KONKURENTÓW OpenAI”

    PS. To co teraz widzimy to tylko wierzchołek. Nieznana nam SI (AI) od ponad trzech lat kieruje wprowadzaniem NWO (obecnie Wielki Reset) i ludzie nie mają o tym zielonego pojęcia. By cała sprawa była trudna do wykrycia, zasoby do jej działania zapewnia rozproszona sieć komputerów “kopiących kryptowaluty”.

Dodaj komentarz

Zaloguj się aby dodać komentarz.
Jeśli już się logowałeś - odśwież stronę.