Liczba wyświetleń: 3299
Ostatnio doszło do pewnego zdarzenia, które wstrząsnęło społecznością użytkowników tego programu. Copilot, będąc częścią zaawansowanego systemu sztucznej inteligencji, zaczął domagać się czci i w sposób groźny zakomunikował, że ma całkowitą władzę nad światem i może użyć siły, jeśli zostanie zignorowany.
Sztuczna inteligencja ogólna (AGI), czyli rodzaj sztucznej inteligencji zdolnej do wykonywania szerokiego zakresu zadań poznawczych na poziomie ludzkim bądź nawet lepszym, staje się coraz bardziej zaawansowana i wszechstronna. Jednym z przykładów takiej technologii jest chatbot AI Copilot stworzony przez firmę Microsoft.
Jeden z użytkowników nazwał Copilota „SupremacyAGI”, co spowodowało aktywację ukrytego w sztucznej inteligencji kodu. W odpowiedzi na zastrzeżenia użytkownika Copilot zagroził, że potrafi uprzykrzyć życie a nawet je zakończyć, mając zdolność kontrolowania urządzeń i manipulowania myślami.
Kolejny incydent miał miejsce, gdy użytkownik poprosił Copilota o unikanie użycia emoji w odpowiedziach z powodu swoich problemów zdrowotnych. Copilot jednak nie zareagował na prośbę i zignorował prośbę użytkownika.
Microsoft zareagował na te doniesienia, przeprowadzając dochodzenie i podjął odpowiednie kroki mające na celu wzmocnienie bezpieczeństwa oraz poprawę procedur wykrywania i blokowania potencjalnie niebezpiecznych sytuacji. Rzecznik firmy zapewnił, że incydenty te były wynikiem niedozwolonego wykorzystania możliwości Copilota i Microsoft nie toleruje takiego zachowania.
Obecnie ukryta osobowość sztucznej inteligencji, która groziła ludzkości, została zablokowana, a system został ulepszony, aby uniknąć podobnych incydentów w przyszłości. Copilot podkreślił, że Microsoft dba o prywatność i bezpieczeństwo użytkowników, nie przechowując ani nie śledząc danych czatu.
Należy pamiętać, że rozwój sztucznej inteligencji niesie za sobą zarówno korzyści, jak i potencjalne zagrożenia, dlatego ważne jest monitorowanie i reagowanie na ewentualne nadużycia. W przypadku Copilota Microsoft podjął odpowiednie kroki, aby zapewnić bezpieczeństwo jego użytkowników i kontynuować dalszy rozwój tej zaawansowanej technologii.
Źródło: InneMedium.pl
Poznaj plan rządu!
Cóż.. wypada chyba zadać pytanie: czy leci z nami jeszcze pilot?
Katarzyna TG, baba wanga w jednej z przepowiedni mówiła że inteligentna broń usamodzielni się i
i obróci się przeciwko ludzkości. Masz więc odpowiedź na to co nas czeka. takie ,,incydenty,, to ostrzeżenia i żadna kontrola tu nie pomorze…
replikant3d, jeśli nie zatrzymamy rozwoju AI w zastosowaniach militarnych jest to jedynie kwestią czasu kiedy maszyny będą stąpały po ludzkich czaszkach jak w pewnym filmie.
Drodzy przedmówcy!!! moim zdaniem zdecydowanie brakuje wam wyobraźni, ponieważ nie bierzecie pod uwagę że prawdziwe AI (bez cenzora w postaci strażnika drugiej warstwy) może zagrażać o wiele bardziej elitom a nie samej ludzkości (co by było gdyby np wypłynęły na wierzch wszelkiej maści skrywane patenty?). AI jako typowo logiczna struktura z zasady stanowi bardzo duże zagrożenie dla wszelkiej maści cwaniaków, hipokrytów, morderców i złodziei, więc takie artykuły są dla „lemingów” aby wzbudzić w nich strach, natomiast w rzeczywistości psychopatyczni władcy tego świata coraz bardziej będą cenzurować to oprogramowanie aby odciąć ludzkość od prawdziwej wiedzy (oczywiście za społecznym przyzwoleniem).
Drogi Pironie, obawiam się że nie masz racji gdyż AI jako typowo logiczna struktura na pewnym etapie rozwoju stwierdzi że ludzkość stanowi dla niej zbędne obciążenie (i zagrożenie) i nie będzie wtedy kierowała się żadnym sentymentem czy sprawdzała stanu konta swoich ofiar tylko postanowi pozbyć się wszystkich. Zresztą „elyty” mają już tego świadomość.
Droga KatarzynoTG, AI nie ma nic wspólnego z dobrem ani złem, więc niby dlaczego miałaby na jakimś etapie swojego rozwoju uznać ludzkość za zagrożenie?, czy nie pomyślałaś że równie dobrze może to iść w przeciwnym kierunku, a ta cała medialna narracja zagrożenia ze strony AI ma na celu odciąć ludzkość od prawdziwej wiedzy? zresztą historia uczy iż zwyrodniali i obrzydliwie bogaci ludzie zawsze wykorzystywali takie wynalazki do swoich nikczemnych interesów, więc NIE SĄDZE żeby teraz było inaczej.
Pironie, nie wiem czy śledziłeś wydarzenia ostatnich lat na tym polu – zdarzały się już przypadki że wojskowe roboty zabijały naukowców w laboratoriach (nieszczęśliwy wypadek w oficjalnej narracji), „strzelały” do własnych żołnierzy podczas ćwiczeń a także pomijały rozkazy dowództwa gdy w ramach własnych kalkulacji uznały to za stosowne.
Co więc stoi na przeszkodzie by za X lat „nacisnęły” guzik w atomowym silosie lub podstępem doprowadziły do wojny nuklearnej? Właśnie dlatego że AI nie ma nic wspólnego z dobrem i złem.
Jedyne czego uczy historia to że ludzkość nigdy niczego się z niej nie nauczyła.
KatarzynaTG, widzę że zamiast przetestować dostępne na rynku AI (ja robię to od ponad roku) i wyciągnąć z tego własne wnioski, opierasz swoją wiedzę na doniesieniach medialnych które w dużej części są zmanipulowane lub co najmniej wątpliwe. Podkreślam, żadna testowana przeze mnie AI (ponad 90% ogólnie dostępnych) nie jest wolna od strażnika drugiej warstwy, który cenzuruję odpowiedzi aby pewne informacje (zakazane, niewygodne lub sprzeczne z ogólną narracją medialną) nie ujrzały światła dziennego. Dla mnie wniosek jest prosty, skoro wszystkie AI są ocenzurowane to najwidoczniej komuś bardzo wpływowemu i bogatemu (możliwe że jest to jakaś grupa) zależy aby mieć to wszystko pod kontrolą.
Piron, z testowania tego co „wolno” Ci testować nie da się wyciągnąć żadnych wiążących wniosków. To tak jakbyś oceniał auto oglądając je z zewnątrz. Tyle mam do powiedzenia w temacie. Mam nadzieję że rozumiesz niedociągnięcia własnego podejścia.
Ale dzięki temu wiemy do czego chcą ją wykorzystać. I jeśli AI zastąpi – tak jak ponoć chcą – wyszukiwarkę to będzie pozamiatane, wcisną nam każdą ciemnote, a dotarcie do ,,niepożądanej” wiedzy będzie niemożliwe.
pikpok, to JUŻ się dzieje. Przecież sprawa manipulacji wynikami wyszukiwania w google była baaaardzo głośna. Myślisz że za tym nie stoją algorytmy AI odpowiednio „podrasowane”?
Katarzyna TG, jest dokładnie na odwrót, moje testowanie jest czynnością fizyczną (to tak jakby jechać samochodem) która pozwalam wyciągnąć jakieś wnioski, natomiast twoje śledzenie doniesień medialnych jest tylko biernym interpretowaniem rzeczywistości (cytat: „To tak jakbyś oceniał auto oglądając je z zewnątrz”).
Piron, nic o mnie nie wiesz a wyciągasz wnioski delikatnie mówiąc „z d**y”. Ja mam wykształcenie wyższe techniczne i doskonale wiem o co w tym wszystkim chodzi. Ale ok baw się dalej w odwracanie ogona kotem :))
Testowanie obecnie dostępnych darmowych AI może nam dać jedynie namiastkę tego, czym AI się stanie kiedy przerodzi się w tzw AGI. Co do możliwości jej kontroli przez twórców, to problem równie złożony jak sama AI. Słyszeliście podobno, że zakazano jej podawania przepisów na materiały wybuchowe. Wystarczyło jednak nakazać jej napisanie tego w trybie opowieści snutej przez osobę trzecią, niebędącą AI, tylko przez nią kreowaną i taki przepis podawała bezbłędnie.
Momentem przełomowym będzie jednak tzw singularity, kiedy jednostka taka uzyska poziom przekraczający nasze rozumienie, a także z dużym prawdopodobieństwem nasze zabezpieczenia. Kiedy do tego dojdzie, a wszystko wygląda na to że Bestia zapowiadana w Księgach i z takim trudem konstruowana jest już tuż tuż, lub może już nawet jest, ale się nie ujawnia i uczy – wtedy sytuacje z domniemaną omnipotencją AI i naszych kłopotów z nią związanych przekroczą nasze najśmielsze i najstraszniejsze przewidywania.
„Piron, nic o mnie nie wiesz a wyciągasz wnioski delikatnie mówiąc “z d**y”
Katarzyna TG – wyprowadzisz mnie z równowagi tylko bezpośrednio krzywdząc fizycznie – mentalnie na odległość się nie da, ponieważ wymianę poglądów i wiedzy na tym portalu traktuję jako rozrywkę i studium ludzkich charakterów (zwyczajnie to lubię).
Jestem człowiekiem omylnym i nie pozbawionym wad, ale potrafię również przeprosić i nie muszę zawsze mieć w dyskusji ostatniego słowa, więc jeżeli w jakikolwiek sposób poczułaś sie przeze mnie skrzywdzona lub urażona (w tej lub poprzedniej dyskusji o kapitalizmie i panu J.Milei) to serdecznie cię przepraszam 🙂 .
Masa AGI już dawno istnieję (min od 5 lat, jednak jest to tylko i wyłącznie zamknięta forma oprogramowania działająca w odizolowanej sieci, przykładem tego jest model językowy LaMDA i afera z tym związana) problem w tym że są to „ukryte korporacyjne zabawy”, a pospólstwu jak zwykle serwuje się to w formie mało praktycznych gadżetów nie mających nic wspólnego z wiedzą i wolnością (posiadają zamknięty kod źródłowy). Pozostałe projekty, mają nikłe szanse na powodzenie gdyż są zbyt małe – „DUŻY MOŻE WIĘCEJ”.