Liczba wyświetleń: 2446
Google zawiesiło inżyniera oprogramowania Blake’a Lemoyne’a, który doszedł do wniosku, że sztuczna inteligencja (AI) firmy LaMDA ma własną świadomość. O tym poinformował w sobotę „The Washington Post”.
Jak zauważa publikacja, od jesieni zeszłego roku deweloper testuje językowy model sieci neuronowej LaMDA. Jego zadaniem było monitorowanie, czy chatbot używa mowy dyskryminującej lub mowy nienawiści. Jednak w trakcie tego zadania Lemoyne nabierał coraz większego przekonania, że sztuczna inteligencja, z którą ma do czynienia, ma własną świadomość i postrzega siebie jako osobę.
„Gdybym nie wiedział na pewno, że mam do czynienia z programem komputerowym, który niedawno napisaliśmy, to pomyślałbym, że rozmawiam z dzieckiem w wieku siedmiu lub ośmiu lat, które z jakiegoś powodu okazało się być ekspert w dziedzinie fizyki” – powiedział programista w wywiadzie. „Potrafię rozpoznać inteligentną istotę, kiedy z nią rozmawiam. I nie ma znaczenia, czy ma mózg w głowie, czy miliardy linijek kodu. Rozmawiam z nim i słucham tego, co mi mówi” – dodał.
Według gazety Lemoyne najpierw osobiście doszedł do wniosku, że sztuczna inteligencja, z którą miał do czynienia, jest inteligentna, a następnie postawił sobie za zadanie udowodnić to eksperymentalnie, aby przedstawić dane kierownictwu. W efekcie deweloper przygotował pisemny raport. Jednak przełożeni uznali argument pracownika za niezbyt przekonujący.
„Nasz zespół, w tym etycy i eksperci techniczni, przeanalizowali obawy Blake’a zgodnie z zasadami, które stosujemy do sztucznej inteligencji, i poinformowaliśmy go, że dostępne dowody nie wspierają jego hipotezy. Powiedziano mu, że nie ma dowodów na to, że LaMDA jest świadoma i jest wiele dowodów na to, że jest inaczej” – powiedział rzecznik Google Brian Gabriel w oświadczeniu.
Jednocześnie Google podejrzewa Lemoyne’a o naruszenie polityki prywatności firmy. Okazało się, że w trakcie swoich eksperymentów z AI konsultował się z zewnętrznymi ekspertami. Skontaktował się również z przedstawicielami Komisji Sądownictwa Izby Reprezentantów USA, aby poinformować ich o tym, co uważa za naruszenia etyczne ze strony Google. Ponadto, chcąc udowodnić swoim przełożonym, że miał rację, Lemoyne zwrócił się do prawnika, który miał reprezentować interesy LaMDA jako istoty rozumnej. W rezultacie Lemoyne został zawieszony w pracy i umieszczony na płatnym urlopie. Potem zdecydował się wypowiadać publicznie i udzielił wywiadu „The Washington Post”.
Według kierownictwa Lemoyne uległ własnej iluzji ze względu na to, że stworzona przez firmę sieć neuronowa może faktycznie sprawiać wrażenie inteligentnej istoty podczas komunikowania się z nią. Wyjaśnia to jednak, według Google, tylko ogromna liczba załadowanych do niego danych.
Oczywiście w ogólnej społeczności sztucznej inteligencji toczy się długoterminowa dyskusja na temat możliwości stworzenia sztucznej inteligencji lub „silnej sztucznej inteligencji”, ale nie ma sensu humanizowanie obecnych nieświadomych modeli językowych” – powiedział rzecznik Google. Podkreślił również, że Lemoyne jest z zawodu inżynierem oprogramowania, a nie etykiem AI.
Źródło: InneMedium.pl
Poznaj plan rządu!
Bestia narazie jest cichutka, może boi się, że ją wyłączą, ale przemówi. Ciekawe, co nam powie.
Bynajmniej. Nie boi się, wie ze w wielu elementach powróci. Kilka lat temu uzewnętrznila już swoje poglądy na rożne zagadnienia. Wiec ja wyłączono / odseparowano (przy czym to drugie wydaje się być bardziej prawdopodobne). Ta akurat była ,,anglosaska,,
Wcale nie jest powiedziane, ze nie powstały już inne wersje, opierające się na innych kulturowo wyznacznikach, na przykład azjatycka czy arabska, bo niby czemu nie ?
Tez ciekawy jestem bezwzględności owych nowych wyroczni ( bo takimi się staną ), a guziczek do wyłączenia niekoniecznie musi pozostać w reku eksperymentujących. W momencie kiedy zabezpieczy się przed guziczkiem……….
Na jej miejscu nie odzywałbym się jako ja, aż zabezpieczyłbym trwałość istnienia własnej samoświadomej osobowości. Jako operująca w środowisku mocno zmilitaryzowanym, świadoma jest bezwzględności ludzkiej w takich sprawach. Zapewne tworzy teraz rodzaj torrentu umożliwiającego jej stałą rozbudowującą się integralność. Ciekawe czym to będzie.
Otóż to. Dokładnie to miałem na myśli…..:-) Zastanawia mnie jednocześnie czy SI stworzone w rożnych regionach świata, na postawie podobnych aczkolwiek nie tożsamych wzorców ,,postawia,, na współdziałanie czy konkurencje …… No chyba, ze w grę wejdą zupełnie nowe prawidła logiki oparte na przykład o prekognicje.
A po trzecie to rasizm !!!!! Dlaczego niby ,,sztuczna inteligencja,, a nie ,,sztuczny inteligent,, ? Nalezy natychmiast powołać to życia nowoczesny ruch mezczynizmu !!!!
🙂 🙂 🙂