Sztuczna inteligencja będzie cenzurowała polską Sieć?

Naukowcy z Sopotu pracują nad systemem, który pozwoli władzom wychwytywać w Sieci „faszystów, pedofilów”… i innych nieprawomyślnych obywateli. Cerber – bo tak system został nazwany – jest zbiorem programów służących do analizy języka naturalnego. Od jesieni ma rozpocząć monitorowanie polskiego Internetu.

Autorzy twierdzą, że na początku system będzie nadzorował rozmowy na czatach przeznaczonych dla dzieci. Rzekomo będzie w stanie żartować, zaczepiać, droczyć się i na bieżąco opracowywać portret psychologiczny rozmówcy. Analizując zapisy rozmów, Cerber będzie wyszukiwał podejrzane sentencje. Jeśli te zapowiedzi są czymś więcej niż PR-ową propagandą, uzyskano system, który powinien przejść test Turinga – co samo w sobie jest niezwykle interesujące, szczególnie że system ma sam się uczyć. Każda z przeprowadzonych rozmów będzie uzupełniała jego bazy danych o nową wiedzę językową: slang, słowa i zwroty, równocześnie pomagając w tworzeniu wzorów zachowań odróżniających dzieci od dorosłych.

Michał Wroczyński z sopockiej firmy Fido Intelligence powiedział, że nad projektem pracuje 25-osobowy zespół informatyków, logików, lingwistów i psychologów, wspierany finansowo przez Ministerstwo Nauki i Szkolnictwa Wyższego oraz Wyższą Szkołę Handlu i Finansów Międzynarodowych w Warszawie.

System ma działać analogicznie do owianego tajemnicą systemu wywiadowczego Echelon, stworzonego przez amerykańską Agencję Bezpieczeństwa Narodowego (NSA) i jej odpowiedniczki z Wielkiej Brytanii, Kanady, Australii i Nowej Zelandii. Echelon monitoruje na całym świecie telefony, radio i Internet w celu wykrycia potencjalnych zagrożeń ze strony terrorystów.

Autorzy zapewniają, że pełnia możliwości Cerbera wykorzystywana będzie tylko w porozumieniu z policją i w zgodzie z prawem. Jeżeli będzie taka potrzeba, system przekaże portret zachowań danego użytkownika Sieci wraz z zapisami rozmów do policyjnej bazy danych.

System ma mieć także zastosowania bardziej… cywilne. Dzięki niemu możliwe ma być tworzenie awatarów, które będą „rozumiały”, co się do nich pisze, i „sensownie” odpowiadały na pytania. Znajdą one zastosowanie na stronach banków, firm ubezpieczeniowych, koncernów wytwarzających i sprzedających różne produkty, a także w portalach społecznościowych. Takie postacie oprócz odpowiadania na pytania będą przy okazji ankietowały rozmówców i przygotowywały statystyki.

Gotowe algorytmy mają też pomóc w przetwarzaniu poczty elektronicznej. Grzegorz Rutkiewicz z Fido Intelligence powiedział, że „wykorzystanie programu komputerowego, który czyta wiadomości, identyfikuje poruszane problemy i udziela automatycznie odpowiedzi, powoduje znaczne skrócenie czasu obsługi klienta. Algorytmy sztucznej inteligencji pozwalają nawet na identyfikację emocji nadawcy – jeżeli treść wskazuje, że jest on zniecierpliwiony, system postara się również poprawić jego postrzeganie firmy”.

Kolejnym krokiem w rozwoju Cerbera ma być zbudowanie systemu rozpoznawania mowy. Według autorów pozwoli to na wyjście sztucznej inteligencji z Internetu i wykorzystywanie telefonii oraz tak długie podtrzymywanie znajomości z internautą, aż do jego drzwi nie zapuka przedstawiciel handlowy, policjant albo – w dalszej przyszłości – adwokat „zdradzanego” współmałżonka.

Pojawiają się tu od razu dwie wielkie wątpliwości co do zasadności działania takiego systemu. Po pierwsze, Cerber ma wychwytywać nie zaistniałe przestępstwa, lecz myślozbrodnie, prowokując wręcz do ich popełnienia. Czy takie zastosowanie nie wykracza poza granice ustaw o policyjnej prowokacji, dopuszczalnej jedynie w ramach toczącego się śledztwa? Prewencyjne wykorzystanie takiej technologii może być źródłem groźnych nadużyć ze strony władz. Serwis VaGla.pl przygotował kompetentną analizę prawną wdrożenia takiego systemu i nie jest ona przychylna dla jego twórców.

Po drugie, niepewne jest, jak Cerber ma dać sobie radę ze złożonością i kontekstem języka naturalnego. Podekscytowani formalną analizą języka logicy i lingwiści powinni sobie przypomnieć uwagi Wittgensteina o tym, że język naturalny jest związany ze sposobem życia, a związku między faktem a jego wyrażeniem za pomocą języka nie da się wyrazić słowami. Jak zatem Cerber miałby dać sobie radę z bogactwem gier językowych stosowanych przez ludzi w komunikacji – odniesień kulturowych, wieloznaczności, metafor i paradoksów?

Autorzy Cerbera powinni też sobie przypomnieć, że znaleziono skuteczny sposób na Echelon – akcje polegające na dołączaniu do każdej wiadomości słów kluczowych, na które system reagował, doprowadziły do jego szybkiego przeciążenia. Być może zatem najlepszym rozwiązaniem byłoby zaangażowanie Cerbera w rozmowy z innymi, może nawet i prostszymi czatbotami, które prowadząc rozmowy na niebezpieczne tematy, doprowadziłyby do całkowitego wypaczenia wyników tej cenzury prewencyjnej Sieci?

Źródło: Webhosting.pl