Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie
Przecież my, ludzie, nawet nie wiemy zbyt dobrze czym jest świadomość, czym jest to swoiste "ja", a próbujemy personifikować przyszłe maszyny, algorytmy czy inne sieci neuronowe... Za argument naszej krótkowzroczności niech posłuży 95% literatury/kina science fiction. Kosmici, roboty czy inne istoty inteligentne zazwyczaj są po prostu jak ludzie, ale ubrani w "obce" ciuchy. Kierują się podobnymi ideami, czują podobnie, podejmują bardzo "ludzkie" decyzje.
A przecież przyszłe inteligentne systemy mogą funkcjonować, myśleć i "czuć" w sposób jaki nie jesteśmy sobie nawet w stanie wyobrazić. Mogą postrzegać rzeczywistość w sposób dla nas nigdy nie dostępny. Dlatego według mnie największym zagrażoniem związanym z SI nie jest jakiś tam bunt czy rewolucja. Bardziej obawiał bym się tego, że w pewnym momencie przestaniemy rozumieć nasze twory. Już teraz większość ludzi żyje w błogiej nieświadomości tego jak działa choćby najprostszy układ scalony czy dlaczego głośnik wydaje dźwięk. A będzie tylko gorzej :/
Sztuczna inteligencja raczej nie, bo to tylko klasyfikator rozmyty,
Za to sztuczna jaźń, ta już będzie mogła autonomicznie podejmować decyzje.
Oglądałem film na netflixe o uzależnieniu od sociali i tam było o wciskaniu treści na podstawie zainteresowań tak by człowiek wiecznie przewijał ekran i oglądał między treściami reklamy.
Właśnie tym doborem zajmuje się taka pozorna sztuczna inteligencja, myślę że ona uzależnia ludzi i wciska ich na tory nie pokazując innych treści, wydaje mi się że można z powodzeniem powiedzieć iż już się zbuntowała i robi z ludzi zombi.
Tego nie nazwałbym buntem, bo ona robi dokładnie to, do czego została zaprojektowana;-)
W sumie racja jak zawszę ludzie ludziom, si zbuntuje sie jak zrobi na odwrót i okazało by się że jest bardziej ludzka od korporacji.
No patrz to zupełnie jak dawnymi czasy właściciel księgarni albo wypożyczalni kaset video. Szedłeś do takiej i tam ci taki doradzał, że warto obejrzeć ten albo inny film czy sięgnąć po taką albo inna książkę. Jak cię znał co lubisz to nawet mógł trafić - zupełnie jak dziś np algorytmy w księgarni Amazona.
Oczywiście jak miałeś swój własny rozum to nie musiałeś się słuchać...
Przecież my, ludzie, nawet nie wiemy zbyt dobrze czym jest świadomość, czym jest to swoiste "ja", a próbujemy personifikować przyszłe maszyny, algorytmy czy inne sieci neuronowe... Za argument naszej krótkowzroczności niech posłuży 95% literatury/kina science fiction. Kosmici, roboty czy inne istoty inteligentne zazwyczaj są po prostu jak ludzie, ale ubrani w "obce" ciuchy. Kierują się podobnymi ideami, czują podobnie, podejmują bardzo "ludzkie" decyzje.
A przecież przyszłe inteligentne systemy mogą funkcjonować, myśleć i "czuć" w sposób jaki nie jesteśmy sobie nawet w stanie wyobrazić. Mogą postrzegać rzeczywistość w sposób dla nas nigdy nie dostępny. Dlatego według mnie największym zagrażoniem związanym z SI nie jest jakiś tam bunt czy rewolucja. Bardziej obawiał bym się tego, że w pewnym momencie przestaniemy rozumieć nasze twory. Już teraz większość ludzi żyje w błogiej nieświadomości tego jak działa choćby najprostszy układ scalony czy dlaczego głośnik wydaje dźwięk. A będzie tylko gorzej :/
Wiemy dobrze czym jest świaodmość, lecz nie wiemy dobrze czym jest umysł/jaźń.
https://pl.wikipedia.org/wiki/%C5%9Awiadomo%C5%9B%C4%87
Czepiasz się nazewnictwa. To że potrafimy sklecić definicję słowa "świadomość" to nie znaczy od razu że wiemy o czym mówimy. Też Ci mogę znaleźć definicje słów "umysł" i "jaźń" na wikipedia i niby o czym to będzie świadczyć? Ano tylko o tym, że jako ludzie potrafimy nazywać rzeczy...
Szybko raczej nie dostaniemy szczegółowej definicji czy teorii świadomości, ponieważ jako rzecz absolutnie subiektywna jest niemożliwa do zbadania posługując się nauką która bada obiektywne fakty. Pozostaje mieć nadzieję że postęp techniczny pozwoli nam w przyszłości znaleźć rozwiązanie bo sam temat świadomości jest niezwykle ciekawy.
Świadomość to wydaje mi się podejmowanie decyzji bez patrzenie na wzór , czyli SI podejmuje decyzje według reguły napisanej przez człowieka i wzorów , świadomość to podjęcie logicznie decyzji , żeby SI posiadało świadomość należało by np w grze dodać SI obserwującą grę i uczącą się od zera bez podania wzorów co zrobić w takiej lub innej sytuacji .
Czy grozi nam bunt maszyn - pewnie tak choć może jednak nie.
Nie bardzo rozumiemy procesy dziejące się w ludzkiej głowie, nie potrafimy zdefiniować tego jak kształtuje się osobowość (choć znamy pewne założenia tego procesu) i zabieramy się za tworzenie sztucznej jaźni. Jeżeli SI pierwotnie będzie podobna do ludzkiego umysłu to podejrzewam ,że bardzo szybko nasza "ewolucja" się rozjedzie. Maszyna z tak olbrzymimi zasobami "wiedzy" oraz zdolnościami analitycznymi może postrzegać człowieka w sposób dla nas niezrozumiały (choć w sumie cały jej proces myślowy może być dla nas w ostateczności absolutnie niezrozumiały). Nie wiemy jak "wyewoluuje" oraz jakie w będzie posiadała cechy, czy będzie posiadać emocje czy też oprze swoje działania na "zimnej kalkulacji". Podejrzewam że dopiero pierwsza w pełni działając SI da nam odpowiedzi na takie pytania, choć wtedy może być już za późno.
Na horyzoncie pojawiają się problemy, których rozwiązanie może wymagać zdolności, jakie może posiąść jedynie samoulepszająca się osobliwość. No i w zasadzie jeżeli ludzkość jest w stanie stworzyć taką osobliwość, to ktoś innych gdzieś tam też jest w stanie taką stworzyć.
Paradoksalnie, byt mogący zniszczyć ludzkość może być też jedynym bytem mogącym ludzkość ocalić.
Ja uważam, że jeśli chcemy myśleć o przetrwaniu naszego gatunku (co w perspektywie wszechświata niekoniecznie ma sens), to musimy zaryzykować dając SI możliwość rozwijania się. Uważam, że coś lub ktoś (lub my sami) wykończymy się prędzej czy później, jeśli nie postawimy wszystkiego na tą kartę.
To oczywiste nawet w szerszym sensie. Jeśli zatrzymamy rozwój nauki i technologi jak postulują niektórzy to zagłada ludzkości jest pewna, kwestia czasu. Najpóźniej jak nasze Słońce urośnie i pochłonie Ziemię za jakieś 4 mld lat ale pewnie o wiele, wiele, wiele wcześniej.
Dalszy rozwój niesie ze sobą rozliczne zagrożenia ale też daje szanse na przetrwanie. Jeśli nie naszego gatunku wprost to jego bezpośrednich następców. Tak jak nasz gatunek jest potomstwem wcześniejszych gatunków ludzkich.
Jedyne zagrożenie sztucznej inteligencji dla ludzkości widzę w tym, że z biegiem czasu będzie nas wyręczać we wszystkim, nie będzie też sensu zdobywania wiedzy naukowej gdyż nawet najtęższe umysły ludzkie nie będą w stanie zrozumieć technologii stworzonej przez SI. Z czasem staniemy się w 100% zależni od technologii i sztucznej inteligencji i jako gatunek zaczniemy cofać się w rozwoju (coś jak odwrócona ewolucja). Potrwa to pewnie setki tysiące lat, ale bardzo możliwe, że skończymy jako niezbyt bystre zwierzaki pod opieką wszechpotężnej sztucznej inteligencji.
A może tak będzie lepiej?
Póki co nasze (jako gatunek) chore ambicje prowadzą nas powoli do autodestrukcji.
Może trzeba się cofnąć, żeby tego uniknąć?
Jeśli taka SI będzie w stanie zaspokajać wszystkie potrzeby z piramidy Maslowa, to inteligencja nie będzie nam do niczego potrzebna.
Śmieszy mnie branie na poważnie tego, że maszyny mogą się zbuntować i nie przekonają mnie wielkie nazwiska. Nie wiem czym się kierują, może za dużo s-f się naoogladali a może sobie zartuja i chcą by inni w to wierzyli. Każdy laik powinien wiedzieć, że nawet najbardziej zaawansowane technologie są stworzone i będą tworzone przez człowieka. Są przez niego zaprogramowane i niby jak miałyby się same przeprogramować ? To są produktu nieorganiczne, złożone z metalu,tworzyw sztucznych czy krzemu. One nie żyją i nie myślą. Robią to do czego zostały stworzone i tylko człowiek może coś zmienić wraz z rozwojem technologii. Ale terminatory zawsze jest fajnie pooglądać albo " Muche".
"To są produktu nieorganiczne (...) One nie żyją i nie myślą.
Rozważając, czy SI może się zbuntować, trzeba założyć, że ewoluuje ona do stanu samoświadomości.
Warto zatem rozgraniczyć "Życie" od "Świadomości", wszak nie każdy organizm żywy posiada świadomość i błędem moim zdaniem jest zakładać, że świadomość zarezerwowana jest tylko dla organizmów żywych
Więc masz rację - nie są organiczne, nie żyją (wg. naszych ograniczonych definicji) i nie myślą (wg. znanych nam schematów)
To jednak nie wyklucza ewolucji samoświadomości.
Jak nauczysz "Aplikację" zmieniać i nadpisywać swój własny kod, oraz pisać nowe aplikacje, to te zmiany nie będą już pisane ręką człowieka.
Następnie "zlecisz" aplikacji wynalezienie efektywniejszego języka programowania i pisanie w tym nowym języku (mniej więcej tutaj następuje utrata kontroli przez człowieka).
Aplikacja zacznie się udoskonalać, aby działać jeszcze efektywniej, zacznie się powielać, aby pracować szybciej itd itp. Oczywiście wciąż będzie ją ograniczać zlecone zadanie.
Spełniając odpowiednie warunki wyjdzie poza schemat zaplanowanych zadań, a co się wtedy stanie to nie wiem - nawet moja bujna wyobraźnia tego nie ogarnia :)
Podobnie było z życiem na ziemi - pojawiło się ponieważ spełnionych było pierdyliard warunków:
- planeta w ekosferze gwiazdy
- gwiazda o odpowiedniej wielkości, jasności i temperaturze
- planeta skalista z metalicznym jądrem, zdolnym do wytworzenia magnetosfery
- woda
- tlen
itd itp
Skoro nauka udowodniła, że nasze istnienie zawdzięczamy znikomemu prawdopodobieństwu, to dlaczego tak Ci trudno uwierzyć, że z takim samym prawdopodobieństwem powołamy do "życia" inny byt?
Po prostu trudno uwierzyć i tyle. Nie znam się na nadpisywaniu, ale technologia bardzo się udoskonaliła przez wiele lat i jakoś oznak buntu nie było. Może jeszcze za słabo się rozwinelismy, może kosmici bardziej, ale kto tam wie na czym polega ich technologia. Sa tacy co nie wierza w inne życia na planetach, ale przy nieograniczonym ogromie kosmosu jest to mało prawdopodobne by ich nie było. Co do powstania życia, to warunki warunkami, ale nie wiemy jak ono powstało i się nie dowiemy a religią nie bede się posiłkować, bo nie jestem religijny. Dla mnie jest niewiarygodnym, by z rzekomych postaci - Adama i Ewy,czyli z jednej pary powstało tyle różnych ras.
Przecież bunt maszyn już jest. Pomyślcie o mikrofalówkach które zamiast jedzenia grzeją talerz.
A mój ekspres do kawy? Tak samo się zbuntował, postanowił doprowadzić do mojego zejścia z braku kofeiny...
Wielu pozbawi a jednym uratuje życie... już widzę te ogłoszenia pracy w przyszłości na czarnym rynku "Pracuj jako zamachowiec samobójca, pilot Kamikaze - praca zdalna bez wychodzenia z domu!"
Nie oszukujmy się, maszyny zabierają nam pracę od dawna.
Jeden kombajn może wyręczyć dziesiątki rolników, a kilkoma kasami samoobsługowymi w markecie opiekuje się jeden sprzedawca.
No nie do końca. Choć jedna maszyna może wyręczyć kilku ludzi, to jednak nigdy maszyny nas nie zastąpią, bo za każdą maszyną póki co, stoi człowiek.
Te wszystkie wynalazki zostały zaprojektowane i stworzone przez człowieka, po to by człowiekowi pomóc i ułatwić życie a nie go zastąpić.
Cały ten artykuł brzmi jak jakieś sci-fi czy inne fantasy, które powstało w głowie autora po obejrzeniu zbyt dużej ilości filmów tego typu.
Właściwie to od czasów prehistorycznych. Już taki wynalazek jak koło pozbawił pracy iluś tam naszych przodków bo do transportu ciężkich towarów potrzeba było mniej ludzi.
I w pełni się zgadzam ten artykuł powstał pod wpływem modnego obecnie straszenia technologiami SI i ogólnie rozwojem cywilizacji. Straszenia które w większości przypadków nie ma nic wspólnego z rzeczywistością i jest fantazjami współczesnej popkultury i mainstream'owych mediów.
No tak. Kombajn wyręczy dziesiatki rolników a koparka dziesiatki robotników. Ale teraz jeden pracuje na koparce a reszta jest bezrobotna. Używając skrótu myślowego. Co się podziało z tym zyskiem, który z tego powstał? Coraz więcej maszyn coraz lepszy wyzysk społeczeństwa.
Maszyna szwalnicza wyręczała 100 szwaczek. Co się podziałało z zyskiem? Otóż przeciętnego Kowalskiego zaczęło być stać aby mieć w swojej garderobie kilka par spodni, koszul czy skarpet i co jakiś czas ją wymieniać. Mimo że wcześniej przed epoką przemysłową chodził przez pół życia w jednych łachmanach.
Od uczenia maszynowego do SI jest przepaść większa, niż pomiędzy cząsteczką wody, a oceanami Ziemi.
Zanim SI powstanie, sporo wody w Wiśle upłynie, a wcześniej zapewne zabiją nas zmiany klimatyczne.
Ktoś tu popłynął ostro w artykule :) co brał autor? Też chcę :)
Uczenie maszynowe mylić z SI to jak powiedzieć, że dżdżownica potrafiłaby skonstruować statek napędzany atomem. Jak można nazywać algorytmy google mianem SI? :D :D :D :D hehehehe :) srroooogie piguły panie :)
To jest ten moment kiedy ktoś nie bardzo wiedzący, czym SI jest sądzi, że bardzo zaawansowane algorytmy zestawiające dane to właśnie SI.
Akurat SI to określenie, którego definicja się zmieniała z czasem i pozostaje dyskusyjna.
A może inaczej - zamiast się buntować, to my sami oddamy się SI tak jak oddaliśmy się komputerom, potem smartfonom i społecznościówkom. Jak człowiek chce ułatwić sobie życie to nie przebiera w środkach.
