Forum Gry Hobby Sprzęt Rozmawiamy Archiwum Regulamin

Publicystyka Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie

14.09.2020 15:30
Darkowski93m
3
7
odpowiedz
6 odpowiedzi
Darkowski93m
132
Generał

Przecież my, ludzie, nawet nie wiemy zbyt dobrze czym jest świadomość, czym jest to swoiste "ja", a próbujemy personifikować przyszłe maszyny, algorytmy czy inne sieci neuronowe... Za argument naszej krótkowzroczności niech posłuży 95% literatury/kina science fiction. Kosmici, roboty czy inne istoty inteligentne zazwyczaj są po prostu jak ludzie, ale ubrani w "obce" ciuchy. Kierują się podobnymi ideami, czują podobnie, podejmują bardzo "ludzkie" decyzje.

A przecież przyszłe inteligentne systemy mogą funkcjonować, myśleć i "czuć" w sposób jaki nie jesteśmy sobie nawet w stanie wyobrazić. Mogą postrzegać rzeczywistość w sposób dla nas nigdy nie dostępny. Dlatego według mnie największym zagrażoniem związanym z SI nie jest jakiś tam bunt czy rewolucja. Bardziej obawiał bym się tego, że w pewnym momencie przestaniemy rozumieć nasze twory. Już teraz większość ludzi żyje w błogiej nieświadomości tego jak działa choćby najprostszy układ scalony czy dlaczego głośnik wydaje dźwięk. A będzie tylko gorzej :/

post wyedytowany przez Darkowski93m 2020-09-14 15:31:26
14.09.2020 15:01
keeper_4chan
😂
1
keeper_4chan
64
Generał

Sztuczna inteligencja raczej nie, bo to tylko klasyfikator rozmyty,

Za to sztuczna jaźń, ta już będzie mogła autonomicznie podejmować decyzje.

post wyedytowany przez keeper_4chan 2020-09-14 15:10:55
14.09.2020 15:17
not2pun
2
odpowiedz
3 odpowiedzi
not2pun
67
Senator

Oglądałem film na netflixe o uzależnieniu od sociali i tam było o wciskaniu treści na podstawie zainteresowań tak by człowiek wiecznie przewijał ekran i oglądał między treściami reklamy.
Właśnie tym doborem zajmuje się taka pozorna sztuczna inteligencja, myślę że ona uzależnia ludzi i wciska ich na tory nie pokazując innych treści, wydaje mi się że można z powodzeniem powiedzieć iż już się zbuntowała i robi z ludzi zombi.

post wyedytowany przez not2pun 2020-09-14 15:19:57
14.09.2020 15:23
Marcinkrk87
2.1
8
Marcinkrk87
25
Pretorianin

GRYOnline.plRedakcja

Tego nie nazwałbym buntem, bo ona robi dokładnie to, do czego została zaprojektowana;-)

14.09.2020 15:39
not2pun
2.2
2
not2pun
67
Senator

W sumie racja jak zawszę ludzie ludziom, si zbuntuje sie jak zrobi na odwrót i okazało by się że jest bardziej ludzka od korporacji.

15.09.2020 11:24
2.3
marcban
60
Pretorianin

No patrz to zupełnie jak dawnymi czasy właściciel księgarni albo wypożyczalni kaset video. Szedłeś do takiej i tam ci taki doradzał, że warto obejrzeć ten albo inny film czy sięgnąć po taką albo inna książkę. Jak cię znał co lubisz to nawet mógł trafić - zupełnie jak dziś np algorytmy w księgarni Amazona.
Oczywiście jak miałeś swój własny rozum to nie musiałeś się słuchać...

post wyedytowany przez marcban 2020-09-15 11:31:33
14.09.2020 15:30
Darkowski93m
3
7
odpowiedz
6 odpowiedzi
Darkowski93m
132
Generał

Przecież my, ludzie, nawet nie wiemy zbyt dobrze czym jest świadomość, czym jest to swoiste "ja", a próbujemy personifikować przyszłe maszyny, algorytmy czy inne sieci neuronowe... Za argument naszej krótkowzroczności niech posłuży 95% literatury/kina science fiction. Kosmici, roboty czy inne istoty inteligentne zazwyczaj są po prostu jak ludzie, ale ubrani w "obce" ciuchy. Kierują się podobnymi ideami, czują podobnie, podejmują bardzo "ludzkie" decyzje.

A przecież przyszłe inteligentne systemy mogą funkcjonować, myśleć i "czuć" w sposób jaki nie jesteśmy sobie nawet w stanie wyobrazić. Mogą postrzegać rzeczywistość w sposób dla nas nigdy nie dostępny. Dlatego według mnie największym zagrażoniem związanym z SI nie jest jakiś tam bunt czy rewolucja. Bardziej obawiał bym się tego, że w pewnym momencie przestaniemy rozumieć nasze twory. Już teraz większość ludzi żyje w błogiej nieświadomości tego jak działa choćby najprostszy układ scalony czy dlaczego głośnik wydaje dźwięk. A będzie tylko gorzej :/

post wyedytowany przez Darkowski93m 2020-09-14 15:31:26
14.09.2020 16:46
😂
3.1
epilepsja
9
Chorąży

stary , zgadzam się w 100 %

14.09.2020 18:48
rafq4
3.2
rafq4
119
Shadow in the darkness

That's well said

15.09.2020 08:24
keeper_4chan
3.3
keeper_4chan
64
Generał

Wiemy dobrze czym jest świaodmość, lecz nie wiemy dobrze czym jest umysł/jaźń.
https://pl.wikipedia.org/wiki/%C5%9Awiadomo%C5%9B%C4%87

post wyedytowany przez keeper_4chan 2020-09-15 08:24:47
15.09.2020 15:14
Darkowski93m
3.4
1
Darkowski93m
132
Generał

Up
Czepiasz się nazewnictwa. To że potrafimy sklecić definicję słowa "świadomość" to nie znaczy od razu że wiemy o czym mówimy. Też Ci mogę znaleźć definicje słów "umysł" i "jaźń" na wikipedia i niby o czym to będzie świadczyć? Ano tylko o tym, że jako ludzie potrafimy nazywać rzeczy...

15.09.2020 20:01
3.5
Vorihs
3
Legionista

Szybko raczej nie dostaniemy szczegółowej definicji czy teorii świadomości, ponieważ jako rzecz absolutnie subiektywna jest niemożliwa do zbadania posługując się nauką która bada obiektywne fakty. Pozostaje mieć nadzieję że postęp techniczny pozwoli nam w przyszłości znaleźć rozwiązanie bo sam temat świadomości jest niezwykle ciekawy.

17.09.2020 20:06
3.6
epilepsja
9
Chorąży

Świadomość to wydaje mi się podejmowanie decyzji bez patrzenie na wzór , czyli SI podejmuje decyzje według reguły napisanej przez człowieka i wzorów , świadomość to podjęcie logicznie decyzji , żeby SI posiadało świadomość należało by np w grze dodać SI obserwującą grę i uczącą się od zera bez podania wzorów co zrobić w takiej lub innej sytuacji .

14.09.2020 15:36
4
odpowiedz
Mazarian
34
Pretorianin

Czy grozi nam bunt maszyn - pewnie tak choć może jednak nie.
Nie bardzo rozumiemy procesy dziejące się w ludzkiej głowie, nie potrafimy zdefiniować tego jak kształtuje się osobowość (choć znamy pewne założenia tego procesu) i zabieramy się za tworzenie sztucznej jaźni. Jeżeli SI pierwotnie będzie podobna do ludzkiego umysłu to podejrzewam ,że bardzo szybko nasza "ewolucja" się rozjedzie. Maszyna z tak olbrzymimi zasobami "wiedzy" oraz zdolnościami analitycznymi może postrzegać człowieka w sposób dla nas niezrozumiały (choć w sumie cały jej proces myślowy może być dla nas w ostateczności absolutnie niezrozumiały). Nie wiemy jak "wyewoluuje" oraz jakie w będzie posiadała cechy, czy będzie posiadać emocje czy też oprze swoje działania na "zimnej kalkulacji". Podejrzewam że dopiero pierwsza w pełni działając SI da nam odpowiedzi na takie pytania, choć wtedy może być już za późno.

14.09.2020 15:40
W_P
5
2
odpowiedz
W_P
15
Pretorianin

Na horyzoncie pojawiają się problemy, których rozwiązanie może wymagać zdolności, jakie może posiąść jedynie samoulepszająca się osobliwość. No i w zasadzie jeżeli ludzkość jest w stanie stworzyć taką osobliwość, to ktoś innych gdzieś tam też jest w stanie taką stworzyć.

Paradoksalnie, byt mogący zniszczyć ludzkość może być też jedynym bytem mogącym ludzkość ocalić.

14.09.2020 15:49
DocHary
6
odpowiedz
1 odpowiedź
DocHary
22
Unclean One

Ja uważam, że jeśli chcemy myśleć o przetrwaniu naszego gatunku (co w perspektywie wszechświata niekoniecznie ma sens), to musimy zaryzykować dając SI możliwość rozwijania się. Uważam, że coś lub ktoś (lub my sami) wykończymy się prędzej czy później, jeśli nie postawimy wszystkiego na tą kartę.

15.09.2020 11:37
6.1
marcban
60
Pretorianin

To oczywiste nawet w szerszym sensie. Jeśli zatrzymamy rozwój nauki i technologi jak postulują niektórzy to zagłada ludzkości jest pewna, kwestia czasu. Najpóźniej jak nasze Słońce urośnie i pochłonie Ziemię za jakieś 4 mld lat ale pewnie o wiele, wiele, wiele wcześniej.
Dalszy rozwój niesie ze sobą rozliczne zagrożenia ale też daje szanse na przetrwanie. Jeśli nie naszego gatunku wprost to jego bezpośrednich następców. Tak jak nasz gatunek jest potomstwem wcześniejszych gatunków ludzkich.

14.09.2020 16:18
AUTO6
7
odpowiedz
1 odpowiedź
AUTO6
41
Konsul

Jedyne zagrożenie sztucznej inteligencji dla ludzkości widzę w tym, że z biegiem czasu będzie nas wyręczać we wszystkim, nie będzie też sensu zdobywania wiedzy naukowej gdyż nawet najtęższe umysły ludzkie nie będą w stanie zrozumieć technologii stworzonej przez SI. Z czasem staniemy się w 100% zależni od technologii i sztucznej inteligencji i jako gatunek zaczniemy cofać się w rozwoju (coś jak odwrócona ewolucja). Potrwa to pewnie setki tysiące lat, ale bardzo możliwe, że skończymy jako niezbyt bystre zwierzaki pod opieką wszechpotężnej sztucznej inteligencji.

14.09.2020 21:15
DzaQ
7.1
1
DzaQ
72
Purpurowy pożeracz ludzi

A może tak będzie lepiej?

Póki co nasze (jako gatunek) chore ambicje prowadzą nas powoli do autodestrukcji.
Może trzeba się cofnąć, żeby tego uniknąć?

Jeśli taka SI będzie w stanie zaspokajać wszystkie potrzeby z piramidy Maslowa, to inteligencja nie będzie nam do niczego potrzebna.

14.09.2020 17:31
8
odpowiedz
4 odpowiedzi
Carlito78
25
Pretorianin

Śmieszy mnie branie na poważnie tego, że maszyny mogą się zbuntować i nie przekonają mnie wielkie nazwiska. Nie wiem czym się kierują, może za dużo s-f się naoogladali a może sobie zartuja i chcą by inni w to wierzyli. Każdy laik powinien wiedzieć, że nawet najbardziej zaawansowane technologie są stworzone i będą tworzone przez człowieka. Są przez niego zaprogramowane i niby jak miałyby się same przeprogramować ? To są produktu nieorganiczne, złożone z metalu,tworzyw sztucznych czy krzemu. One nie żyją i nie myślą. Robią to do czego zostały stworzone i tylko człowiek może coś zmienić wraz z rozwojem technologii. Ale terminatory zawsze jest fajnie pooglądać albo " Muche".

14.09.2020 21:27
DzaQ
8.1
DzaQ
72
Purpurowy pożeracz ludzi

"To są produktu nieorganiczne (...) One nie żyją i nie myślą.

Rozważając, czy SI może się zbuntować, trzeba założyć, że ewoluuje ona do stanu samoświadomości.
Warto zatem rozgraniczyć "Życie" od "Świadomości", wszak nie każdy organizm żywy posiada świadomość i błędem moim zdaniem jest zakładać, że świadomość zarezerwowana jest tylko dla organizmów żywych

Więc masz rację - nie są organiczne, nie żyją (wg. naszych ograniczonych definicji) i nie myślą (wg. znanych nam schematów)
To jednak nie wyklucza ewolucji samoświadomości.

14.09.2020 22:23
8.2
Carlito78
25
Pretorianin

DzaQ Wyklucza, bo wszystko jest sterowane aplikacjami napisanymi przez człowieka i nie ma mowy o żadnej ewolucji samoistnej. Świadomość może zyskiwać niemowlak z wiekiem a nie maszyna. Problemem może być tylko zaprogramowanie maszyn na zabijanie np. ludzi.

post wyedytowany przez Carlito78 2020-09-14 22:26:13
14.09.2020 23:19
DzaQ
8.3
DzaQ
72
Purpurowy pożeracz ludzi

Jak nauczysz "Aplikację" zmieniać i nadpisywać swój własny kod, oraz pisać nowe aplikacje, to te zmiany nie będą już pisane ręką człowieka.
Następnie "zlecisz" aplikacji wynalezienie efektywniejszego języka programowania i pisanie w tym nowym języku (mniej więcej tutaj następuje utrata kontroli przez człowieka).

Aplikacja zacznie się udoskonalać, aby działać jeszcze efektywniej, zacznie się powielać, aby pracować szybciej itd itp. Oczywiście wciąż będzie ją ograniczać zlecone zadanie.
Spełniając odpowiednie warunki wyjdzie poza schemat zaplanowanych zadań, a co się wtedy stanie to nie wiem - nawet moja bujna wyobraźnia tego nie ogarnia :)

Podobnie było z życiem na ziemi - pojawiło się ponieważ spełnionych było pierdyliard warunków:
- planeta w ekosferze gwiazdy
- gwiazda o odpowiedniej wielkości, jasności i temperaturze
- planeta skalista z metalicznym jądrem, zdolnym do wytworzenia magnetosfery
- woda
- tlen
itd itp

Skoro nauka udowodniła, że nasze istnienie zawdzięczamy znikomemu prawdopodobieństwu, to dlaczego tak Ci trudno uwierzyć, że z takim samym prawdopodobieństwem powołamy do "życia" inny byt?

15.09.2020 08:07
8.4
Carlito78
25
Pretorianin

Po prostu trudno uwierzyć i tyle. Nie znam się na nadpisywaniu, ale technologia bardzo się udoskonaliła przez wiele lat i jakoś oznak buntu nie było. Może jeszcze za słabo się rozwinelismy, może kosmici bardziej, ale kto tam wie na czym polega ich technologia. Sa tacy co nie wierza w inne życia na planetach, ale przy nieograniczonym ogromie kosmosu jest to mało prawdopodobne by ich nie było. Co do powstania życia, to warunki warunkami, ale nie wiemy jak ono powstało i się nie dowiemy a religią nie bede się posiłkować, bo nie jestem religijny. Dla mnie jest niewiarygodnym, by z rzekomych postaci - Adama i Ewy,czyli z jednej pary powstało tyle różnych ras.

14.09.2020 18:22
szogyn
9
1
odpowiedz
1 odpowiedź
szogyn
7
Centurion

Przecież bunt maszyn już jest. Pomyślcie o mikrofalówkach które zamiast jedzenia grzeją talerz.

15.09.2020 11:39
😁
9.1
marcban
60
Pretorianin

A mój ekspres do kawy? Tak samo się zbuntował, postanowił doprowadzić do mojego zejścia z braku kofeiny...

14.09.2020 18:30
10
1
odpowiedz
plumbergus
26
Chorąży

Wielu pozbawi a jednym uratuje życie... już widzę te ogłoszenia pracy w przyszłości na czarnym rynku "Pracuj jako zamachowiec samobójca, pilot Kamikaze - praca zdalna bez wychodzenia z domu!"

14.09.2020 18:38
BestPlayer
11
odpowiedz
1 odpowiedź
BestPlayer
6
Legionista

Nie oszukujmy się, maszyny zabierają nam pracę od dawna.
Jeden kombajn może wyręczyć dziesiątki rolników, a kilkoma kasami samoobsługowymi w markecie opiekuje się jeden sprzedawca.

No nie do końca. Choć jedna maszyna może wyręczyć kilku ludzi, to jednak nigdy maszyny nas nie zastąpią, bo za każdą maszyną póki co, stoi człowiek.
Te wszystkie wynalazki zostały zaprojektowane i stworzone przez człowieka, po to by człowiekowi pomóc i ułatwić życie a nie go zastąpić.
Cały ten artykuł brzmi jak jakieś sci-fi czy inne fantasy, które powstało w głowie autora po obejrzeniu zbyt dużej ilości filmów tego typu.

post wyedytowany przez BestPlayer 2020-09-14 18:40:51
15.09.2020 11:20
11.1
marcban
60
Pretorianin

Właściwie to od czasów prehistorycznych. Już taki wynalazek jak koło pozbawił pracy iluś tam naszych przodków bo do transportu ciężkich towarów potrzeba było mniej ludzi.
I w pełni się zgadzam ten artykuł powstał pod wpływem modnego obecnie straszenia technologiami SI i ogólnie rozwojem cywilizacji. Straszenia które w większości przypadków nie ma nic wspólnego z rzeczywistością i jest fantazjami współczesnej popkultury i mainstream'owych mediów.

15.09.2020 07:48
12
1
odpowiedz
1 odpowiedź
Oolepec
8
Legionista

No tak. Kombajn wyręczy dziesiatki rolników a koparka dziesiatki robotników. Ale teraz jeden pracuje na koparce a reszta jest bezrobotna. Używając skrótu myślowego. Co się podziało z tym zyskiem, który z tego powstał? Coraz więcej maszyn coraz lepszy wyzysk społeczeństwa.

15.09.2020 11:27
12.1
marcban
60
Pretorianin

Maszyna szwalnicza wyręczała 100 szwaczek. Co się podziałało z zyskiem? Otóż przeciętnego Kowalskiego zaczęło być stać aby mieć w swojej garderobie kilka par spodni, koszul czy skarpet i co jakiś czas ją wymieniać. Mimo że wcześniej przed epoką przemysłową chodził przez pół życia w jednych łachmanach.

15.09.2020 08:11
13
1
odpowiedz
SylwesterZ
22
Pretorianin

Od uczenia maszynowego do SI jest przepaść większa, niż pomiędzy cząsteczką wody, a oceanami Ziemi.
Zanim SI powstanie, sporo wody w Wiśle upłynie, a wcześniej zapewne zabiją nas zmiany klimatyczne.

15.09.2020 09:42
14
1
odpowiedz
1 odpowiedź
deathcoder
23
Centurion

Ktoś tu popłynął ostro w artykule :) co brał autor? Też chcę :)

Uczenie maszynowe mylić z SI to jak powiedzieć, że dżdżownica potrafiłaby skonstruować statek napędzany atomem. Jak można nazywać algorytmy google mianem SI? :D :D :D :D hehehehe :) srroooogie piguły panie :)

To jest ten moment kiedy ktoś nie bardzo wiedzący, czym SI jest sądzi, że bardzo zaawansowane algorytmy zestawiające dane to właśnie SI.

16.09.2020 14:52
Marcinkrk87
14.1
Marcinkrk87
25
Pretorianin

GRYOnline.plRedakcja

Akurat SI to określenie, którego definicja się zmieniała z czasem i pozostaje dyskusyjna.

15.09.2020 21:03
Vociferus99
15
odpowiedz
Vociferus99
43
Pretorianin

A może inaczej - zamiast się buntować, to my sami oddamy się SI tak jak oddaliśmy się komputerom, potem smartfonom i społecznościówkom. Jak człowiek chce ułatwić sobie życie to nie przebiera w środkach.

Publicystyka Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie