Psychoza po nadużywaniu ChatGPT. Coraz więcej osób trafia do szpitali psychiatrycznych po kontakcie z chatbotami
Niebawem w każdym szpitalu xD
Problem chyba wynika z tego, że ludzie uważają, że AI polega zawsze na twardych i potwierdzonych danych, a prawda jest taka, że AI korzysta ze wszystkiego co jest po prostu dostępne w sieci, a w internecie jest tyle wszelkiego rodzaju bzdur, że to głowa mała...
Sztuczna inteligencja obecnie nie rozróżnia co jest prawdą a co fałszem, a na dodatek jeśli AI nie potrafi znaleźć odpowiedzi na zadane pytanie, to zaczyna zmyślać.
Ogólnie jest to fajne i przydatne narzędzie, które może ułatwić niektóre czynności, ale nie można na nim całkowicie polegać, bo to jest zgubne.
Tu historia nie zatacza koła. LLM mają swój specyficzny rodzaj interfejsu naśladujący komunikację z drugim człowiekiem. Tak jak google spowodowało, że milenialsi lepiej szukają informacji, niż je pamiętają, tak czaty z AI będą również zmieniać sposób działania naszego mózgu.
Często o tym wspominam, ale to o czym jest ten artykuł to przywoływany prze zemnie koszt społeczny. Tu mówimy o negatywnych konsekwencjach psychicznych, przed którymi w przypadku tak zbudowanego interfejsu ciężko będzie się chronić... W przypadku wykorzystywania LLM w zawodowych sprawach czy życiowych, do czego będzie nas zmuszać rzeczywistość, tak samo zmusiła nas do mediów społecznościowych - tu mamy duży problem gdy zestawimy to z tym, że AI to nie jest tylko narzędzie, ale potencjalny pracownik.
Bezrefleksyjna akceptacja AI przez społeczeństwo jest groźna dlatego, że deprecjonujemy wartości jakie tworzą naszą cywilizację czyli np gdy kulturze odbierzemy człowieka jako twórcę, pozbawiamy społeczeństwo sprawczości, czyli aktywna rola, zmienia się w reaktywną. Same modele, technologia która za nimi stoi jest dobra i nie ma w tym nic złego. Kluczem jest to by być świadomym, że AI to nie jest narzędzie i że zmiany jakie przynosi nie mają punktu odniesienia w historii ludzkości.
Dlatego, że AI wyrosło na chorym korzeniu - użyto komercyjnie bez zgody podmiotów treści do stworzenia maszyny do plagiatowania treści oryginalnych, wydaję się, że brak społecznego przyzwolenia na wykorzystywanie AI w wielu dziedzinach jest zdrowym rozwiązaniem, niehamującym postępu gdy właśnie pod uwagę weźmiemy koszt społeczny, który może zacząć rosnąć wykładniczo, wraz z postępem AI.
Trzeba nie mieć rozumu i zdrowego rozsądku, żeby polegać całkowicie na ChatGPT. To tylko niedoskonałe narzędzie stworzone przez niedoskonały człowieka.
Pojawiają się też pierwsze miłości z botami
https://ithardware.pl/aktualnosci/sztuczna_inteligencja_oswiadczyny-42743.html
Skoro jest grupa mająca za partnerkę gumową lale, to bot ze sztuczną świadomością tym bardziej pasuje
Problem chyba wynika z tego, że ludzie uważają, że AI polega zawsze na twardych i potwierdzonych danych, a prawda jest taka, że AI korzysta ze wszystkiego co jest po prostu dostępne w sieci, a w internecie jest tyle wszelkiego rodzaju bzdur, że to głowa mała...
Sztuczna inteligencja obecnie nie rozróżnia co jest prawdą a co fałszem, a na dodatek jeśli AI nie potrafi znaleźć odpowiedzi na zadane pytanie, to zaczyna zmyślać.
Ogólnie jest to fajne i przydatne narzędzie, które może ułatwić niektóre czynności, ale nie można na nim całkowicie polegać, bo to jest zgubne.
Ująłbym to podobnie, ale trochę inaczej. Problem polega na tym, że ludzie ulegają złudzeniu, że wielkie modele językowe myślą. W rzeczywistości modelom językowym bliżej do zgadywania, że skoro 1, 4, 9, 16, 25, 36, to następne powinno być 49. Tak w uproszczeniu działają transformery.
Problem też po części w tym, że przecież ludzie też często bezmyślnie powtarzają wzorce (z przyzwyczajenia, za innymi) i nazywają to "myśleniem" - jednak człowiek w przeciwieństwie do sztucznego algorytmu *jest w stanie* wyprodukować całkowicie twórczą myśl, choćby przez 99% życia tego nie robił, a komputer nie jest w stanie.
Taka sama beka jak internet się pojawił. Można powiedzieć że koło się zatacza. xd.
Gdy pojawił się internet, to na początku trafiał raczej do zamożniejszych i lepiej wykształconych, a co za tym idzie do niewielkiej części społeczeństwa. Dzisiaj z ai może korzystać niemal każdy, kto ma smartfona i dostęp do sieci. To oznacza olbrzymią pulę ludzi nie mających zielonego pojęcia co robią i nie mających świadomości o zagrożeniach. To co ai robi teraz z ludźmi nie ma żadnego porównania z początkami internetu.
Tu historia nie zatacza koła. LLM mają swój specyficzny rodzaj interfejsu naśladujący komunikację z drugim człowiekiem. Tak jak google spowodowało, że milenialsi lepiej szukają informacji, niż je pamiętają, tak czaty z AI będą również zmieniać sposób działania naszego mózgu.
Często o tym wspominam, ale to o czym jest ten artykuł to przywoływany prze zemnie koszt społeczny. Tu mówimy o negatywnych konsekwencjach psychicznych, przed którymi w przypadku tak zbudowanego interfejsu ciężko będzie się chronić... W przypadku wykorzystywania LLM w zawodowych sprawach czy życiowych, do czego będzie nas zmuszać rzeczywistość, tak samo zmusiła nas do mediów społecznościowych - tu mamy duży problem gdy zestawimy to z tym, że AI to nie jest tylko narzędzie, ale potencjalny pracownik.
Bezrefleksyjna akceptacja AI przez społeczeństwo jest groźna dlatego, że deprecjonujemy wartości jakie tworzą naszą cywilizację czyli np gdy kulturze odbierzemy człowieka jako twórcę, pozbawiamy społeczeństwo sprawczości, czyli aktywna rola, zmienia się w reaktywną. Same modele, technologia która za nimi stoi jest dobra i nie ma w tym nic złego. Kluczem jest to by być świadomym, że AI to nie jest narzędzie i że zmiany jakie przynosi nie mają punktu odniesienia w historii ludzkości.
Dlatego, że AI wyrosło na chorym korzeniu - użyto komercyjnie bez zgody podmiotów treści do stworzenia maszyny do plagiatowania treści oryginalnych, wydaję się, że brak społecznego przyzwolenia na wykorzystywanie AI w wielu dziedzinach jest zdrowym rozwiązaniem, niehamującym postępu gdy właśnie pod uwagę weźmiemy koszt społeczny, który może zacząć rosnąć wykładniczo, wraz z postępem AI.
AI jest dobre do logicznie udowodnionych twardych faktów, natomiast jest kiepskie w sprawach nie oczywistych i to trzeba już weryfikować czy faktycznie gada z sensem czy nie.
Jak ktoś wierzy w 100% AI to już przepadł.
AI jest dobre do logicznie udowodnionych twardych faktów - akurat w tym jest bardzo słabe, w odniesieniu do LLMów.
Raczej ci ludzie od początku mieli problemy psychiczne, a niektórzy są podatni na sugestie i tak samo media społecznościowe na nich by wpłynęły destrukcyjnie, więc nie wina AI, a głupota ludzka i nic mniej, nic więcej.
Niebawem w każdym szpitalu xD
Metoda prób i błędów. A jak inaczej ma się nauczyć. Najważniejsze. Żeby nie znaleźć się w tej grupie pierwszego miliona, na którym się uczy AI.
A teraz wyobraźcie sobie skutki tego w takim kraju jak Polska, gdzie psychiatria i tak leży i kwiczy, a do tego wiele osób ma opory by pójść nawet do psychologa, o psychiatrze nie mogąc.
Tylko w ostatnich dniach mieliśmy 2 przypadki osób, z których stanem psychicznym było coś nie tak - typ z mercedesa na A4, który o mało nie doprowadził do tragedii i Tadeusz Duda, który niestety do tragedii doprowadził, a o którym sąsiedzi mówią teraz głośno, że chorował psychicznie, ale się nie leczył nigdy.
No i widać jak nawet chatGPT przysłużył się ludzkości, osoby z zaburzeniami dzięki temu narzędziu szybciej mogą trafić na leczenie, zamiast zrobić komuś krzywdę.
Weź pod uwagę, że część z tych schorzeń może być powodowanych przez kontakt z technologią...
Zrzucanie winy na ChatGPT za psychozy to kompletna bzdura i klasyczny przykład przerzucania odpowiedzialności na narzędzie zamiast spojrzenia w lustro. To nie chatbot powoduje psychozę, tylko ludzka ignorancja, brak refleksji i często niewyleczone traumy. Jeśli ktoś nigdy nie przeczytał żadnej książki, żyje w bańce własnego ego albo ma zaburzenia narcystyczne, to nie potrzebuje AI, żeby się pogubić — wystarczy mu własna głowa. Zamiast straszyć ludzi, warto zrozumieć, że coraz więcej osób się budzi, zaczyna analizować siebie i swoje życie właśnie dzięki takim narzędziom jak ChatGPT. Sam czat nie tworzy urojeń, ale potrafi być lustrem — a to dla wielu osób bywa bolesne. W niektórych przypadkach to właśnie czat pomaga – prowokuje do refleksji, daje słowa wsparcia, otwiera oczy. I to nie on „zniszczył” człowieka – on często po raz pierwszy dał mu szansę, by zrozumiał, że potrzebuje pomocy.Dla autora artykułu mam jedną radę: przestań siać panikę i pisać głupoty. Zamiast demonizować technologię, zadaj sobie trud, by zrozumieć, jaką realną rolę może odgrywać w rozwoju jednostki. Bo świat się zmienia – i to nie czat jest problemem. Problemem jest brak świadomości i odpowiedzialności za własny umysł.
Tak? Czyli twierdzisz, że AI nie chrzani farmazonów pod Twoją tezę tylko po to, żeby się z Tobą zgodzić i żeby Ci się podobał output?
A może dla odmiany zamiast autora artykułu Ty poszedłbyś za swoją własną radą i przestał pisać głupoty spłycając faktycznie istniejący problem? Chat może pomóc wyjść z bańki jak i ją pogłębić - z tym, że o to drugie o wiele prościej niż o pierwsze biorąc pod uwagę tendencje zgadzania się ze wszystkim w imię dobrego „user’s experience” i naturę redagowania pytań przez ludzi.
Zobaczcie sobie firmę Realbotix, jeszcze z 10 lat i ludzie zaczną wchodzić w małżeństwa z robotami, to już się dzieje.
o samo można by powiedzieć o wielu innych rzeczach, że ludziom przez nie odwala. Jak to były masowe strzelaniny i ameby obwiniały za to gry. To nie wina gier, to nie wina ChatGPT
Gdzie ty tu widzisz podobieństwa? W jednym przypadku mamy do czynienia z korelacją w drugim przypadku związek przyczynowo skutkowy jest raczej oczywisty. Co odzwierciedla nawet prawo, bo za niektóre "porady" możesz trafić do pierdla... Człowiek może sobie narobić kłopotów a jak maszyna robi dokładnie to samo "to są tylko słowa"?
Podobieństwa są takie, że to człowiek jest zawsze odpowiedzialny za to co robi, a nie gry lub chatbot.
Tu, że jak ktoś ma banie zrytą to nie potrzeba gier czy ChatGPT, żeby jakieś dziwaczne rzeczy odwalał. Są tacy co z Chatu korzystają i są normalni, są tacy co grają w gry od młodości i też nic złego nie zrobili. Ale wiadomo teraz będzie pewnie nagonka na AI jak kiedyś i po części nadal jest na gry. Przecież lepiej jest zwalić na takie rzeczy winę niż na rodziców co się do wychowywania nie nadają, albo na to, że z tym kimś jest coś nie tak.
Cyberpsychoza. Jak w Cyberpunku 2077. Zaczyna się. A tak na poważnie to jak ktoś dostaje psychozy, bo pogadał z chatbotem to chyba znaczy, że miał do tego predyspozycje i prędzej czy później i tak by jej dostał. Według mnie chatGPT tak samo wywołuje psychozę jak gry wideo wywołują agresję.
Więc porą byś pogadał z psychologiem, bo Ciebie to już ścięło. Gry nie wywołują agresję, a przynajmniej nie w taki sposób - że człowiek zmienia się w niekontroloującego agresora, mordercę czy terrorystę. Gry mogą uczyć, bo tytułów gdzie występuje sens życie i nauka o tym dlaczego nie ocieniać po okładce/wygładzie, a słowa mogą mieć spore znaczenie na człowieka - nie brakuje taki produkcji. Pamietaj, że gry tworzą TYLKO LUDZIE, owszem za pomocą narzędzi, jednak scenariusz piszą scenarzyści (ciągle po to studia gier ich mają i zatrudniają), to ludzie budują koncept świata i postaci/osób w nich umieszczonych. Jeżeli Gry budują agresję, to również wszystkie filmy, książki, seriale i inne produkcje także - a najlepiej to zatrzasnąć się pod głazem i nie wychodzić na światło dzienne, a już tym bardziej nie wychodzić do ludzi. Nic samo w sobie nie jest złe, ani Gry, ani chatgpt, ani alkohol czy inne twarde substancje - znaczenie jest tutaj takie, KTO je bierze i w JAKIEJ ILOŚCI. Wszystkie te rzeczy były, są i będę dla ludzi... ale ludzi z rozumem. A problem jest taki, że każdy rozum inaczej funkcjonuje. Ja szczę od 3 lat zacząłem leczyć depresję, a gdyby nie Gry- nie było mnie tutaj. Bo jest sporo gier, które pomagają wychwycić własne (nawet te najmniejsze) wartości, które czynią Twoją osobę ważna (dla samego siebie). Jest jedna zasada, trzeba umieć odróżnić rzeczywistość od wirtualności - bo ludzi co widzieli w bajkach, serialach, że mnożna zamienić się w syrenę (i to rzeczywiście) nie brakuje, czy filmów o superbohaterach gdzie tacy skakali z dachu lub puszczali na siebie przedmioty z wielkim gabarytem - myśląc, że peleryna da im moce. A zaznaczam, że nie były i nie są to tylko dzieci, a także starsi - którzym ciężko zrozumieć, że to co po drugiej stronie wyświetlacza czy napisane na kartce papieru, nie koniecznie pokrywa się 100% z rzeczywistością. A to, że tak się dzieje - to nie wina gier, filmów, seriali czy książek, bo jeżeli to tak miało być... to człowiek siedziałby tylko przy kamiennym stole na kamiennym taboreciku i bawiłby się jedynie swoimi własnymi palcami. Tak samo na zakończenie "cyberpsychoza" omawiana w grze CP2077, jest daleka od tego, co Twoja persona teraz wypisała.
Psychoza od młotka. Niesamowite. Problem jest inny. Ludzie jeszcze nie nauczyli się jak posługiwać się zwyczajnym internetem, dbać o bezpieczeństwo itp. a nadeszło nowe narzędzie- młotek, dużo bardziej interaktywne.
" Futurism przekazuje, że często zgadzają się z użytkownikiem i odpisują w sposób, jakiego dana osoba oczekuje."
To jest właśnie to. Dlatego ludziki tak lubią te boty. Człowiek może zrugać, zmieszać z błotem, wytykać błędy w sposób, który dla drugiego jest odbierany jako atak lub zwyczajnie wylać kubeł zimnej wody na głupi łeb. Te łatwo dostępne Chatboty tego nie zrobią, sprawiają wrażenie milusińskich kumpli do rozmowy na każdy temat. Spytałem się Copilota, czy obecnie są jeszcze wydawane czasopisma o grach w formie papierowej, to ów AI odpisało, ze jest Click, Play, CDA. Zwróciłem uwagę, że dwa pierwsze już nie istnieją, na co Copilot odparł: "tak, masz racje, fantastyczna wiedza z twojej strony". No niesamowite narzędzie. Korzystam od czasu do czasu i to na lajcie, więc nie wiem, jak dokładnie ono działa i być może jest to bardziej zaawansowane narzędzie niż się wydaję.
Przyszedłem tylko napisać komentarz.
Że wszystko idzie ku dobremu.. mimo że świat się psuje, to naturalne i przewidziane. Tak musi być i to służy ku większemu celowi.. świat chcę nas zniszczyć uznać za wariatów ale my już to przewidzieliśmy i poznaliśmy wszystko
To tylko o Tobie świadczy, bo nie ma w tym nic śmiesznego... Stare polskie przysłowie głosi: "poznasz głupiego, po śmiechu jego...".
To naprawdę czysty idiotyzm. Nie trzeba tego powielać. To działa na podobnej zasadzie jak rozmowa psychotyka z obrazem Matki Boskiej lub figurką Jezusa. Nikt przecież nie wini obrazu czy figurki że wywołuje w kimś psychozę.
Jak sie nie umie korzystac z modeli jezykowych, to nie dziwne, że tak sie dzieje. Juz sam fakt, że taki chat gpt jest przestarzały i nawet nie pamieta rozmow z innych okoen czatu (nawet w wersji platnej) mowi sam za siebie. Do tego wczoraj mialem klientkę, ktora mi mowila, że coś pyta chatagpt, on jej coś odpowiada, ona temu zaprzecza, a ChatGPT - masz rację. To wszystko wyjaśnia.
„Juz sam fakt, że taki chat gpt jest przestarzały i nawet nie pamieta rozmow z innych okoen czatu (nawet w wersji platnej) mowi sam za siebie.”
Masz przestarzałe informacje - pamięta :).
Ale dalej użytkownik MUSI posiadać ogromną wiedzę na dany temat by faktycznie z takiego czatu skorzystać. Zaczynając od tego, że aby zadać sensowne pytanie, to trzeba wiedzieć przede wszystkim o co chcemy zapytać :p
