user42897214ec

Autorze, wybacz mi uszczypliwość, ale piszę to co pisze bo uważam że tego typu teksty są szkodliwe.

"argumenty w stylu „SI nigdy nie dorówna ludziom, bo jest tylko maszyną”, gdyż te zwyczajnie nic nie znaczą i najczęściej są podnoszone przez osoby, które w życiu nie napisały nawet linijki kodu."

oraz

"Podobnie niewiele warte są twierdzenia, że SI nie ma emocji, intuicji czy innej magicznej cechy, która ostatecznie nie pozwoli jej osiągnąć ludzkiego poziomu inteligencji. Wszystko to są przejawy zwykłego antropocentryzmu"

Uwielbiam ten rodzaj arogancji. Jeśli nie potrafię rozwiązać problemu, to stworzę maszynę, która mi go rozwiąże. Pytanko — za pomocą jakiego narzędzia, autorze, człowiek jest w stanie zrozumieć własny mózg w 100%, a potem stworzyć coś lepszego od niego? Własnego mózgu może? Autorze, człowiek nie jest fragmentem kodu, aby móc rozumiejąc kod osiągnąć pełnię zrozumienia swojej natury. A być może jednak uważasz, że człowiek jest kodem? W takim wypadku kodem jest także percepcja, więc jaką wartość ma kod mówiący kodowi, że jest kodem? Atomy mówiące innym atomom, że są atomami? My nie jesteśmy siebie w stanie określić ani zrozumieć, wybieramy pragmatyczne formy, bo są wygodne, potem je ulepszamy, a gdy ulepszymy je do tego stopnia, że są w pełni zintegrowane, one znikają z naszego pola widzenia, a my idziemy dalej. My, nie koła młynowe, nie telewizory i nie sieci neuronowe.

"Na uwagę zasługują natomiast głosy ludzi, którzy swoimi badaniami wynieśli tę dziedzinę do jej obecnego poziomu."

No tak, o tym czy warto wziąć pożyczkę, najlepszą opinię ma pracownik banku. Pokładasz zbyt dużą wiarę symbolom i definicjom, a nie widzisz ze definicje są płynne i sterowane interesem. AI developer mówiący o inteligencji to jak agent ubezpieczeniowy mówiący o bezpieczeństwie kolego. Definicja jest nie jasna więc pozwala na wiele różnych interesujących stwierdzeń, których się potwierdzić nie da. Wierz mi, że jeśli postęp ustąpi, a SI dalej nie będzie dawała oznak świadomości, definicję świadomości można przekręcić tak, by bardziej się odnosiła do SI niż do nas samych. Masz wątplwości? A wiesz jak Stany Zjednoczone radzą sobie z długiem? Dewaluują dolara.

"Yudkowsky podkreśla w ten sposób, jak ogromne problemy czekają nas na polu dostosowania superinteligentnej SI do naszych celów (AI alignment). W przeciwieństwie do innych, kluczowych w naszej historii problemów naukowych, w tym wypadku mamy tylko jedną szansę na poradzenie sobie z tym zadaniem. Pierwszy eksperyment z uruchomieniem superinteligentnej SI, który zakończy się niepowodzeniem, będzie w opinii Yudkowskiego oznaczać kres całej ludzkości."

Jest dokładnie odwrotnie. W momencie kiedy my podejmiemy się próby zdefiniowania, o co nam, ludziom chodzi, zamykamy się raz na zawsze w więzieniu własnej definicji, która będzie nam odbijana jak lustrzane odbicie przez formy, które sami do tej definicji dostroimy. Tę walkę jako cywilizacja już przegraliśmy. Teraz wszystko w rękach jednostki.

Jako że autor sam uważa siebie za eksperta w dziedzinie, potwierdza się moje przypuszczenie, że takowi nie mają zielonego pojęcia co robią, ani o czym mówią, a jedynie stawiają nogę przed nogą, a przy tym powtarzają te same głupoty co wszyscy inni, z niewiadomych przyczyn. To znaczy przyczyny ekspertów Google są oczywiste, ale czemu to wszyscy potem powtarzają, tego nie wiem. Nie mam też wątpliwości, że w takim razie wynik tego eksperymentu będzie rozczarowujący na dłuższą metę, natomiast jedyne postępy, jakich się spodziewam to rewolucja symboliczna, czyli stare jak świat wyrzucanie wartości przez okno poto, żeby zaraz potem je odkupić od kogoś pod inną nazwą. W tym wypadku konwencjonalne myślenie i uwagę zamieniamy na automatyczne procesy i liczymy, że wszystko się będzie zgadzać. Że każdy dostanie copywritera i grafika, a potem wszyscy będą mieli najlepsze teksty i najlepsze grafiki i wszyscy będą zarabiali miliony. Wszyscy, biedni też, bo przecież to technologia dla każdego. A prawda jest taka, że ta technologia służy nie tym którzy z niej korzystają, a tym którzy ją sprzedają pod postacią rewolucji, a to tak zwani ludzie "uczeni" są tymi, którzy tę propagandę o rewolucji sieją. W ciągu kilku ostatnich lat liczba ludzi wycenionych na 100 bln zmieniła się z 1 na 10.

Zmiana nastąpi owszem, ale to będzie zmiana w naszym rozumieniu rzeczywistości na płytszą i uzależnioną od mierzalnych danych i procedur. Ta zmiana jest w większy m stopniu inżynierią społeczną niż jakimkolwiek postępem naukowym. Pomijam już rozwodzenie się nad technicznymi problemami tej technologii i ślepy zaułek w postaci "frame problem".

Zaciera się granica między naukowcem a fantastykiem. Już w przypadku takich ludzi jak Bostrom było to oczywiste. A to zwiastuje koniec epoki inteligencji. I bardzo dobrze, bo się porzygać idzie. Dla zainteresowanych polecam posłuchać, co Noam Chomsky ma w tym temacie do powiedzenia. Jeśli chcecie opinii o AI, największym specjalistą będzie lingwista, nie programista.