Superintelligence: Paths, Dangers, Strategies
- Kategoria:
- popularnonaukowa
- Tytuł oryginału:
- Superintelligence
- Wydawnictwo:
- Oxford University Press
- Data wydania:
- 2014-07-03
- Data 1. wydania:
- 2014-07-03
- Liczba stron:
- 352
- Czas czytania
- 5 godz. 52 min.
- Język:
- angielski
- ISBN:
- 9780199678112
- Tagi:
- człowiek superinteligencja sztuczna inteligencja uczenie maszynowe
Superintelligence: Paths, Dangers, Strategies is a 2014 book by the Swedish philosopher Nick Bostrom from the University of Oxford. It argues that if machine brains surpass human brains in general intelligence, then this new superintelligence could replace humans as the dominant lifeform on Earth. Sufficiently intelligent machines could improve their own capabilities faster than human computer scientists, and the outcome could be an existential catastrophe for humans.
It is unknown whether human-level artificial intelligence will arrive in a matter of years, later this century, or not until future centuries. Regardless of the initial timescale, once human-level machine intelligence is developed, a "superintelligent" system that "greatly exceeds the cognitive performance of humans in virtually all domains of interest" would follow surprisingly quickly, possibly even instantaneously. Such a superintelligence would be difficult to control or restrain.
While the ultimate goals of superintelligences can vary greatly, a functional superintelligence will spontaneously generate, as natural subgoals, "instrumental goals" such as self-preservation and goal-content integrity, cognitive enhancement, and resource acquisition. For example, an agent whose sole final goal is to solve the Riemann hypothesis (a famous unsolved, mathematical conjecture) could create, and act upon, a subgoal of transforming the entire Earth into some form of computronium (hypothetical "programmable matter") to assist in the calculation. The superintelligence would proactively resist any outside attempts to turn the superintelligence off or otherwise prevent its subgoal completion. In order to prevent such an existential catastrophe, it might be necessary to successfully solve the "AI control problem" for the first superintelligence. The solution might involve instilling the superintelligence with goals that are compatible with human survival and well-being. Solving the control problem is surprisingly difficult because most goals, when translated into machine-implementable code, lead to unforeseen and undesirable consequences.
Porównaj ceny
W naszej porównywarce znajdziesz książki, audiobooki i e-booki, ze wszystkich najpopularniejszych księgarni internetowych i stacjonarnych, zawsze w najlepszej cenie. Wszystkie pozycje zawierają aktualne ceny sprzedaży. Nasze księgarnie partnerskie oferują wygodne formy dostawy takie jak: dostawę do paczkomatu, przesyłkę kurierską lub odebranie przesyłki w wybranym punkcie odbioru. Darmowa dostawa jest możliwa po przekroczeniu odpowiedniej kwoty za zamówienie lub dla stałych klientów i beneficjentów usług premium zgodnie z regulaminem wybranej księgarni.
Za zamówienie u naszych partnerów zapłacisz w najwygodniejszej dla Ciebie formie:
• online
• przelewem
• kartą płatniczą
• Blikiem
• podczas odbioru
W zależności od wybranej księgarni możliwa jest także wysyłka za granicę. Ceny widoczne na liście uwzględniają rabaty i promocje dotyczące danego tytułu, dzięki czemu zawsze możesz szybko porównać najkorzystniejszą ofertę.
Mogą Cię zainteresować
Książka na półkach
- 890
- 169
- 73
- 43
- 11
- 10
- 6
- 5
- 5
- 4
Cytaty
Nawet ktoś będący w dużej mierze altruistą może w tych okolicznościach zdecydować się na rozwój, ogólnie rzecz biorąc, szkodliwej technologii. Może on rozumować, że krzywda zostanie wyrządzona niezależnie od jego działań, bo nawet jeśli akurat on się od nich powstrzyma, ktoś inny tak czy inaczej je podejmie, a biorąc pod uwagę, że nie będzie to miało wpływu na całkowitą sumę do...
Rozwiń
OPINIE i DYSKUSJE
Brawo dla autora za podjęcie tematu badań nad sztuczną inteligencją, bo jest on przecież pionierem takich badań. Jednak książka jako książka nie do końca się broni. Zresztą ze wstępu: "Niełatwo było napisać tę książkę. Starałem się, by łatwo się ją czytało, lecz nie sądzę, by mi się powiodło". Zgadzam się z Autorem, czyta się to ciężko, ale książka opisuje pole wcześniej mało eksplorowane.
Cieszę się, że są badacze, którzy swą uwagę poświęcają zagadnieniom rozwoju sztucznej inteligencji i projektowaniu pewnych mechanizmów zabezpieczających ludzkość przed ewentualnymi katastrofalnymi skutkami powstania takiej zaawansowanej SI. Ale jest to pole wymagające jeszcze wiele pracy i skonkretyzowania wielu bardzo płynnych koncepcji, których opis w tej książce jest jednak męczący, a próby matematycznego konkretyzowania raczej szkodzą niż pomagają.
Możemy się z książki jednak dowiedzieć, jakie mogą być drogi powstania ogólnej SI, jakie są zagrożenia, jakie mamy możliwości kontroli, jakie mogą być scenariusze wydarzeń i jakie działania powinniśmy my, jak ludzkość podejmować, by tę rewolucję powstania pełnej, ogólnej SI przetrwać.
Autor jest też transhumanistą, pewne jego poglądy są mocno kontrowersyjne. Ma też dosyć arogancki, nieprzyjemny sposób przekazywania wiedzy - np. znowu ze wstępu: "...treść tej książki powinna być przystępna dla wielu osób, pod warunkiem, że poświęcą jej odrobinę namysłu i opanują pokusę natychmiastowego błędnego rozumienia każdej nowej koncepcji...". Tak więc czyta się ciężko.
Ale dodatkowym może nie zarzutem, ale jednak zdecydowanie wadą książki jest brak w ogóle rozważania takiego rodzaju sztucznej inteligencji, jaka dzisiaj święci triumfy popularności, czyli Wielkich Modeli Językowych (LLM),takich jak ChatGPT. Pokazuje to, że technologia rozwija się niekoniecznie w przewidywanym wcześniej kierunku, co z jednej strony rodzi inne zagrożenia, ale z drugiej być może pozwala wielu zagrożeń uniknąć.
Ogólnie rzecz biorąc chciałbym przeczytać lepiej napisaną, bardziej aktualną a także w wielu miejscach bardziej konkretną wersję tej pracy. Tak jak jest teraz jest ok, jako lektura na studiach, ale nie gdy chcemy trochę więcej zrozumieć. Także, jeśli nie jesteś naukowcem z powiązanej dziedziny to chyba lepiej przeczytać coś innego na temat SI.
Brawo dla autora za podjęcie tematu badań nad sztuczną inteligencją, bo jest on przecież pionierem takich badań. Jednak książka jako książka nie do końca się broni. Zresztą ze wstępu: "Niełatwo było napisać tę książkę. Starałem się, by łatwo się ją czytało, lecz nie sądzę, by mi się powiodło". Zgadzam się z Autorem, czyta się to ciężko, ale książka opisuje pole wcześniej...
więcej Pokaż mimo toCzyta się to dość kwadratowo :/
Można powiedzieć, że to coś między literaturą popularnonaukową, a właściwą publikacją naukową. Dlatego dla jajogłowych dziwne, że wydane z taką okładką i przez Helion, a dla zwykłego zjadacza chleba lawina pojęć i ciężkiego języka przytłacza :/
Co niemniej - książka ważna, trafna i na czasie. Myślę, że tzw "must read" - w epoce ChatGPT, Barda czy Dall-E.
Wkurzały mnie tylko opinie autora na tematach na których słabo się zna IMO - jak historia czy ekonomia. Do tego czasami prześwitywały poglądy polityczne autora (dość dolino-krzemowo-lewicowe) które mnie też drażniły.
P.S. Zabawne było stwierdzenie, że jak dalej tak pójdzie to w 10 lat komputer wygra z supermistrzem GO. Wyszło im szybciej.
Czyta się to dość kwadratowo :/
więcej Pokaż mimo toMożna powiedzieć, że to coś między literaturą popularnonaukową, a właściwą publikacją naukową. Dlatego dla jajogłowych dziwne, że wydane z taką okładką i przez Helion, a dla zwykłego zjadacza chleba lawina pojęć i ciężkiego języka przytłacza :/
Co niemniej - książka ważna, trafna i na czasie. Myślę, że tzw "must read" - w epoce ChatGPT,...
Książka mniej więcej do połowy ciekawa i dosyć konkretna, ale dalej odpływa w kierunku nadmiernego teoretyzowania.
Autor stawia pewne hipotezy dotyczące sztucznej inteligencji, które następnie porządnie uzasadnia. Ale następnie na bazie tych hipotez stawia kolejne i jeszcze kolejne, i w efekcie dosyć szybko dociera do punktu fantazji i rzucania stwierdzeń niemożliwych do zweryfikowania negatywnie ani pozytywnie.
Część stwierdzeń już się zdezaktuwalizowała (np. teza o tym że AI rozumiejące język naturalny będzie AGI - istniejące obecnie modele językowe nadzwyczaj dobrze sobie z tym radzą, a robią to wyłącznie na podstawie wyliczania prawdopodobieństw, nie ma tam żadnej inteligencji). Część zdezaktualizuje się zapewne w niedalekiej przyszłości.
Ogólnie, "Superinteligencję" oceniam jako dobrą pożywkę dla myśli - nie trzeba się zgadzać ze wszystkim co jest w niej napisane, nie trzeba przyjmować fatalistycznego podejścia Bostroma, ale można zapoznać się i wyciągnąć z niej coś dla siebie.
Na minus - książka bardzo ciężka w odbiorze. Powala nadmiar niepotrzebnego akademickiego żargonu, który zamiast tworzyć precyzyjne i proste w zrozumieniu definicje, to jedynie utrudnia zrozumienie treści. Zdania mają nieraz po 8 linijek długości. Trudno nadążyć za wątkiem.
Książka mniej więcej do połowy ciekawa i dosyć konkretna, ale dalej odpływa w kierunku nadmiernego teoretyzowania.
więcej Pokaż mimo toAutor stawia pewne hipotezy dotyczące sztucznej inteligencji, które następnie porządnie uzasadnia. Ale następnie na bazie tych hipotez stawia kolejne i jeszcze kolejne, i w efekcie dosyć szybko dociera do punktu fantazji i rzucania stwierdzeń niemożliwych do...
Książka trudna, ale bardzo ważna. Naprawdę głęboko przemyślana problematyka, po 10 latach od wydania i ogromnym postępie w SI, wszystko jest wciąż aktualne.
Książka trudna, ale bardzo ważna. Naprawdę głęboko przemyślana problematyka, po 10 latach od wydania i ogromnym postępie w SI, wszystko jest wciąż aktualne.
Pokaż mimo toStraszny bełkot. Ciężko dobrnąć do końca. Jest sporo książek poruszających tematykę SI w ciekawszy, bardziej przystępny sposób. Budowa zdań straszna, dużo powtórzeń.
Straszny bełkot. Ciężko dobrnąć do końca. Jest sporo książek poruszających tematykę SI w ciekawszy, bardziej przystępny sposób. Budowa zdań straszna, dużo powtórzeń.
Pokaż mimo toCiekawa jednak bardzo ciężka
Ciekawa jednak bardzo ciężka
Pokaż mimo toJak dla mnie meh, napisałem licencjacik krytycznie nt transhumanizmu...
Studiowało się tą filozofię w sumie bodajże 6 lat, więc i troszkę filozoficznych książek się przeczytało. To książka z mojej półki "różności", wrzucam tu te setki książek które przeczytałem w życiu w latach 2000-2019.
Jak dla mnie meh, napisałem licencjacik krytycznie nt transhumanizmu...
Pokaż mimo toStudiowało się tą filozofię w sumie bodajże 6 lat, więc i troszkę filozoficznych książek się przeczytało. To książka z mojej półki "różności", wrzucam tu te setki książek które przeczytałem w życiu w latach 2000-2019.
Temat ciekawy i dobrze zgłębiony. Niestety książka jest koszmarnie napisana, nie da się tego czytać. Przekomplikowany język, zdania na 8 linijek. Dałem sobie spokój po przeczytaniu połowy - a szkoda, bo bardzo bym chciał dobrnąć do końca.
Przykładowy cytat:
"W pełnej ocenie wykonalności metody zachęt trzeba by również brać pod uwagę szereg innych czynników, włączając w to pewne ezoteryczne rozważania, w wyniku których być może tego rodzaju metody można byłoby uznać za mające większe szanse powodzenia, niż zdawałaby sugerować wstępna analiza."
Temat ciekawy i dobrze zgłębiony. Niestety książka jest koszmarnie napisana, nie da się tego czytać. Przekomplikowany język, zdania na 8 linijek. Dałem sobie spokój po przeczytaniu połowy - a szkoda, bo bardzo bym chciał dobrnąć do końca.
więcej Pokaż mimo toPrzykładowy cytat:
"W pełnej ocenie wykonalności metody zachęt trzeba by również brać pod uwagę szereg innych czynników, włączając w to...
Niniejsza książki przybliża czytelnikowi zagadnienie jakim jest sztuczna inteligencja skupiając się na rozważaniach o tym jaką formę może przybrać SI wraz ze skutkami wynalezienia superinteligencji dla całej ludzkości.
Autor porusza wiele ciekawych tematów np. ścieżki wiodące ku superinteligencji, formy superinteligencji, problem kontroli oraz zaszczepienia wartości czy choćby próba odpowiedzi na pytanie czy na pewno czego nas zagłada. Jak to czasem bywa po skończonej lekturze czytelnik zostawiany jest z większą ilością pytań niż odpowiedzi, co jest oczywiście jak najbardziej w porządku jako, że chyba każdy choć trochę zainteresowany tematem zdaje sobie sprawę z tego, że przewidzenie przyszłości SI na tę chwilę jest właściwie niemożliwe.
Dużym plusem książki jest to, że pomimo dość specyficznego tematu, który mógłby się wydawać wymaga wiedzy technicznej przedstawione tu przemyślenia przyjmują naturę w większości filozoficzno-naukowych, gdzie zarówno filozofia jak i nauka są jak najbardziej strawne nawet dla średnio rozgarniętego czytelnika. Pomimo dość przyjemnej formy miałem wrażenie, że książka czasami przynudza, co dało się odczuć przede wszystkim pod jej koniec, co zapewne jest zasługą aż 450 stron (razem z przypisami). Kolejnym minusem jest również wydanie. Małe literki i próba wykorzystania całej strony powoduje, że wersję papierową czyta się co najwyżej średnio.
Podsumowując książkę na pewno polecam osobom zainteresowanym tym tematem, ale już niekoniecznie całej reszcie z uwagi na sporą objętość, co na pewno odbiję się u nich znużeniem, dla takich osób na pewno znajdą się znacznie krótsze i być może równie ciekawe opracowania.
Niniejsza książki przybliża czytelnikowi zagadnienie jakim jest sztuczna inteligencja skupiając się na rozważaniach o tym jaką formę może przybrać SI wraz ze skutkami wynalezienia superinteligencji dla całej ludzkości.
więcej Pokaż mimo toAutor porusza wiele ciekawych tematów np. ścieżki wiodące ku superinteligencji, formy superinteligencji, problem kontroli oraz zaszczepienia wartości czy...
Jest to pozycja obowiązkowa dla każdego zainteresowanego tematyką SI. Koniec, kropka :)
Jest to pozycja obowiązkowa dla każdego zainteresowanego tematyką SI. Koniec, kropka :)
Pokaż mimo to