Słyszałem dobre opinie i wiele sobie po tej książce obiecywałem, jednak niestety spotkało mnie rozczarowanie.

Mój podstawowy zarzut - błędnie postawiona teza co do sposobu rozwiązania zagrożenia związanego z powstaniem osobliwości. W dużym skrócie, autor proponuje nauczenie AI rozumienia ludzkich zachowań i motywacji, zamiast wdrażania zasad "moralnych".

W moim odczuciu główny problem z tym podejściem jest taki, że ono niczego nie rozwiązuje - jedynie przesuwa problem z "jak stworzyć bezpieczne AI" na "jak stworzyć bezpieczne AI które będzie analizowało ludzkie zachowania i wyciągało z nich wnioski". Jako ludzie nie sugerujemy rozwiązania, tylko dokładamy kolejne ogniwo do skomplikowanego łańcucha zabezpieczania AI.

Przykład AI przekształcającego całą dostępną materię w spinacze biurowe można zastąpić przykładem AI, które tworzy nowe doświadczenie na pograniczu social mediów, seksu i używek - bo wszak scrollowanie TikToka, oglądanie pornografii i picie alkoholu całkowicie leży w obszarze ludzkich preferencji.

Ponadto, książka bardzo trudna w odbiorze - przez drugą połowę przebrnąłem z wielkim trudem, kończąc niejako z poczucia zawodowego obowiązku, a nie z ciekawości.

Słyszałem dobre opinie i wiele sobie po tej książce obiecywałem, jednak niestety spotkało mnie rozczarowanie.

Mój podstawowy zarzut - błędnie postawiona teza co do sposobu rozwiązania zagrożenia związanego z powstaniem osobliwości. W dużym skrócie, autor proponuje nauczenie AI rozumienia ludzkich zachowań i motywacji, zamiast wdrażania zasad "moralnych".

W moim odczuciu...

Zmęczyła mnie ta książka. Nie jest zła, ale zdecydowanie przefilozofowana. Co może dziwnie brzmi, bo właśnie taka miała być. Chyba. Ale do mnie nie trafiła. I jakoś też mam wrażenie, że do ludzi odpowiedzialnych za SI również nie trafi.

Pomysły w niej przedstawione są ciekawe, zdają się mieć sens. Jednak to trochę jakbyś ze swoim sąsiadem rozwodził się nad tym co byście zrobili z Mercedesem innego sąsiada. Pogadać sobie możecie, ale na koniec decyzja nie należy do was. Tak samo z SI, możemy sobie porozmyślać, ale decyzje podejmą korporacje. Bo nie oszukujmy się rządy w tym wyścigu tkwią jeszcze na starcie.

Zmęczyła mnie ta książka. Nie jest zła, ale zdecydowanie przefilozofowana. Co może dziwnie brzmi, bo właśnie taka miała być. Chyba. Ale do mnie nie trafiła. I jakoś też mam wrażenie, że do ludzi odpowiedzialnych za SI również nie trafi.

Pomysły w niej przedstawione są ciekawe, zdają się mieć sens. Jednak to trochę jakbyś ze swoim sąsiadem rozwodził się nad tym co byście...