Inteligentne maszyny też będą działały według programu, tylko że dzieki inteligencji będą mogły kreatywnie optymalizować własną wydajność, dostoswując swoje działania do konkretnych warunków w których będą funkcjonowały. Ale z tego nie wynika że pewnego dnia wpadną na pomysł że zamiast zapieprzać w kopalni lepiej jest pozbaijać ludzi, rozumiesz ? Owszem istnieje teoretyczne ryzyko że konsekwentnie dażąc do realizacji powierzonych zadań w ramach zadanych parametrów zaczną działać w sposób nieporządany (np robot sprzątający któremu nakazano "dokładnie wyczyścić cały dom" zostawi tylko gołe ściany), tudzież zadziałają w takiż sposób na skutek uszkodzeń mechanicznych lub "bugów" oprogramowania, ale w praktyce ryzyko szkodliwych skutków ubocznych występuje w przypadku każdej nowej technologii, dlatego przed ich wprowadzeniem do użytku przeprowadza się odpowiednie badania i testy. A skoro na razie nie wysadziliśmy naszej planety, to nie widze powodu aby przejmować się akurat inteligentnymi maszynami bardziej niż np nowym ulepszaczem smaku który "teoretycznie" może wywołać plagę zmobie.
Na co odpisałeś :
Czy optymalny świat dla maszyn to ten z ludźmi czy bez? Po co inteligentnym maszynom ludzie?
Sęk w tym że to co optymalne będzie włąśnie określone przez program determinujący rolę pełnioną przez daną inteligentną maszynę. Innynmi słowy, poprawnie działająca maszyna po prostu nie będzie "chciała" się zbuntować tak jak ludzie nie chcą z reguły pozabijać wszystkich na około. Co prawda tak jak zdarzają się psychopatyczni zbrodniarze, tak i teoretycznie mogą wystąpić przypadki maszyn funkcjonujących w niepożądany sposób, ale eliminacja tego ryzyka jest po prostu kwestią odpowiedniego zbadania, przetestowania i wdrożenia technologii AI, dokładnei tak samo jak w przypadku setek innych technologii, które przeciez dopóki nie zostana odpowiednio poznane również hipotetycznie moga stanowić niebezpieczeństwo.