Skocz do zawartości


Zdjęcie

Wojskowe roboty będą decydować o śmierci


  • Zaloguj się, aby dodać odpowiedź
14 odpowiedzi w tym temacie

#1

Padael.

    Tauri

  • Postów: 1017
  • Tematów: 73
  • Płeć:Mężczyzna
Reputacja znakomita
Reputacja

Napisano

Przerażająca i nieludzka perspektywa robotów samodzielnie decydujących o ataku czyli w praktyce o życiu i śmierci.
Robot z oprogramowaniem pozwalającym być może na zupełnie autonomiczny byt wydaje się rodem wyciągnięty z Terminatora, może to zmienić trwale rzeczywistość, niekoniecznie w dobrym kierunku.

"- Była broń i był walczący. Teraz broń zamienia się w walczącego - mówi o robotach żołnierzach Christof Heyns, ekspert przy ONZ. W przeciwieństwie do dronów będą podejmować autonomiczne decyzje na polu walki. Wystarczy je tylko wcześniej zaprogramować. Już teraz są produkowane w USA, Wielkiej Brytanii i Izraelu, ale technologia pozostaje w fazie testów.
Wizja maszyn, które samodzielnie podejmują decyzje i mogą całkowicie zastąpić ludzi w walce była zawsze domeną science fiction. Teraz jesteśmy coraz bliżej jej urzeczywistnienia. Roboty żołnierze, które na polu walki będą autonomicznie podejmować decyzje, są już produkowane w USA, Wielkiej Brytanii i Izraelu, choć na razie to jeszcze faza testów. Wiadomo też, że programy badawcze prowadzą też Rosja i Chiny. - Musimy podjąć działania zanim sprawy, dosłownie, wymkną się z ludzkich rąk - mówi Christof Heyns, ekspert przy ONZ.

"To nie wojna, to mechaniczna rzeź"

Techniczna możliwość wyprodukowania maszyn specjalizujących się w zabijaniu ludzi lub likwidujących z góry określone cele istnieje już od pewnego czasu. W tej chwili pozostaje tylko pytanie, jak do użytkowania tego typu broni ustosunkują się organizacje międzynarodowe.

Problemem robotów żołnierzy zajęła się ONZ, gdzie kwestia ta była przedmiotem dyskusji na posiedzeniu Rady Praw Człowieka. Christof Heyns, profesor specjalizujący się w prawach człowieka, przedstawił wyniki badań i wezwał do światowego moratorium w sprawie produkcji i użytkowania autonomicznych robotów.

- Wojna bez refleksji to mechaniczna rzeź - powiedział Heyns. Jego zdaniem wprowadzenie robotów żołnierzy oznacza, że "to maszyny, a nie ludzie będą podejmować decyzję o tym, kto żyje, a kto ma umrzeć".

Będzie więcej wojen?

Podobne argumenty przytaczają przeciwnicy robotów żołnierzy zrzeszeni m.in. wokół kampanii "Stop killer robots". Ich zdaniem bezpośredni nadzór człowieka nad bronią używaną na polu walki jest niezbędny do zapewnienia skutecznej ochrony humanitarnej i przestrzegania prawa międzynarodowego. Stawiają ważne pytania: kto tak naprawdę będzie podejmował ostateczną decyzję, by zabić? Czy mamy gwarancję, że robot zawsze odróżni cel cywilny od celu wojskowego?

Przedstawiciele kampanii "Stop killer robots" uważają też, że maszynom zawsze będzie brakować tej cechy, która jest niezbędna dobremu żołnierzowi: umiejętności trafnego osądu i rozumienia szerszego kontekstu sytuacji.

Pojawiają się głosy, że wdrożenie autonomicznie działających robotów doprowadzi do wzrostu liczby konfliktów wojennych. - Niebezpieczeństwo polega też na tym, że dysponując takim sprzętem, kraje mogłyby znacznie chętniej angażować się w wojny. Bo przecież nie byłoby rozlewu krwi - stwierdził Christof Heyns.

Robot może być zbrodniarzem wojennym?

Odrębny problem etyczny związany z wprowadzeniem na pole walki maszyn działających autonomicznie to kwestia odpowiedzialności za podejmowane przez nie działania. - Jeżeli roboty zabiłyby bardzo dużą liczbę ludzi, mimo że to nie było konieczne, to nie wiadomo, jakie byłoby postępowanie. Przecież nie można by wtedy obarczyć winą robotów - mówił w ONZ Heyns.

Zobacz: Amerykański dron zabił żołnierzy USA. Pomyłka operatora

W szczególności problemem byłby atak działających autonomicznie maszyn na cele cywilne. Obecne prawo nie przewiduje sądzenia robotów za zbrodnie wojenne - zauważają przeciwnicy tego typu broni.

Przeciwnicy robotów żołnierzy argumentują, że do tragedii może dojść nie tylko z powodu nadmiernej autonomii maszyn, czy błędnego programowania. Tak jak w przypadku wszystkich systemów komputerowych istniałoby ryzyko ataku hakerów, którzy po przejęciu kontroli nad maszynami mogliby skierować je na dowolnie wybrane cele, w tym ludność cywilną. Hakerzy mogliby też wykorzystać roboty do ataku na armię, która je wysłała.

Robot nie gwałci i nie torturuje

Lista argumentów przytaczanych przez przeciwników wdrożenia nowego typu broni jest bardzo długa. Mimo wielu problemów etycznych i prawnych, jakie wiązałyby się z wprowadzeniem na pola walki autonomicznie działających maszyn, są też głosy, że to najlepsza droga do zapewnienia maksymalnie humanitarnego przebiegu działań wojennych.

Zastąpienie żołnierzy robotami zmniejszyłoby straty ponoszone przez obie strony konfliktu wojennego. Choć testowane maszyny nazywane sa powszechnie "killer robots", ich najważniejsza funkcją nie będzie zabijanie. Przede wszystkim miałyby być używane do takich zadań, w których sprawdzą się zdecydowanie lepiej niż ludzie: do rozbrajania i oczyszczania celów, a także do unieruchamiania przeciwnika. W sytuacji, w której żołnierz musiałaby strzelać, żeby skutecznie się obronić, maszyna będzie dysponować wieloma innymi środkami.

Nie bez znaczenia - zdaniem zwolenników nowoczesnej broni - jest też fakt, że maszyny nigdy nie będą działać pod wpływem emocji. Nieznane będą im takie stany jak panika, złość czy chęć zemsty, które w czasie działań wojennych mogą zwiększać liczbę zabitych i skutkować brutalną przemocą wobec przeciwników, a nawet ludności cywilnej.

Zastąpienie żołnierzy maszynami oznaczałoby też mniejszą skalę przemocy seksualnej towarzyszącej konfliktom zbrojnym. Robot nie zgwałci, nie będzie torturował, nigdy nie zacznie działać pod wpływem uprzedzeń - argumentują projektanci autonomicznych maszyn.

Rewolucja na miarę prochu i bomby atomowej

Niezależnie od oceny nowego typu broni wszyscy potwierdzają, że prace nad tego typu technologią oznaczają prawdziwą rewolucję w dziedzinie wojskowości. - To rewolucja na miarę wprowadzenia prochu i bomby atomowej - twierdzi Christof Heyns. Obecnie prace nad autonomicznie funkcjonującymi robotami są w fazie testów, ale już teraz w wojsku wykorzystuje się tzw. broń półautonomiczną.

To już rzeczywistość

Najbardziej znane są drony, czyli bezzałogowe samoloty wykorzystywane przede wszystkim do obserwacji i rozpoznania. Amerykańska armia posługuje się też dronami bojowymi, które używane są do likwidacji celów.

Zobacz: Drony zabijają w Afryce. Niemcy naruszają prawo międzynarodowe?

Polska armia także używa już bezpilotowców, szczególnie na misjach. Zgłosiła także chęć udziału w natowskim systemie obrony granic, a to oznacza, że polską granicę wschodnią chroniłyby bezzałogowe Global Hawk. Najnowsza koncepcja modernizacji armii zakłada też wprowadzenie sprzętu zupełnie nowej generacji - właśnie dronów zastępujących samoloty bojowe.

Z bezzałogowców korzystają też inne armie. Taranis - brytyjski dron bojowy, który może samodzielnie znaleźć i zidentyfikować wrogów, a także zlikwidować namierzony cel. Otwarcie ognia następuje jednak zawsze po akceptacji operatora maszyny.

Bardzo wysokim stopniem autonomii charakteryzuje się amerykański dron X-47B, który samodzielnie startuje z lotniskowca i ląduje, a także rozpoznaje konieczność tankowania i przeprowadza tę operację w powietrzu. Bardzo skutecznie lokalizuje też cele naziemne, podziemne, podwodne i powietrzne. Uważany jest za jeden z najnowocześniejszych bezzałogowców w amerykańskiej armii.


Dron X-47B/fot. Wikipedia

Od Izraela do Korei

Wdrożoną już i ciągle udoskonalaną technologią półautonomiczną jest amerykański system Phalanx stosowany na większości amerykańskich okrętów wojennych. Służy on do obrony przed atakiem pociskami przeciwokrętowymi. Samodzielnie wykrywa i śledzi obiekty, a także wybiera najlepszy moment do otwarcia ognia i zniszczenia celu. Ze względu na wysoki stopień autonomiczności działań nazywany jest często przez amerykańskich żołnierzy "R2D2", co nawiązuje do "Gwiezdnych Wojen".


System Phalanx/fot. Wikipedia

Półautonomicznym systemem lotniczym dysponuje także Izrael. "Harpia" to bezzałogowy samolot służący do wykrywania i niszczenia stacji radiolokacyjnych. "Harpia" jest wyposażona w system rozpoznający sygnały radarowe i rozróżniający sygnał zarejestrowany w bazie od "wrogiego". W przypadku wykrycia obcego sygnału samolot namierza i atakuje miejsce, z którego jest emitowany.


System lotniczy "Harpia"/fot.Wikipedia

Bardzo zaawansowane technologicznie są też roboty produkowane przez Samsunga, które patrolują teren graniczny między Koreą Północną i Południową. Skutecznie wykrywa intruzów w strefie przygranicznej dzięki czujnikom podczerwieni, potrafi także nakierować ogień i zlikwidować cel. Sam atak musi być jednak zatwierdzony przez operatora - zadaniem robota jest tylko skuteczna realizacja zadania."

http://metromsn.gaze...7,14033650.html
  • 4



#2

noxili.
  • Postów: 2849
  • Tematów: 17
  • Płeć:Mężczyzna
Reputacja znakomita
Reputacja

Napisano

Troche to takie na siłe i wymuszone.

Robot może być zbrodniarzem wojennym?



A jak autobus z cywilami wjedzie na minę przeciwpancerną(wiele lat po wojnie) to mówi ktokolwiek o zbrodni wojennej???
  • 0



#3

BrainCollector.
  • Postów: 1825
  • Tematów: 101
  • Płeć:Mężczyzna
Reputacja znakomita
Reputacja

Napisano

Akurat w tym temacie jest wiele głosów sprzeciwu i na pewno jeśli dojdzie do jakichś incydentów to takie maszyny będą natychmiastowo zatrzymywane. Ma być tak, że dozwolone będą tylko takie które będą działać pod kontrolą człowieka.
  • 1



#4

Padael.

    Tauri

  • Postów: 1017
  • Tematów: 73
  • Płeć:Mężczyzna
Reputacja znakomita
Reputacja

Napisano

Wirus Stuxnet zaaplikowano w bardzo strzeżonym miejscu, jaką można mieć pewność, że ktoś przejmie kontrolę nad robotami albo wskutek błędu usamodzielnią się? Wolę nie myśleć co by było gdyby zbuntowane roboty uznałyby za wrogów ludzkość.

Chyba nigdy w historii tak wielka część ludzkości nie była tak bezbronna jak dziś, jednocześnie teoretycznie takie roboty będą zabójcami doskonałymi, oczywiście w toku rozwoju technologii.
  • 1



#5

Slimok.
  • Postów: 233
  • Tematów: 2
  • Płeć:Mężczyzna
Reputacja zadowalająca
Reputacja

Napisano

ee tam na usamodzielnienie jeszcze duuuzo za wczesnie ale np. dobry hacker bez problemu da rade przejąć kontrolę....

Te roboty to tylko po to żeby Ameryka w Iraku i Afganistanie mogła zrobić jeszcze większą rzeź niż juz jest...
  • 1

#6

Gromisek.
  • Postów: 26
  • Tematów: 0
Reputacja neutralna
Reputacja

Napisano

Komputery są coraz bardziej zaawansowane w końcu dojdą do punktu zwanego osobliwości (kiedy mogą tworzyć inne maszyny doskonalsze od siebie).I wtedy zostają opcje albo one albo my lub synbioza z nimi.
  • 1

#7

frosti.
  • Postów: 654
  • Tematów: 3
  • Płeć:Mężczyzna
Reputacja dobra
Reputacja

Napisano

Tego typu roboty nigdy nie będą używane, z prostego powodu, że będą za drogie w produkcji w stosunku do łatwości zniszczenia ich przez zwykłego ludzkiego szeregowca (który jest o wiele "tańszy" od robota).
  • 0

#8

Einsamkeit.
  • Postów: 27
  • Tematów: 1
  • Płeć:Kobieta
Reputacja neutralna
Reputacja

Napisano

Teoretycznie człowiek jest znacznie tańszy od robota, z drugiej strony robotowi się nie płaci, nie trzeba go karmić, nie męczy się, nie trzeba brać pod uwagę jego morale, żądz oraz wielu innych czynników, więc pod pewnymi względami - pomijając koszt produkcji oraz fazę programowania - jest mimo wszystko ekonomiczniejszy. Pomijając takie techniczne kwestie, należy dodać - bezdyskusyjnie podporządkuje się cudzej woli, natomiast ludzie zawsze dyskutują, roztrząsają sprawy z wielu różnych punktów widzenia, to leży w ich naturze.
Martwi fakt, że mechanizuje się niemal wszystko, w tym również tę dziedzinę, gdzie najwięcej ma do powiedzenia właśnie człowiek. Jasne, w przypadku użycia takiego żołnierza nie ma już tylu dylematów moralnych, ale to już zasadniczo podpada pod zrzucenie odpowiedzialności, a wręcz usprawiedliwienie się "ja tylko nacisnąłem przycisk, zabił robot, więc nie jestem winny, bo to tylko maszyna".

"Ma być tak, że dozwolone będą tylko takie które będą działać pod kontrolą człowieka." BrainCollector
Jednakże decyzja nie równa się z wykonaniem. Łatwiej jest dokonać wyboru na papierze bądź nacisnąć odpowiedni przycisk – wykonać osobiście rozkaz już jest trudniej, a przynajmniej tak mi się wydaje. Niektórzy może potrafią (jakoś tak przypomina mi się i kojarzy z tematem Wasilij Błochin, hm... może on też był swojego rodzaju robotem, biorąc pod uwagę kontekst tego, o czym piszę? Nie rozpatruję tu sytuacji, inna działka) lecz nie każdy jest w stanie wyłączyć uczucia oraz sumienie. Natomiast maszyna nie ma uczuć, nie ma więc wyrzutów sumienia, nie żałuje popełnionych czynów, jest tylko narzędziem do realizacji określonego celu. Wszystko się ujednolica.
W związku z tym czy nie może dojść do tego, że człowiek dla operatora robota może z czasem stać się tylko jednostką, cyfrą, przedmiotem?
(Gwoli ścisłości - pomijam kwestię robot - robot, bo jest dość oczywista. Bardziej skupiam się na robot - człowiek, co jednak może stać się możliwe. Niestety nie jestem przekazać swoich wrażeń i myśli dostatecznie jasno... nie potrafię).

Możliwość błędnego zaprogramowania lub hackingu zawsze jest również możliwa. Bardziej martwiłabym się jednak kwestią samych ludzi - na jedno wychodzi.
Nasza ułomna mentalność nie zmieniła się w ogóle. Nawet jeśli nauczyliśmy się czegoś na błędach z dawnych lat, nie oznacza, że je zapamiętaliśmy, więc możemy mieć powtórkę w nowych realiach. Tak czy inaczej wszystko zależy od człowieka - operatora i "zleceniodawcy" polecenia. Teoretycznie wojna stanie się bardziej humanitarna, lecz... i tu wracamy do punktu wyjścia - słowa - klucza "operator" lub "człowiek". Ot, taka pętla.

Zresztą, tak na marginesie, w dzisiejszych demokracjach zwolennicy użycia robotów i tak mogą się nie przejmować zdaniem tych, którzy będą mieli coś przeciwko. Dziś "nie" ma raczej marginalne znaczenie, jeśli chodzi o takie sprawy, przynajmniej tak mi się wydaje. Czyż nie jest tak, że nawet wbrew wyraźnego sprzeciwu innych, na przykład społeczeństwa, niektóre plany nadal są realizowane, tylko w większej tajemnicy, pod przykrywkami et cetera?

Jasne, mówimy o tym wszystkim w kontekście "za kilka lat", lecz do tego czasu problem nie przestanie być aktualny, a będzie się wręcz nasilał. Może piszę głupoty, może kraczę zanadto - dobrze by było.

PS. Nie mogę zacytować wypowiedzi BrainCollectora... hm...
Ach, i z góry przepraszam, jeśli moja wypowiedź jest nieprzejrzysta. Starania sobie, a efekt sobie. ;)

Użytkownik Kochanica Cara edytował ten post 30.06.2013 - 14:30

  • 1

#9

frosti.
  • Postów: 654
  • Tematów: 3
  • Płeć:Mężczyzna
Reputacja dobra
Reputacja

Napisano

Teoretycznie człowiek jest znacznie tańszy od robota, z drugiej strony robotowi się nie płaci, nie trzeba go karmić, nie męczy się, nie trzeba brać pod uwagę jego morale, żądz oraz wielu innych czynników, więc pod pewnymi względami - pomijając koszt produkcji oraz fazę programowania - jest mimo wszystko ekonomiczniejszy. Pomijając takie techniczne kwestie, należy dodać - bezdyskusyjnie podporządkuje się cudzej woli, natomiast ludzie zawsze dyskutują, roztrząsają sprawy z wielu różnych punktów widzenia, to leży w ich naturze.


Ja nadal jestem przekonany, że roboty nie zastąpią masowo żołnierzy dopóki nie będą tańsze i łatwiejsze w produkcji od bazooki.
  • 0

#10

Gromisek.
  • Postów: 26
  • Tematów: 0
Reputacja neutralna
Reputacja

Napisano

Lecz trzeba dopisać , że w miarę rozwoju technologicznego gdzie można produkować zaawansowane roboty bojowe ,które są bardzo mobilne mogą mieć wytrzymałe pancerze itp.
  • 1

#11

frosti.
  • Postów: 654
  • Tematów: 3
  • Płeć:Mężczyzna
Reputacja dobra
Reputacja

Napisano

No chyba, że te roboty były by odporne na bazooki i granatniki.

Ale trudno mi wyobrazić sobie takiego mobilnego robota, kiedy nawet czołgi nie są całkowicie odporne na rakiety.
  • 0

#12

Gromisek.
  • Postów: 26
  • Tematów: 0
Reputacja neutralna
Reputacja

Napisano

Zanim takie roboty powstaną to pewnie jeszcze duuużo czasu :D
  • 0

#13

Robakatorianin.
  • Postów: 1732
  • Tematów: 41
  • Płeć:Mężczyzna
  • Artykułów: 1
Reputacja znakomita
Reputacja

Napisano

Nie wiem w którą stronę się to rozwinie ale przypuszczam że żadna strona nie będzie chciała budować całych armii mechanicznych żołnierzy-przynajmniej na razie. Obecnie "armatnie mięso" jest bardzo tanie i mniej zawodne niż robociki ze złym algorytmem lub wirusem w oprogramowaniu. Tu bardziej chodzi o specjalnych żołnierzy którzy kosztują grube miliony-jak piloci, snajperzy itp. Ich wieloletnie szkolenie można zastąpić jakimś super robotem. Mimo wszystko taki robot bedzie nadzorowany przez człowieka-jak obecne drony.

Ten etap samodzielnych robotów jest za wczesny, najpierw powinna rozwinąć się generacja egzoszkieletów bojowych. To będzie pole doświadczalne dla samodzielnych robotów.
  • 1

#14

Gromisek.
  • Postów: 26
  • Tematów: 0
Reputacja neutralna
Reputacja

Napisano

Tak naprawdę dowiemy się w miarę upływu następnych dekad narazię wszystko zostaje w strefie spekulacji
  • 0

#15

Nick.
  • Postów: 1527
  • Tematów: 777
  • Płeć:Mężczyzna
  • Artykułów: 2
Reputacja znakomita
Reputacja

Napisano

Elon Musk domaga się od ONZ-u zakazu wykorzystywania robotów bojowych.

 

Założyciel produkującej samochody elektryczne i autonomiczne Tesli znalazł się wśród setki twórców i szefów firm technologicznych, którzy wzywają Organizację Narodów Zjednoczonych do zakazania wykorzystywania broni autonomicznej w walce zbrojnej.
 

W co najmniej kilkunastu krajach trwają prace nad rozwojem broni autonomicznej. Użycia w konfliktach zbrojnych tego rodzaju broni obawiają się przedsiębiorcy z branży technologicznej.

 

Śmiertelna broń autonomiczna może stać się trzecią rewolucją w sztuce wojennej. Gdy ta technologia zostanie rozwinięta, umożliwi ona prowadzenie konfliktów zbrojnych na skalę większą niż kiedykolwiek, będą one również rozgrywać się szybciej, niż ludzie będą to w stanie pojąć” – napisała w opublikowanym w poniedziałek otwartym liście do ONZ grupa 116 przedsiębiorców z branży robotyki i sztucznej inteligencji.

 

„To może być broń terrorystów, broń, której despoci i terroryści będą używali przeciwko niewinnej ludności, wreszcie – broń, którą będzie można zhakować, by służyła niepożądanym celom” – piszą przedsiębiorcy.

 

Przestrzegają, że trzeba działać jak najszybciej. Bo gdy ta puszka Pandory zostanie otwarta, trudno ją będzie zamknąć.

 

Kilka lat do stworzenia autonomicznej broni

 

Uważa się, że rozwój sztucznej inteligencji umożliwi powstanie autonomicznej broni w ciągu kilku lat, a nie dekad. I chociaż taka broń sprawi, że na polu walki będzie ginąć mniej żołnierzy, eksperci przestrzegają, że rządy będą jednocześnie bardziej skłonne angażować się w konflikty zbrojne, co z kolei spowoduje, że będzie ginąć więcej ludzi.

 

Środowiska biznesowe chcą, by śmiertelna broń autonomiczna została zdelegalizowana zgodnie z konwencją o zakazie lub ograniczeniu użycia pewnych broni konwencjonalnych, która weszła w życie w 1983 roku.

List otworzył konferencję poświęconą sztucznej inteligencji International Joint Conference on Artificial Intelligence, która rozpoczęła się w poniedziałek w australijskim Melbourne.

 

Niedawno ONZ zagłosowała za rozpoczęciem formalnych rozmów o broni autonomicznej, rozumianej m.in. jako drony, czołgi czy broń maszynowa. Niektóre państwa już wyraziły swój sprzeciw, stwierdzając, że nie są potrzebne nowe przepisy w tej kwestii, bo te już istniejące zapewniają wystarczającą regulację.

 

Elon Musk po raz kolejny staje się twarzą walki ze sztuczną inteligencją wykorzystywaną w niewłaściwych celach. Wiele razy powtarzał, że jest ona fundamentalnym ryzykiem dla istnienia naszej cywilizacji.


  • 0





Użytkownicy przeglądający ten temat: 0

0 użytkowników, 0 gości oraz 0 użytkowników anonimowych