PALUBA

Rupa u zakonu. Roboti ubice ne mogu da budu osuđeni za ratne zločine
klix.ba   14.04.2015.

Ukoliko robot počini ubistvo ili ratni zločin za vreme sukoba, ko će biti odgovoran za to? U izveštaju organizacije za ljudska prava "Human Rights Watch" (HRW), nalazi se poprilično neugodan odgovor – niko neće biti odgovoran za zločine koje počine roboti.

[attachment=1]

HRW upozorava da nešto mora da se preduzme zbog trenutnog nedostatka odgovornosti u zakonu i međunarodnom pravu, a u isto vreme poziva na zabranu razvoja i upotrebe robota ubica. Organizacija će svoj izveštaj predstaviti na Međunarodnoj konferenciji o autonomnim smrtonosnim oružjima koju organizuju Ujedinjene nacije u Ženevi od 13. do 17 aprila. "Nedostatak odgovornosti ljudi znači da budući zločini neće moći biti osuđeni, tj. neće postojati niko ko bi mogao biti imenovan kao počinilac. Velike praznine u pravnom sistemu upozoravaju da vrlo brzo moramo zabraniti autonomna oružja" rekao je Boni Došerti iz HRW-a. Iako takvi roboti još uvek ne postoje, HRW tvrdi da brzina razvoja tehnologije predstavlja razlog za brigu.

Izvor: www.blic.rs

Nisam čitao tu analizu ali već na prvi pogled mi se čini dilema smiješna. Ako je u pitanju opasna stvar, a robot ubica očito jeste opasna stvar, tada odgovornost pada na vlasnika (i)ili na korisnika robota. Netko sa imenom i prezimenom ga je pustio na bojno polje i dao mu upute šta da radi.

Robot je samo oružje, baš kao puška, pištolj ili top. Inteligentno oružje, ali ipak samo oružje. Odgovornost za počinjene ratne zločine je na onome tko koristi takvo oružje. Stvar (a robot je samo stvar) nema svojstva osobe, niti ima bilo kakva prava niti dužnosti. "Suđenje robotu" je isto toliko blesavo kao i psovanje čekića kojim se netko mlatne po prstima kad kači sliku na zid.

Baš tako. Radi se o opasnoj stvari, a za nju odgovara vlasnik. Istine radi krivični zakonik ne predviđa da vlasnik opasne stvari može da čini ratne zločine, ali se zakon može dopuniti. Verujem da su upravo na tako nešto mislili, odnosno daleko blaže kazne za vlasnike "opasne stvari" nego sa počinioce raznog zločina. Međutim, ako se utvrdi namera vlasnika da opasnom stvari počini ratni zločin, onda će on odgovarati za to,a ne za delovanje opasne stvari.

Ma meni se čini da će tu biti puno prostora za kolateralnu štetu , samouništenje po obavljenom zadatku i uništavanje dokaznog materjala , itd...
Zatim ko može biti kriv za ratni zločin...čitav kontrolni centar? Govori se o tome da bi tim napravama upravljali kao u video igrici....Uostalom ko je do sada odgovarao za navođene raketne udare po civilima ? Realno počinjeni ratni zločin pravdao se kolateralom štetom.  Potpuno isti princip je u pitanju. Uostalom u čemu može biti razlika između jednog robota ubice i navođenih raketa velike preciznosti ?!!

За евентуални ратни злочин одговара лице које непосредно управља роботом тј. издаје му команде као и претпостављени том лицу по командној одговорности. Рупа у закону и међународним прописима не постоји. Дарк булет и Џумба су дали објашњење које је мало шире јер у опасне ствари поред робота спадају и животиње, аутомобили, плинске боце, грађевинске машине и др. Поред тога треба разликовати грађанску од кривичне одговорности, али ако се задржимо на пољу ратног и међународног кривичног права јасно је ко одговара и на који начин.

@longtrip

Разлика је у томе што робот има већу аутономију одлучивања од ракете. Претпостављам да си мислио на врсту вештачке интелигенције коју би роботи могли у будућности да поседују и помоћу које би могли да доносе одлуке на бојном пољу. За њих би у сваком случају одговарало лице које их је упутило на задатак и издало им наређење да изврше крив. дело ратног злочина, а и да не постоји тако наређење опет би претпостављени одговарао ако не би учинио све да спречи извршење дела.

Onaj koji ga je programirao i poslao na bojno polje mora da odgovara i za eventualne svinjarije, jednostavno i prosto. Osim toga mora da postoji čovek u svemu tome koji će direktno nadgleati robota i izdavati mu komande, mada je sve ovo u velikoj suprotnosti sa zakonima robotike...ali ko još mari za to. ::)

I закон - Робот не сме повредити људско биће нити устезањем од делања дозволити да оно буде повређено.
II закон - Робот се мора повиновати наређењима које добија од људских бића изузев када су она у супротности са I законом.
III закон - Робот мора штитити своју сопствену егзистенцију изузев у случају када је та заштита у супротности са I и II законом.

Tzv. "zakoni robotike" ne postoje nigdje osim u djelu Isaaca Asimova "Ja, robot".

Velika je šteta što se tim "zakonima robotike" uopće posvećuje pažnja, jer kod neupućenih izazivaju lažnu nadu, da negdje netko na to pazi i ugrađuje ili će ugrađivati u robote.

Robot radi prema programu sa manje ili više "inteligencije", vođen senzorima i uputama. Za konstruktore je itekako problem čak i "friendly fire", jer niti sistem prepoznavanja prijatelj-neprijatelj nije bezgrešan.

Slažem se u potpunosti sa predhodnicima u diskusiji.Međutim,nisam siguran da li će ovo shvatiti dovoljan broj ljudi ili bar onaj koji bi to trebao shvatiti.
Prvo shvatanje "inteleigencije" kao pojma kod ljudi je nejasno.Iz ovoga proističe i "veštačka inteligencija" kao neshvatljiv problem.Istina može se to svesti na  način pravljenja programa gdje računar rješava problem,sam na osnovu njemu poznatih podataka.To ipak zavisi od čovjeka kako ga je isprogramirao(sa svim nedostacima šta da izabere i da čemu da prijoritet)da li za pozitivne ili negativne potrebe.Ali taj čovjek koji je isprogramirao ili koristi "robota" možda više i nije među živima ili u datom momentu i ne "vlada"robotom.Dakle čovjek jeste stvorio i pozitivne i negativne stvari ali ne mora biti u određenom vremenu i fizički prisutan a onda zakoni ne važe.
Imate primere i bez robota na pr, upotreba zabranjenih oružja(kas.bombe,radio akt.municiju,hemijsko,biološko oružje itd.)i što tu međunarodno ili čak i lokalno pravo čine (mogu).Dakle,možda sam i prestrog,ali Pravo i zakoni su danas svedeni na obično "trućanje".Tko je kriv za sve ovo sigurno da je odgovor,Ljudi,ali ne svi nego samo oni koji imaju moć.Često a u zadnje vrijeme gotovo po pravilu,oni nemaju dovoljno inteligencije da shvate što rade a misle da imaju "Božansku" inteligenciju.

Poz.

Sve u svoje vreme. Svako vreme nosi nešto novo, pa i kod zločina. Ljudi će odgovarati na te izazove, ali, kao što to kod pravde uvek biva sa zakašnjenjem. Prvo nastane neko (ne)delo (desi se kao događaj), pa se tek posle to (ne)dele propiše (i opiše) kao krivično delo i potom sankcioniše. "Nema kazne bez zakona".

Овде једноставно не постоји рупа у прописима што домаћим што међународним. Ако узмемо да је робот опасна ствар, његов власник би одговарао за штету ако не би посветио повишену пажњу приликом његовог употребљавања или чувања. Обична пажња као правни стандард није довољна да би дошло до ослобођења од одговорности. У овом случају говоримо о грађанској одговорности за штету која није предмет расправе из чланка, али није на одмет да споменем и то. Са друге стране ако би неко користио робота у ратним операцијима одговарао би за његову употребу као за употребу сваког другог оружија јер робот сам по себи представља само ствар тј. оружије и нема процесну способност.

Животиње су нпр. жива бића, али их право гледа као ставри. Њих исто можете да употребљавате у војне сврхе за извршење многих задатака. Руси су користили псе самоубице опасане експлозивом који су уништавали немачке тенкове, делфини се користе у ратној морнарици итд. Свака животиња има одређени степен интелигенције и способност некаквог расуђивања, али опет не може им се судити. Пред суд можете да изведете само лице које је непосредно било задужено за те псе у смислу да их је дресирало или одлучивало о њиховој употреби и начину употребе у одређеном задатку како по комадној тако и по обичној кривичној одговорности.

I pored svih razmišljanja izrečenih do sada,ostajem pri stavu da se uvođenjem robotizovanog oružja samo stvara veći jaz, u bilo kom budućem pravno zakonskom postupku kod dokazivanja krivice po ratnom pravu.U mnogim tekstovima zapadnih stručnjaka ili novinara upravo  usavršavanje softvera koji bi omogućili veću autonomnost robota, u bilo kojoj akciji sa smrtnim ishodom samo bi dovela do većeg broja osumnjičenih koji bi se krili iza tehničkih grešaka bilo koje vrste.Ostaje samo da tužite kompaniju koja je napravila robota i možda tako naplatite nekakvu odštetu....

To, naravno, ne stoji, jer je robot oružje, a bar za sada još nitko nije za ratne zločine tužio proizvođače oružja kojim su ti zločini počinjeni.

Za život je bitno da li je teorija primjenjiva u stvarnosti,inače nema neku vrijednost veću od običnog "trućanja".Pravo odnosno zakoni,imaju toliku vrijednost koliko se primjenjuju u životu.
Na primjer iz najbliže naše prošlosti upotreba kasetnih bombi ili municije sa obogaćenim uranijumom pa čak tomahavk ili bilo koja raketa,mogu se zamisliti zajedno sa na pr.avionom,brodom itd.,kao "inteligentni robot".Koliko je prošlo vrijemena od 1999-te,koliko sada recimo Klark ima godina,a koliko će  još proteći vremena dok mu ne budu sudili(ako to ne bude beskonačno i zaboravljeno).Čovjek  koji je upravljao oružjem je nestao.Čemu zakoni ako su ne primjenljivi.I na međunarodno a bogami i na državnom planu(jer ne vidim da su se nešto pretgrli naši sudovi i da mu sude  a kamoli da ga uhapse).Ovo isto važi i za "robote- zločince" jer će ih imati samo tehnološki i vojno jake zemlje.Kad oni dođu do "sitnih boranija ",ovi jaki će izmisliti zakone da to važi,ali ne i za njih.Sjetite se kako je pravljen "Pravi međunarodni sud"tjerane su sve države da ga priznaju ali nisu smjeli tražiti da to recimo važi i za SAD.Koliko znam boginja pravde je sa povezom na očima.

Poz.

Одговорност произвођача постоји. Ако је производ имао недостатак и ако  постоји узрочна веза између производа са недостатком и претрпљене штете постоји право оштећеног да му се надокнади штета. Произвођач одговара и у случају када штети делимично допринесе и треће лице. Е сад што се тиче ратних злочина и сл. ставр стоји мало сложеније. По мом мишљењу власник тј. командант робота био би одговоран ако би употребио проблематичне роботе у борби знајућу за њихове недостатке (као нпр. немогућност распознавања цивила од бораца).

 

Evo kako razmišljaju drugi o tome ,novinari,profesori prava,stručnjaci iz te oblasti ..uopšte ljudi u čijim zemljama se proizvodi i razvija takva vrsta "oružja".Zato sam tako i naveo u predhodnom postu.

www.independent.co.uk (http://www.independent.co.uk/life-style/gadgets-and-tech/news/killer-robots-no-one-liable-if-future-machines-decide-to-kill-says-human-rights-watch-10165653.html)

http://www.wsj.com/articles/SB10001424052702304655104579163361884479576

Can Killer Robots Learn to Follow the Rules of War? (http://www.smithsonianmag.com/innovation/can-killer-robots-learn-follow-rules-war-180951581/)

Military Robots and the Laws of War (http://www.thenewatlantis.com/publications/military-robots-and-the-laws-of-war)

Karlo, pitanje koje otvaraš je staro kao samo ratovanje, a to je, da obično pobjednik sudi poraženom. Ili kao što bi rekao Grunf, ako želiš pobijediti ne smiješ izgubiti.

@longtrip

Прочитао сам сва четири текста која си поставио.

Из наведеног стоји да роботи који су тренутно уведени у оперативну употребу у оружаним снагама земаља широм света нису довољно ''свесни'' и немају довољно високу вештачку интелигенцију да би моментално морали да се забринемо за њихов начин одлучивања јер првенствено људи одређују кога ће те машине да елиминишу. Видео сам овај корејски аутоматизовани топ који се користи на граници две Кореје. У суштини човек је тај који даје одобрење тј. његова је последња. Е сада ако би робот убио недужно лице радило би се вештачење да ли је тхеника заказала у једном моменту и са коликом пажњом је командант приступио целој акцији те би се тако установила кривица. У сваком случају одговорност лежи на ономе ко издаје наређења да се робот употреби.

Доносим закључак да се правници, старешине и научници плаше не шта би сада роботи могли да ураде већ шта ће радити у будућности када буду стекли већи степен аутономије и већу моћ расуђивања. Да ли ће то тада право еволуирати и дозволити да се роботи појављују у својству странке или окривљеног на суду? Технолошки напредак не може да се заустави и верујем да велике силе неће одустати од развоја потпуно аутоматизованог и аутономног оружија како би смањили сопствене губитке на ратишту.

Такође упада и овај руски систем у очи који лансира ракете међуконтиненталног домета, али то је последња мера која се споровди у случају да је посада изгинула и да не може да опслужује рактени центар и управља пројектилима. У сваком случају биће свеједно када прва америчка ракета буде пала на Русију да ли је одмазду извршила посада или аутоматизован систем јер је тачка са које нема назад већ у том моменту доситгнута.

Slažem se sa Vama totalno.Međutim,vidite da i pored toga što je problem star malte kao i čovječanstvo,dobar dio i stručnih ljudi,to ne shvata. Dakle,Pravo se danas svodi na "kokošarsko"jer jedino tim sitnim i beznačajnim može suditi.Kao što sam već naveo Boginja pravde ima izgleda "proziran" povez.

Poz.

ni pas ne može biti osuđen ali može njegov vlasnik !

Sad ne nađem, ali o tome smo već pisali, kad je bila reć o dronovima. Neko (zna se ko ima najviše tehničkih mogućnosti), sprema teren, ubeđujući ljude, da su roboti samostalni. A nisu. Barem za sada, kontrolišu ih ljudi u nekoj zemlji, koji ispunjavaju zadatke. Isto tako važi I u budućnosti. Ako se već spekuliše o samostalnosti robota sa veštaćkom inteligencijom, koji bi navodno poćinili ratne zločine; zar mislite, da bi se ovakav stroj ustrućavao ne izvršiti naređenje ili čak okrenuti prema svom vlastitom gospodaru, kako bi preživeo? A je sposoban "diskriminatornog" određivanja cilje onda ima I modus preživljavanja. A taj prije ili kasnije postaje dominantan. Zbog toga će biti uvek robot pod kontrolom (barem se nadam) osim u slučaju genocide I potpunog "čiščenja" teritorija. A zapreka če mu biti okean ili dovoljno široka reka... Barem će/mo tako misliti...