Нова Пандорина кутија

РОБОТИ УБИЦЕ ДОЛАЗЕ!

Чини се да се у Уједињеним нацијама ускоро неће причати само о терористичким претњама, већ и о онима које потичу од – робота!

Власници и руководиоци више од 160 великих предузећа за примењену роботику и вештачку интелигенцију – укључујући и Илона Маска, власника „Тесла моторса”, „Пеј пала” и којечега још – потписали су отворено писмо Организацији уједињених нација. У њему захтевају да ОУН забрани даљи развој „робота-убица” – делимично или потпуно самосталних система намењених оружаним дејствима – пошто би, по њиховом мишљењу, развој те технологије могао да изазове сукобе досад невиђених размера и последица по човечанство.

Ови стручњаци сматрају да би аутоматско и интелигентно оружје могло да покрене такозвану „трећу револуцију” у ратовању која не би била ништа безначајнија од изума барута и атомске бомбе. Зато захтевају да се таква оружја ставе на листу „морално погрешних”, на којој су већ хемијско наоружање и ласери за заслепљивање.

У локвама уља

Јужна Кореја и Израел, рецимо, користе непокретне аутоматске митраљезе који могу самостално да бирају мете и испаљују муницију, иако су њихова дејства допуштена искључиво ако њима управља човек. Већ постоје назнаке тога да су развијене, или се развијају, наоружане беспилотне летелице и аутоматска копнена возила – машине за убијање које ће за самостална ватрена дејства бити способне за највише неколико година.

Но, власти многих земаља не слажу се с мајсторима за роботе: Министарство спољних послова Велике Британије, рецимо, супротставило се забрани развоја овог наоружања 2015. године, уз образложење да су „међународни закони већ довољно строги у вези с тим питањем”. Предочен је и документ у коме Министарство одбране јемчи да ће „британски оружани системи увек бити под надзором људи”. Но, оно што плаши јесте то што нигде није тачно одређено шта је заправо тај „надзор људи”.

Уколико ускоро не буде скован и усвојен неки међународни план, много је вероватније да ће интелигентни роботи убице ускоро преплавити ратишта убијајући све што се налази иза линије ватре него да ће неки оператери моћи да управљају дивизијама ратних машина одлучујући шта је морално, а шта не у сваком појединачном случају. Кад на ратиштима буду лежали интелигентни роботи у локвама уља, можда ни расплет из „Терминатора” није далеко...

У војној доктрини САД пак усвојено је следеће виђење „терминаторског” изазова: „Аутономни оружани системи биће стварани тако да омогућавају заповедницима и оператерима да употребе сврсисходну дозу људског расуђивања приликом употребе силе.” „Сврсисходну” дозу?

Системи су испрва и почели да се развијају због тога што могу самостално да извиђају непријатељске положаје и дејствују без људских жртава. Шта ће се, дакле, догодити када се – као у сваком добром или лошем акционом филму – терористи докопају тог оруђа за рад? Као што добро знамо, „сврсисходно” људско расуђивање у случају терориста подразумева потпуно уништење свега што хода, а нико не би волео да види „сврсисходно” руковођење роботом са митраљезима и ракетама док шетка по некој пешачкој зони или лебди изнад дечјег игралишта.

Рат машина

У писму чија је садржина објављена на Међународној конференцији за вештачке интелигенције у Мелбурну пре неколико дана, гуруи роботике су поручили:
   „Оваква врста смртоносног оружја која ће моћи самостално да доноси одлуке  омогућиће оружане сукобе чије ће размере превазићи сваки досад познати рат, а разарања ће моћи да се одвијају брзином несхватљивом људском уму. Наоружани роботи могу да постану оружје ужаса које би властодршци, терористи и поремећене особе могли да искористе за систематско уништавање недужних људи. Ако би била хакована, таква оружја могла би, упркос најбољим намерама оператера, да почну да се понашају самостално и неочекивано. Нема још много времена за деловање. Када се Пандорина кутија једном отвори, биће је тешко поново затворити.”

ВОЈСКЕ БЕЗ ВОЈНИКА МАРШИРАЈУ

* Прошле године Пентагон је приказао чету од 103 мајушна самостална дрона, које би током ратних дејстава требало да испуштају ловачки авиони. Могли би да се искористе за самостално извиђање, навођење аутоматских артиљеријских напада или за збуњивање непријатељских радара. Најављено је да би велике беспилотне летелице попут „Рипера” дугачког 10 метара ускоро могле да буду оспособљене за самостално деловање.

 * Оружане снаге САД испробале су копнено возило без посаде за навођење пројектила (опремљено митраљезом и ракетним бацачем). Тај робот назван „Марс” тежак је 170 кг и може да се креће брзином од 11 км на час, носећи 450 метака и четири ракете с бојевим главама. Њиме се управља даљински, али се развија систем који би му омогућио самостално кретање и деловање.

 * Војска Русије развила је тенк без посаде који може да се креће брзином од 60 км на час, висок је 3 метра и наоружан топом калибра 300 мм. Носи 500 граната, митраљез са 2.000 метака и 6 противтенковских теледиригованих пројектила. „Уран-9” може да се опреми и пројектилима земља-ваздух и бацачима пламена. Засад је описан као „полуаутоматски”, а може сам да нађе пут од тачке А до тачке Б, као и мету, и да дејствује по њој.

 * „Самсунгов” модел аутономног интелигентног митраљеза „SGR-А1” развијен је у Јужној Кореји како би штитио војнике ове земље у зони без војног присуства. Кошта 200.000 долара, а опремљен је ласерским нишаном и термографским камерама (које откривају топлотно зрачење). Помоћу њих може да открије присуство људи, а потом аутоматски дејствује по њима гуменим мецима или бојевом муницијом. Могуће је даљинско управљање, или укључивање  аутоматског режима рада, али засад се испоручује верзија која ради искључиво помоћу даљинских контрола.

Илон Маск, чије предузеће „Тесла” развија возила којима неће морати да управља возач, упозорио је да ће вештачка интелигенција бити „претња за постојање људске врсте” уколико не буде обуздана строгим законима. Рајан Геријепи, оснивач „Клерпат роботикса” и потписник  писма каже:
   „Ово није никакав хипотетички сценарио, већ огромна опасност по човечанство на коју  мора одмах да се одговори.”

Захтевима које су упутили технички стручњаци прикључили су се и чувени астрофизичар Стивен Хокинг и хуманиста и филолог Ноам Чомски. Њих двојица почела су још пре две године да позивају на забрану развоја интелигентног оружја, у страху да би неки могући „рат машина” могао да превазиђе и најсмелије призоре које смо могли да видимо у научнофантастичним филмовима .