Un fost angajat Google avertizează că "roboții ucigași" ar putea porni un război și comite atrocități

robot din transformers
Foto: Gettyimages

O nouă generație de arme autonome sau "roboți ucigași" ar putea porni accidental un război sau cauza atrocități în masă, avertizează un fost inginer software de la Google, informează The Guardian.

Laura Nolan a demisionat de la Google anul trecut, după ce a fost trimisă să lucreze la un proiect care avea ca scop îmbunătățirea tehnologiei dronelor armatei SUA. Acum, ea cere ca toate armele cu inteligență artificială și fără operator uman să fie interzise.

Spre deosebire de dronele militare, care sunt controlate de personal specializat de la mii de kilometri distanță, roboții ar putea face lucruri grave "pentru care nu au fost programați".

"Probabilitatea unui dezastru este direct proporțională cu numărul acestor mașini aflate în același loc la un anumit moment. Pot apărea atrocități și crime, chiar și pe timp de război, în special dacă sunt trimise în același loc sute de mii de astfel de roboți", a spus Laura Nolan.

Google a recrutat-o pe Nolan pentru Proiectul Maven în 2017, după ce fusese angajată anterior la companie alți patru ani și devenise unul dintre cei mai buni ingineri software din Irland ai companiei.

"S-ar putea produce accidente la scară largă pentru că acești roboți vor începe să se comporte în moduri neprogramate anterior. De aceea aceste sisteme avansate de armament ar trebui să fie controlate de oameni, altfel ar trebui interzise pentru că sunt prea imprevizibile și perioculoase", a mai spus Nolan.

Nolan a povestit cum a devenit "foarte îngrijorată din punct de vedere etic" de rolul său în proiect, care al cărui scop era să ajute Departamentul american al Apărării să dezvolte mai rapid o tehnologie de recunoaștere video pentru drone.

Potrivit acesteia, în loc să folosească un număr mare de operatori care să urmărească filmările efectuate de drone cu potențiale ținte, lor li s-a cerut să dezvolte un sistem în care inteligența artificală ar putea diferenția oamenii și obiectele mult mai rapid.

Proiectul Maven a fost abandonat anul acesta, după ce peste 3.000 de angajați Google au semnat o petiție.

"În calitate de inginer de fiabilitate, rolul meu era să mă asigură că sistemele și infrastructurile noastre erau în funcțiune, iar asta era contribuția mea la Maven. Deși nu am fost direct implicată în creșterea vitezei cu care se făcea recunoașterea video, am realizat că făceam parte din lanțul crimei; că asta va duce ulterior la oameni uciși de armata SUA în țări precum Afganistan", a spus Nolan.

Deși a părăsit Proiectul Maven, Nolan este de părere că dezvoltarea armelor autonome prezintă un risc mult mai ridicat pentru omenire decât cel produs de drone telecomandate.

Ea a subliniat că factori externi, precum vremea sau incapacitatea roboților de a desluși comportamentul complex al oamenilor, ar putea interfera cu programarea acestora, cu posibile consecințe fatale.

"Ai putea avea un scenariu în care armele autonome care au fost trimise într-o misiune se confruntă cu situații neașteptate: condiții meteorologice neprevăzute care nu au fost incluse în sistem sau întâlnirea unui grup de oameni înarmați care vânează. Roboții nu au discernământul să facă diferența între situații", a mai declarat Nolan.

Editor web: Vlad Mironescu

Partenerii noștri
Confidenţialitatea ta este importantă pentru noi. Vrem să fim transparenţi și să îţi oferim posibilitatea să accepţi cookie-urile în funcţie de preferinţele tale.
De ce cookie-uri? Le utilizăm pentru a optimiza funcţionalitatea site-ului web, a îmbunătăţi experienţa de navigare, a se integra cu reţele de socializare şi a afişa reclame relevante pentru interesele tale. Prin clic pe butonul "DA, ACCEPT" accepţi utilizarea modulelor cookie. Îţi poţi totodată schimba preferinţele privind modulele cookie.
Da, accept
Modific setările
Alegerea dumneavoastră privind modulele cookie de pe acest site
Aceste cookies sunt strict necesare pentru funcţionarea site-ului și nu necesită acordul vizitatorilor site-ului, fiind activate automat.
- Afișarea secţiunilor site-ului - Reţinerea preferinţelor personale (inclusiv în ceea ce privește cookie-urile) - Reţinerea datelor de logare (cu excepţia logării printr-o platformă terţă, vezi mai jos) - Dacă este cazul, reţinerea coșului de cumpărături și reţinerea progresului unei comenzi
Companie Domeniu Politica de confidenţialitate
RCS&RDS S.A. digi24.ro Vezi politica de confidenţialitate
prv_level, civicCookieControl, m2digi24ro, stickyCookie
Google Analytics google.com Vezi politica de confidenţialitate
_ga, _gid, _gat, AMP_TOKEN, _gac_<property-id>, __utma, __utm, __utmb, __utmc, __utmz, __utmv
CXENSE cxense.com Vezi politica de confidenţialitate
cX_S, cX_P, gcks, gckp, _cX_segmentInfo, cX_T
Google IDE google.com Vezi politica de confidenţialitate
IDE
Vă rugăm să alegeţi care dintre fişierele cookie de mai jos nu doriţi să fie utilizate în ce vă priveşte.
Aceste module cookie ne permit să analizăm modul de folosire a paginii web, putând astfel să ne adaptăm necesității userului prin îmbunătățirea permanentă a website-ului nostru.
- Analiza traficului pe site: câţi vizitatori, din ce arie geografică, de pe ce terminal, cu ce browser, etc, ne vizitează - A/B testing pentru optimizarea layoutului site-ului - Analiza perioadei de timp petrecute de fiecare vizitator pe paginile noastre web - Solicitarea de feedback despre anumite părţi ale site-ului
Companie Domeniu Politica de confidenţialitate
CrazyEgg crazyegg.com Vezi politica de confidenţialitate
ce2ab, ce_login, ceac, sid, _ceir, is_returning, _CEFT, ceg.s, ceg.u, __ar_v4, __distillery, __zlcmid, __zprivacy, _ga, _gat, ki_r, ki_s, ki_t, ki_u, km_ai, km_lv, km_ni, km_uq, km_vs, kvcd, optimizelyBuckets, optimizelyEndUserId, optimizelyPendingLogEvents, optimizelySegments
CXENSE cxense.com Vezi politica de confidenţialitate
cx_profile_timeout, cx_profile_data
Aceste module cookie vă permit să vă conectaţi la reţelele de socializare preferate și să interacţionaţi cu alţi utilizatori.
- Interacţiuni social media (like & share) - Posibilitatea de a te loga în cont folosind o platformă terţă (Facebook, Google, etc) - Rularea conţinutului din platforme terţe (youtube, soundcloud, etc)
Companie Domeniu Politica de confidenţialitate
Facebook facebook.com Vezi politica de confidenţialitate
a11y, act, csm, P, presence, s, x-referer, xs, dpr, datr, fr, c_user
Youtube youtube.com Vezi politica de confidenţialitate
GED_PLAYLIST_ACTIVITY,APISID, GEUP, HSID, LOGIN_INFO, NID, PREF, SAPISID, SID, SSID, SIDCC, T9S2P.resume, VISITOR_INFO1_LIVE, YSC, dkv, s_gl, wide
Twitter twitter.com Vezi politica de confidenţialitate
_twitter_sess, auth_token, lang, twid, eu_cn, personalization_id, syndication_guest_id, tfw_exp
Aceste module cookie sunt folosite de noi și alte entităţi pentru a vă oferi publicitate relevantă intereselor dumneavoastră, atât în cadrul site-ului nostru, cât și în afara acestuia.
- Oferirea de publicitate în site adaptată concluziilor pe care le tragem despre tine în funcţie de istoricul navigării tale în site și, în unele cazuri, în funcţie de profilul pe care îl creăm despre tine. Facem acest lucru pentru a menţine site-ul profitabil, în așa fel încât să nu percepem o taxă de accesare a site-ului de la cei care îl vizitează. - Chiar dacă astfel de module cookie nu sunt utilizate, te rugăm să reţii că ţi se vor afişa reclame pe site-ul nostru, dar acestea nu vor fi adaptate intereselor tale. Aceste reclame pot să fie adaptate în funcţie de conţinutul paginii.
Companie Domeniu Politica de confidenţialitate
Google DFP google.com Vezi politica de confidenţialitate
__gads, id, NID, SID, ANID, IDE, DSID, FLC, AID, TAID, exchange_uid, uid, _ssum, test_cookie, 1P_JAR, APISID, evid_0046, evid_0046-synced
Trimite
Vezi aici politica de confidenţialitate