Sari la conținut

Roboții militari, o amenințare pentru omenire. Cristian Român: Arma ia decizia de una singură dacă e dotată cu inteligență artificială

„Tendința e clară: roboți și drone. Avem drone care chiar au efectuat misiuni de luptă acum câteva zile. Israelul a desfășurat niște drone pentru a lichida niște presupuși teroriști. Dar avem de-a face acolo cu niște roboți care execută niște comenzi date de un operator uman. Toți roboții pe care-i vedem acum la televizor, avioanele fără pilot care execută chiar misiuni de luptă, execută niște programe dinainte stabilite. Problema care stârnește îngrijorarea nu sunt aceste drone, nu sunt acești roboți militari. Ei există deja și chiar au dus la mai puține pierderi omenești. Aceste mașini sofisticate de luptă pot să lovească ținte cu precizie extremă și pierderile colaterale sunt în acest fel minimizate. Dar problema care apare este tendința de a se crea roboți echipați cu ceea ce se numește inteligență artificială, roboți capabili să ia singuri decizii, roboți autonomi, practic”, spune Cristian Român.

În acest caz, operatorul uman practic nu mai intervine. I se dă robotului o misiune oarecare, supraveghează o zonă și execută misiunea respectivă. Ei vor putea să ia decizii singuri. Aici apare pericolul. Iar pericolul nu vine din faptul că sunt echipați cu inteligență artificială, ci din faptul că ei pot prolifera foarte repede. Spre deosebire de o armă nucleară sau o rachetă din acestea sofisticate, care nu pot fi construite de amatori, drone echipate cu inteligență artificială, în momentul în care tehnologia va fi pusă la punct, vor putea fi construite de aproape oricine și vor putea să ia singure decizii, a subliniat specialistul.

Avertismentul oamenilor de știință transmis în urmă cu câteva zile se referea la roboții militari. Inteligența artificială în sine ar putea să reprezinte un salt pentru civilizația umană. Din punctul acesta de vedere, sunt optimist, spune Cristian Român.

Specialistul este încredințat că armele echipate cu inteligență intelectuală vor fi interzise prin tratate. Human Rights Watch a pus problema încă din aprilie, dar punea o problemă mai degrabă juridică: cine e vinovat de o crimă în masă atunci când robotul ia singur decizia să facă o crimă în masă?

Armele dotate cu inteligență artificială pot să scape de sub control absolut oricând și consecințele, așa cum arăta și Stephen Hawking, ar fi fatale pentru civilizația umană, a conchis Cristian Român.

Deocamdată nu sunt informații că pe câmpul de luptă ar exista deja arme dotate cu inteligență artificială, spune Cristian Român, dar se dezvoltă avioanele fără pilot, care sunt capabile să îndeplinească misiunile pe care avioanele obișnuite le îndeplinesc și care au și o mică putere de decizie – își pot identifica singure țintele, să le angajeze, să le distrugă, dar încă nu s-a ajuns la inteligență artificială, misiunea tot timpul va fi dată de către un om. În cazul inteligenței artificiale, omul nu mai este în bucla de decizie, arma ia decizia de una singură: când intră în acțiune, ce acțiuni îndeplinește...Aici există marele risc, a punctat Cristian Român, senior editor la revista „Știință și tehnică”.