Jack Clark, cofondatorul companiei Anthropic, a cerut să se asigure posibilitatea de a încetini evoluția inteligenței artificiale (IA), avertizând că tehnologia se apropie de un punct în care s-ar putea dezvolta fără intervenția umană. „Vrei să ai opțiunea de a lua piciorul de pe accelerație și de a-l pune pe frână”, a declarat Clark pentru BBC. „În acest moment, este ca și cum industria IA ar avea o pedală de accelerație, dar nu are o pedală de frână.”
El a subliniat că oamenii, prin intermediul politicilor guvernamentale, trebuie să păstreze controlul asupra sistemelor de IA, care vor deveni din ce în ce mai puternice și vor avea un impact tot mai mare asupra societății.
Lumea trebuie să se gândească la asta și, în cele din urmă, trebuie să elaborăm noi reglementări care să ne permită să avem încredere în aceste sisteme, a spus el.
Deja, popularul chatbot al Anthropic, Claude, funcționează pe baza unui cod din care 80% a fost scris de sistemul însuși. A ajunge la 100% este posibil în doi ani, a spus Clark, și „ar avea implicații uriașe”.
Clark nu a precizat cum ar putea fi creată o „pedală de frână” pentru cercetarea și dezvoltarea IA, dar a tras o paralelă între inteligența artificială, boom-ul petrolier și baronii de la începutul secolului trecut.
„Răspunsul societății a fost să elaboreze o politică și un cadru de reglementare rezonabile, care să ofere oamenilor încredere în petrol și în beneficiile pe care petrolul le-ar putea aduce lumii, și care să însemne că nu trebuie să-ți faci griji cu privire la personalitatea celor care conduc companiile”, a spus Clark. „Este clar că acolo vom ajunge și noi.”
Cu toate acestea, Anthropic a salutat săptămâna aceasta un decret prezidențial privind IA emis de președintele SUA, Donald Trump, care s-a caracterizat printr-o abordare relativ non-intervenționistă în ceea ce privește directivele adresate companiilor.
Decretul nu a impus companiilor din domeniul IA să se supună unor teste de siguranță efectuate de guvern, acest demers rămânând unul voluntar.
Marile companii din domeniul IA care urmăresc progresul tehnologic, printre care Anthropic, OpenAI și Google, nu au anunțat nici ele că își vor suspenda propriile activități de cercetare.
Clark a spus că motivația Anthropic de a discuta public despre capacitatea crescândă a tehnologiei IA nu este aceea de a-și îmbunătăți și mai mult reputația în fața clienților plătitori. El dorește pur și simplu să „spună lumii ce vedem în interiorul acestor companii cu această tehnologie neobișnuită”.
De la înființarea sa de către directorul executiv Dario Amodei, Clark și câțiva alți directori, Anthropic s-a poziționat ca o companie care vorbește deschis despre riscurile potențiale generate de IA. A ajuns chiar să se angajeze într-o dispută publică cu Departamentul Apărării al SUA, pe fondul îngrijorărilor că instrumentele sale de IA ar putea fi folosite pentru supravegherea în masă a cetățenilor americani și pentru războiul autonom. Clark a precizat:
Sunt îngrijorat pentru copiii mei dacă noi, ca societate, nu purtăm o discuție serioasă despre ce înseamnă implicațiile progreselor continue ale IA. Există potențial beneficii mari. Există, de asemenea, riscuri
Clark a adăugat că unul dintre riscuri este perturbarea economiei, existând temeri că tehnologia IA precum „agenții” - în esență, roboți IA individuali care efectuează sarcini de rutină într-un mod oarecum autonom - ar putea prelua anumite locuri de muncă.
Marile companii de tehnologie au efectuat concedieri în masă în ultimul an, invocând adesea capacitatea crescândă a instrumentelor de IA de a face munca a sute sau chiar mii de ingineri software.
Clark a spus că persoanele care sunt mai creative și au mai multe și mai bune idei ar putea avea de fapt un avantaj față de tehnologia IA.
„Există întrebări deschise cu privire la faptul dacă sistemele de IA pot fi cu adevărat creative... nu există încă dovezi concrete în acest sens”, a adăugat el. „La Anthropic, suntem acum limitați mai mult de capacitatea de a genera idei bune decât de capacitatea de a realiza ingineria necesară pentru a transforma aceste idei în realitate.”
Cu toate acestea, Clark a sugerat ca un tânăr care ar putea avea impresia că într-o economie bazată pe IA nu există un loc pentru el ar trebui să-și „dezvolte un hobby” și să urmeze studii în domeniul artelor liberale.
„Oamenii creativi, capabili să gândească în perspectivă, cei care citesc mult și cei care au diverse interese sunt cei care vor beneficia cel mai mult de acest lucru”, a afirmat Clark. „Lasă-te purtat de curiozitate și vei culege roadele atunci când vei ști cum să folosești această tehnologie.”
Citește și:
Avertisment din Japonia: țara ar putea deveni „o colonie AI” dacă pierde cursa tehnologică
Editor : C.A.
