Peste 1.000 de personalităţi, majoritatea specialiștilor în inteligenţă artificială şi în robotică, avertizează asupra „roboţilor ucigaşi“ şi cer interzicerea armelor autonome.
Într-o scrisoare deschisă prezentată la Conferinţa internaţională asupra inteligenţei artificiale, care are loc la Buenos Aires, personalităţi celebre cer guvernelor lumii să interzică dezvoltarea armelor ofensive autonome, pentru a împiedica o cursă a înarmării care ar putea însemna sfârşitul nostru. Printre semnatari se află Elon Musk, celebrul PDG al constructorului de maşini electrice Tesla şi al Space X, şi astrofizicianul britanic Stephen Hawking, care a făcut deja publice îngrijorările sale privind inteligenţa artificială.
De asemenea şi co-fondatorul Apple, Steve Wozniak, lingvistul american Noam Chomsky sau Denis Hassabis, fondatorul DeepMind, o întreprindere consacrată inteligenţei artificiale, achiziţionată de Google. Scrisoarea denunţă un pericol iminent: „Inteligenţa artificială a atins un punct unde dezvoltarea de astfel de sisteme va fi – material, dar şi legal – fezabilă în câţiva ani, şi nu în decenii, şi mizele sunt importante: armele autonome au fost descrise ca a treia revoluţie în tehnica de război, după praful de puşcă şi armele nucleare”. Temerea oamenilor de ştiinţă este că SUA se lansează într-o „o cursă a armamentelor”, justificată de faptul că „înlocuirea oamenilor de către maşini permite limitarea numărului victimelor de partea celui care le deţine”. Pentru ei, „astăzi, problema-cheie a umanităţii este de a şti dacă ar trebui demarată o cursă a armamentelor dotate cu inteligenţă artificială (IA) sau împiedicarea începerii acesteia”.
Deşi „soldaţii-robot” sunt încă pe planşele de desen, progresele rapide ale puterii de calcul şi inteligenţa artificială evocă posibilitatea ca armatele să poată alinia astfel de soldaţi în termen de două decenii. Ideea armelor autonome, a ucigaşilor roboţi, este avută în vedere pentru că astfel de arme ar oferi un avantaj crucial contra unui adversar: desfăşurarea soldaţilor robotizaţi nu ar pune în pericol trupele unei ţări. Armele autonome sunt ideale pentru misiuni ca asasinate, destabilizarea naţiunilor, supunerea populaţiilor şi uciderea selectivă a unui grup etnic.
Mai periculoase decât arma nucleară
Inteligenţa artificială este „potenţial mult mai periculoasă decât armele nucleare”, arată Elon Musk, în timp ce Stephen Hawking susţine că inteligenţa artificială (IA) este „cea mai mare ameninţare existenţială a noastră”. Dronele sau rachetele teleghidate pot continua să patruleze în spațiul aerian dar soldaţii umani sunt cei care iau deciziile. În schimb, dezvoltarea armelor autonome trebuie stopată. „Dacă o putere militară de prim-plan începe să investească în arme autonome, o cursă a armamentelor va fi virtual inevi-tabilă şi finalitatea acestei traiectorii tehnologice este evidentă – armele autonome vor deveni mitralierele Kalaşnikov de mâine”.
Tragedie pentru umanitate
Armamentul în IA şi în robotică ar fi revoluţionar şi uşor accesibil, dar ar fi, evident, o tragedie pentru umanitate. O astfel de escaladă ar fi „inevitabilă” şi, dacă o putere militară se lansează în acest domeniu şi, „contrar armelor nucleare, acestea nu vor necesita nici un material de bază costisitor sau dificil de obţinut”, „nu ar fi decât o problemă de timp înainte ca ele să apară pe piaţa neagră şi în mâinile teroriştilor, a dictatorilor care doresc să controleze populaţiile şi a seniorilor războiului care doresc perpetuarea unei epurări etnice”, denunţă semnatarii scrisorii.
Textul nu se vrea acuzator la adresa inteligenţei artificiale. Cercetătorii care l-au semnat subliniază însă că o astfel de aplicaţie a IA ar putea umbri această zonă de cercetare şi ar putea crea o „respingere majoră de către marele public a IA, ceea ce ar tăia toate beneficiile societăţilor viitoare”. Problema interzicerii „armelor letale autonome” a făcut obiectul unei reuniuni ONU în aprilie.
» Raportorul special al ONU, Christof Heyns, pledează de peste doi ani pentru un moratoriu asupra dezvoltării armelor letale autonome, aşteptând adoptarea unui cadru juridic.
