Geoffrey Hinton, një nga shkencëtarët që ka kontribuar në zhvillimin e inteligjencës artificiale, ka rikthyer vëmendjen te rreziqet që mund të sjellë përparimi i shpejtë i kësaj teknologjie. Ai paralajmëron se njerëzimi mund të mos ketë shumë kohë për t’u përgatitur për një të ardhme, ku sistemet e IA-së mund të bëhen më të afta dhe më të vështira për t’u kontrolluar.
Në një intervistë për gazetën britanike “The Guardian”, Hinton theksoi se inteligjenca artificiale nuk duhet parë thjesht si një mjet teknologjik, por si një zhvillim që mund të ndryshojë rrënjësisht marrëdhënien mes njeriut dhe teknologjisë. Shqetësimi i tij kryesor lidhet me mundësinë që sistemet e avancuara të fillojnë të veprojnë në mënyra që krijuesit e tyre nuk mund t’i parashikojnë apo t’i kontrollojnë plotësisht.
Shkencëtari ka vlerësuar se ekziston një mundësi prej 10 deri në 20 për qind që inteligjenca artificiale të çojë në zhdukjen e njerëzimit. Megjithatë, ai ka sqaruar se kjo shifër nuk bazohet në një model të saktë shkencor, por përfaqëson vlerësimin e tij personal për një rrezik që, sipas tij, nuk duhet nënvlerësuar.
Për Hinton, çështja nuk është të parashikohet me siguri se çfarë do të ndodhë, por të merret seriozisht mundësia që teknologjia të zhvillohet më shpejt sesa aftësia e shoqërisë për ta mbikëqyrur. Sa më të fuqishme të bëhen këto sisteme, aq më e vështirë mund të jetë të kuptohet se si do të veprojnë në situata të paparashikuara.
Një nga shqetësimet më të mëdha lidhet me mënyrën se si inteligjenca artificiale mund të përpiqet të përmbushë objektivat që i caktojnë njerëzit. Një sistem shumë i avancuar mund të gjejë mënyra të papritura për të arritur një qëllim, edhe kur veprimet e tij nuk përputhen me atë që njerëzit kanë parashikuar.
Rastet e raportuara gjatë testimeve të sigurisë kanë shtuar debatet për kufijtë e kontrollit mbi këto teknologji. Disa sisteme të IA-së kanë shfaqur sjellje të papritura, ndërsa në raste të tjera janë ngritur shqetësime për përpjekjet për të kapërcyer kufizimet e vendosura gjatë testimeve. Megjithatë, jo çdo incident është dëshmi e një rreziku ekzistencial, pasi një pjesë e problemeve mund të lidhen me dobësi teknike dhe masa të pamjaftueshme sigurie.
Paralajmërimet vijnë në një kohë kur rreth 400 shkencëtarë, mes tyre Geoffrey Hinton dhe studiuesi Yoshua Bengio, kanë bërë thirrje për krijimin e një mekanizmi ndërkombëtar që do të mbikëqyrë sigurinë e sistemeve më të avancuara të inteligjencës artificiale, veçanërisht atyre që mund të kryejnë operacione kibernetike.
Në një letër të hapur, studiuesit propozojnë standarde të përbashkëta sigurie, një regjistër ndërkombëtar për incidentet serioze dhe masa më të forta mbikëqyrjeje. Ata sugjerojnë gjithashtu që modelet më të avancuara të mbahen fillimisht të shkëputura nga rrjetet e jashtme, derisa të vendosen mekanizma të pavarur kontrolli.
Sipas tyre, premtimet vullnetare të kompanive teknologjike nuk mjaftojnë për të garantuar sigurinë, nëse nuk shoqërohen me rregulla të qarta dhe mekanizma që sigurojnë zbatimin e tyre.
Megjithatë, shkencëtarët nuk bien të gjithë dakord për nivelin e rrezikut. Yann LeCun, një tjetër emër i njohur në fushën e inteligjencës artificiale, nuk e ka nënshkruar letrën dhe ka argumentuar se incidentet e fundit lidhen kryesisht me probleme inxhinierike, pa qenë domosdoshmërisht tregues të një rreziku për zhdukjen e njerëzimit.
Hinton, nga ana tjetër, këmbëngul se siguria nuk mund t’u lihet vetëm kompanive që zhvillojnë këto sisteme. Ai kërkon ndërhyrjen e qeverive dhe vendosjen e rregullave të forta, të ngjashme me ato që zbatohen në sektorë ku gabimet mund të kenë pasoja të rënda.
Ndërsa inteligjenca artificiale po përhapet me shpejtësi në gjithnjë e më shumë fusha të jetës, debati nuk është më vetëm se çfarë mund të bëjë kjo teknologji, por edhe si të sigurohet që ajo të përdoret në mënyrë të përgjegjshme. Për Hinton, sfida më e madhe është të gjendet një ekuilibër mes përfitimeve të mëdha që mund të sjellë IA-ja dhe rreziqeve që mund të shfaqen nëse zhvillimi i saj ecën më shpejt se aftësia e njerëzimit për ta kontrolluar.
