Një nga bashkëthemeluesit e kompanisë Anthropic ka ngritur idenë se kompanitë e teknologjisë mund të duhet të detyrohen me ligj të kenë një mekanizëm që mund të fikë plotësisht sistemet e inteligjencës artificiale në rast se ato bëhen shumë të rrezikshme.
Jack Clark, një nga shtatë bashkëthemeluesit e Anthropic, tha për BBC se një mekanizëm i tillë mund të bëhet pjesë e rregullave që shoqëria do të vendosë për inteligjencën artificiale në të ardhmen.
Sipas tij, laboratorët kryesorë të AI, përfshirë Anthropic, kanë tashmë mënyra të ndryshme për të ndërprerë funksionimin e sistemeve të tyre. Megjithatë, Clark ngre pyetjen nëse kompanitë duhet të kenë detyrimisht një mekanizëm të tillë dhe nëse ai duhet të kontrollohet edhe nga një palë e tretë.
Ai argumenton se nuk duhet të mjaftojë vetëm deklarata e kompanisë se një sistem mund të fiket. Sipas tij, duhet të ketë mundësi që një palë e pavarur të verifikojë nëse mekanizmi funksionon realisht.
Deklaratat vijnë në një kohë kur shqetësimet për sigurinë e inteligjencës artificiale janë rritur, ndërsa kompanitë po zhvillojnë sisteme gjithnjë e më të avancuara.
CEO i Anthropic, Dario Amodei, ka paralajmëruar gjithashtu për rreziqet e mundshme të AI dhe ka kërkuar më shumë monitorim të teknologjisë.
Në debat janë përfshirë edhe studiues të tjerë. Studiuesi i Anthropic, Evan Hubinger, ka deklaruar se personalisht e vlerëson mbi 10 për qind mundësinë që AI të shkaktojë zhdukjen e njerëzimit gjatë dekadës së ardhshme. Ndërsa shkencëtari Geoffrey Hinton ka thënë se një mundësi prej 10 për qind për një skenar të tillë nuk është e paarsyeshme.
Clark nuk dha një vlerësim të tijin për këtë rrezik, duke thënë se statistika të tilla nuk janë shumë të dobishme. Megjithatë, ai paralajmëroi se zhvillimi i inteligjencës artificiale pa rregulla dhe kufizime mund të sjellë rreziqe serioze.
Në Shtetet e Bashkuara është propozuar gjithashtu një projektligj i njohur si Kill Switch Act, i cili do t’u kërkonte kompanive të kishin mundësi për të mbyllur sistemet problematike të AI dhe do t’u jepte disa agjencive qeveritare autoritet për të kërkuar fikjen ose kufizimin e tyre.
Ndërkohë, në Britani qeveria ka kundërshtuar krijimin e një mekanizmi kombëtar për fikjen e AI, duke argumentuar se një masë e tillë nuk do të ndalonte zhvillimin apo keqpërdorimin e teknologjisë jashtë vendit.
Debati mbetet i hapur, por një gjë është e qartë: ndërsa inteligjenca artificiale po bëhet gjithnjë e më e fuqishme, po shtohet edhe diskutimi se kush duhet të ketë kontrollin për ta ndalur atë në rast se paraqet rrezik.
