Për ca kohë, disa punonjës të DeepMind iu referuan asaj si “Watermelon”. Më vonë, drejtuesit e quajtën atë “Mario”. Të dy emrat e kodit nënkuptonin të njëjtën gjë: një plan sekret për t’u shkëputur nga kompania mëmë Google.
DeepMind kishte frikë se Google një ditë mund të keqpërdorë teknologjinë e saj dhe drejtuesit punuan të distancojnë firmën e inteligjencës artificiale nga pronari i saj për vite me radhë, thanë nëntë punonjës aktualë dhe ish-punonjës, të cilët ishin të njohur drejtpërdrejt me planet.
Kjo përfshin planet për të ndjekur një status të pavarur ligjor që do të distanconte punën e grupit nga Google, thanë njerëzit, të cilët kërkuan të mos identifikoheshin duke diskutuar çështje private.
Një tension thelbësor në DeepMind ishte se ai e shiti biznesin tek njerëzit të cilëve nuk u besonte, tha një ish-punonjës. “Gjithçka që ka ndodhur që nga ajo pikë ka pasur të bëjë me faktin që ata që e vënë në dyshim atë vendim,”-shtoi personi.
Përpjekjet për të ndarë DeepMind nga Google përfunduan në prill pa një marrëveshje, raportoi The Wall Street Journal. Negociatat shumëvjeçare, së bashku me tronditjet e fundit brenda sektorit të Inteligjencës Artificiale të Google, ngrenë pyetje nëse gjiganti i kërkimit mund të ruajë kontrollin mbi një teknologji kaq vendimtare për të ardhmen e saj.
“Partneriteti i ngushtë i DeepMind me Google dhe Alphabet që nga blerja ka qenë jashtëzakonisht i suksesshëm – me mbështetjen e tyre, ne kemi arritur përparime kërkimore që transformuan fushën e AI dhe tani po zhbllokojnë disa nga pyetjet më të mëdha në shkencë,” tha një zëdhënës i DeepMind në një deklaratë. “Me kalimin e viteve, natyrisht ne kemi diskutuar dhe eksploruar struktura të ndryshme brenda grupit të Alfabetit për të gjetur mënyrën optimale për të mbështetur misionin tonë kërkimor afatgjatë. Ne nuk mund të jemi më krenarë që po e kryejmë këtë mision të jashtëzakonshëm, ndërsa vazhdojmë të kemi si autonominë operacionale ashtu edhe mbështetjen e plotë të Alphabet.“
A qëndron për Alfabetizimin
Kur Google bleu DeepMind në 2014, marrëveshja u pa si fitore. Google mori një organizatë kërkimore kryesore të Inteligjencës Artificiale, dhe DeepMind, në Londër, fitoi mbështetje financiare për kërkimin e saj për të ndërtuar AI që mund të mësojë detyra të ndryshme ashtu siç bëjnë njerëzit, e njohur si inteligjenca e përgjithshme artificiale.
Por tensionet u shfaqën shpejt. Disa punonjës përshkruan një konflikt kulturor midis studiuesve që e panë veten së pari si akademikë dhe burokracinë ndonjëherë të fryrë të biznesit kolosal të Google. Të tjerët thanë se stafi ishte menjëherë i shqetësuar për vënien e punës së DeepMind nën kontrollin e një gjiganti të teknologjisë. Për ca kohë, disa punonjës u inkurajuan të komunikojnë duke përdorur aplikacione të mesazheve të koduara nga frika se Google do të spiunonte punën e tyre.
Në një moment, drejtuesit e DeepMind zbuluan se puna e publikuar nga grupi i brendshëm kërkimor i Google për AI i ngjante disa prej bazave të kodit të DeepMind pa citim, tha një person i njohur me situatën. “Kjo e zemëroi Demisin,” shtoi personi, duke iu referuar Demis Hassabis, CEO i DeepMind. “Kjo ishte një arsye që DeepMind filloi të mbronte më shumë kodin e tyre.”
Pasi Google u ristrukturua si Alphabet në 2015 për t’i dhënë projekteve më të rrezikshme më shumë liri, udhëheqja e DeepMind filloi të ndiqte një status të ri si një sektor i veçantë nën Alphabet, me deklaratën e vet të fitimit dhe humbjes, raportoi The Information.
DeepMind tashmë gëzonte një nivel të lartë të pavarësisë operacionale brenda Alphabet, por grupi donte gjithashtu autonomi ligjore. Dhe u shqetësua për keqpërdorimin e teknologjisë së tij, veçanërisht nëse DeepMind do të arrinte ndonjëherë AGI.
Brenda, njerëzit filluan t’i referoheshin planit për të fituar më shumë autonomi si “Watermelon”, thanë dy ish-punonjës. Projekti më vonë u emërua zyrtarisht “Mario” midis udhëheqjes së DeepMind, thanë këta njerëz.
“Perspektiva e tyre është se teknologjia e tyre do të ishte shumë e fuqishme për t’u mbajtur nga një kompani private, kështu që duhet të vendoset në ndonjë person tjetër juridik të shkëputur nga interesi i aksionarëve,” tha një ish-punonjës i cili ishte afër negociatave të Alphabet. “Ata e përcaktuan atë si “kjo është më mirë për shoqërinë”.”
Në vitin 2017, në një tërheqje të kompanisë në Macdonald Aviemore Resort në Skoci, udhëheqja e DeepMind u zbuloi punonjësve planin e saj për t’u ndarë nga Google, thanë dy persona të pranishëm.
Në atë kohë, udhëheqja tha se kompania planifikonte të bëhej një “kompani me interes global”, thanë tre persona të njohur me këtë çështje. Titulli, jo një status ligjor zyrtar, kishte për qëllim të pasqyronte pasojat në mbarë botën që DeepMind besonte se teknologjia e tij do të kishte.
Më vonë, në negociatat me Google, DeepMind ndoqi një status si një kompani e kufizuar me garanci, një strukturë korporative pa aksionarë që ndonjëherë përdoret nga jofitimprurësit. Marrëveshja ishte që Alphabet do të vazhdonte të financonte firmën dhe do të merrte një licencë ekskluzive për teknologjinë e saj, thanë dy persona të përfshirë në diskutime. Kishte një kusht: Alphabet nuk mund të kalonte disa vija të kuqe etike, të tilla si përdorimi i teknologjisë DeepMind për armë ushtarake ose mbikëqyrje.
Në vitin 2019, DeepMind regjistroi një kompani të re të quajtur DeepMind Labs Limited, si dhe një kompani të re mbajtëse, treguan regjistrimet në Shtëpinë e Kompanive në Mbretërinë e Bashkuar. Kjo u bë në pritje të ndarjes nga Google, thanë dy ish-punonjës të përfshirë në ato regjistrime.
Negociatat me Google kaluan majat dhe luginat me kalimin e viteve, por morën një vrull të ri në vitin 2020, tha një person. Një ekip i lartë brenda DeepMind filloi të mbajë takime me avokatë të jashtëm dhe Google për të zbuluar detaje se çfarë do të thotë ky formacion i ri teorik për marrëdhëniet e dy kompanive, duke përfshirë specifikat siç janë nëse ato do të ndajnë një bazë të kodit, metrikën e brendshme të performancës dhe shpenzimet e software-t, thanë dy persona.
Udhëheqja e DeepMind dhe Google në kundërshtim me etikën e AI
Që nga fillimi, DeepMind po mendonte për dilemat e mundshme etike nga marrëveshja e tij me Google. Para mbylljes së blerjes në 2014, të dy kompanitë nënshkruan një “Marrëveshje të Rishikimit të Etikës dhe Sigurisë” që do të parandalonte Google që të merrte kontrollin e teknologjisë së DeepMind, raportoi The Economist në vitin 2019. Një pjesë e marrëveshjes përfshinte krijimin e një bordi etike që do të mbikëqyrte kërkimin.
Përkundër viteve të diskutimeve të brendshme rreth asaj se kush duhet të ulet në këtë bord dhe premtimeve të paqarta për shtypin, ky grup “kurrë nuk ka ekzistuar, kurrë nuk është mbledhur dhe nuk ka zgjidhur asnjë çështje etike”, tha një ish-punonjës pranë atyre diskutimeve. Një zëdhënës i DeepMind nuk pranoi të komentojë.
DeepMind ndoqi një ide tjetër: një bord shqyrtues i pavarur të mblidhet nëse do të ndahej nga Google, thanë tre persona të njohur me planet. Bordi do të përbëhej nga drejtues të Google dhe DeepMind, si dhe palë të treta. Ish-presidenti amerikan Barack Obama ishte dikush që DeepMind donte të afronte për këtë bord, tha një person që pa një listë të ngushtë të kandidatëve.
DeepMind gjithashtu krijoi një statut etik që përfshinte ndalime për përdorimin e teknologjisë së tij për armë ushtarake ose mbikëqyrje, si dhe një rregull që teknologjia e tij duhet të përdoret për mënyra nga të cilat shoqëria përfiton. Në vitin 2017, DeepMind filloi një njësi të fokusuar në kërkimin e etikës së AI të përbërë nga punonjës dhe bashkëpunëtorë të jashtëm kërkimor. Qëllimi i tij i deklaruar ishte “të hapë rrugën për AI vërtet të dobishëm dhe të përgjegjshëm”.
Disa muaj më vonë, një kontratë e diskutueshme midis Google dhe Pentagonit u zbulua, duke shkaktuar një trazirë të brendshme në të cilën punonjësit akuzuan Google për përfshirjen në “biznesin e luftës”.
Kontrata e Pentagonit e Google, e njohur si Project Maven, “bëri që të binin kambanat e alarmit” brenda DeepMind, tha një ish-punonjës. Më pas, Google publikoi një sërë parimesh për të qeverisur punën e tij në AI, udhëzime që ishin të ngjashme me statutin etik që DeepMind kishte vendosur tashmë brenda, duke renditur disa nga udhëheqjet e larta të DeepMind, thanë dy ish-punonjës.
Kush do të kontrollojë AI?
Në prill, Hassabis u tha punonjësve në një takim mes të gjithëve se negociatat për t’u ndarë nga Google kishin përfunduar. DeepMind do të ruajë statusin e tij ekzistues brenda Alphabet. Puna e ardhshme e DeepMind do të mbikëqyret nga Këshilli i Rishikimit të Teknologjisë së Avancuar të Google, i cili përfshin dy drejtues të DeepMind, shefin e AI të Google Jeff Dean dhe SVP legal Kent Walker.
Por beteja shumëvjeçare e grupit për të arritur më shumë pavarësi ngre pyetje në lidhje me të ardhmen e tij brenda Google.
Angazhimi i Google për hulumtimin e Inteligjencës Artificiale është vënë gjithashtu në pikëpyetje, pasi kompania ka dëbuar dy nga studiuesit e saj më të lartë të etikës në AI. Kjo çoi në një reagim të ashpër të industrisë dhe mbolli dyshime nëse mund të lejojë kërkime vërtet të pavarura.
Ali Alkhatib, një anëtar në Qendrën për Etikën e Aplikuar të të Dhënave, i tha Insider se më shumë përgjegjësi publike ishte “e nevojshme dëshpërimisht” për të rregulluar ndjekjen e AI nga kompanitë e mëdha të teknologjisë.
Për Google, investimi i tij në DeepMind mund të ketë filluar të paguhet. Në fund të vitit të kaluar, DeepMind njoftoi një përparim për të ndihmuar shkencëtarët të kuptojnë më mirë sjelljen e proteinave mikroskopike, e cila ka potencialin të revolucionarizojë zbulimin e ilaçeve.
Sa i përket DeepMind, Hassabis po mban besimin se teknologjia AI nuk duhet të kontrollohet nga një korporatë e vetme. Duke folur në Forumin Përgjegjës të AI të Tortoise në qershor, ai propozoi një “institut botëror” të AI. Një organ i tillë mund të jetë nën juridiksionin e Kombeve të Bashkuara, teorizoi Hassabis, dhe mund të mbushet me studiues kryesorë në këtë fushë.
“Është shumë më e fortë nëse udhëheq me shembull,” i tha ai auditorit, “dhe shpresoj se DeepMind mund të jetë pjesë e atij modelimi për industrinë.”
Burimi: Insider
