Diella, risi apo eksperiment i rrezikshëm dhe teatër politik

Nga “Forbes“

Muajin e kaluar, Shqipëria prezantoi një sistem të inteligjencës artificiale që do të shërbente si ministër në qeveri, një zhvillim i parë i këtij lloji nga një shtet. Lajmi erdhi si një tronditje, madje edhe për shumë njerëz që kanë qenë vëzhgues shumë të zellshëm në industrinë e inteligjencës artificiale gjatë 3 viteve të fundit.

Shqipëria, një komb ballkanik me 2.8 milionë banorë, njoftoi se figura virtuale Diella, një sistem i inteligjencës artificiale që e filloi vitin duke ndihmuar individët me dokumentacionin dixhital, do të promovohej në një pozicion në nivel kabineti për të menaxhuar prokurimet publike.

Qeveria e paraqiti atë si një sistem softuerik që do të vlerësonte tenderët vetëm në bazë të meritës, pa ryshfete, favore apo frikë. Kjo është, ose një risi botërore në antikorrupsion ose një eksperiment i rrezikshëm i mbështjellë me teatër politik. Sidoqoftë, është reale dhe e drejtpërdrejtë.

Çfarë ndryshoi në të vërtetë dhe çfarë jo

Diella nuk është ministre e financave. Është një “ministre” virtuale e fokusuar në prokurimet publike, sistemi që përcakton se kush fiton kontratat qeveritare. Roli ndërtohet mbi funksionin e mëparshëm të Diellës si asistente e qeverisjes elektronike, tani e zgjeruar në vendime që kanë pasoja serioze financiare dhe politike.

Reuters, The Guardian dhe media të tjera raportuan se IA do të marrë gradualisht përgjegjësinë për dhënien e tenderëve, me qëllim uljen e ndikimit njerëzor në një proces që shpesh lidhet me favorizimet.

Megjithatë, ajo që mbetet e paqartë është se si do të funksionojë kjo në të vërtetë. Kur një ofertues humbës vendos të sfidojë një tender, kush është përgjegjës? Kryeministri, një zyrtar njerëzor mbikëqyrës, krijuesi i Diellës apo askush fare? Deri më tani, qeveria shqiptare nuk e ka shpjeguar plotësisht se si do të trajtohet llogaridhënia.

Është gjithashtu e rëndësishme të jetë e qartë se çfarë është në të vërtetë Diella dhe çfarë nuk është. Teksa qeveria e Shqipërisë mund ta përshkruajë sistemin e IA si të drejtë dhe efikas, njerëzit janë ende ata që vendosin se cilat të dhëna përdor ajo dhe si merr vendime.

 Sepse edhe pse një sistem i IA-së nuk mund të pranojë ryshfet, njerëzit ende mund të ndikojnë në rezultatet e tij. Pra, nëse sistemi është i besueshëm varet nga mënyra se si menaxhohet, jo nga vetë teknologjia.

Pse Prokurimet Publike?

Prokurimi publik është vendi ku vendimet qeveritare përputhen drejtpërdrejt me shpenzimet. Globalisht, ai arrin në triliona dollarë çdo vit dhe shpesh përbën një pjesë të madhe të buxheteve kombëtare. Për vendet që përpiqen të rrisin ekonomitë e tyre, të zvogëlojnë korrupsionin dhe të ndërtojnë besim te investitorët ose partnerët rajonalë, rregullimi i mënyrës se si menaxhohen tenderët mund të ketë rezultate të shpejta dhe të dukshme. Kjo është arsyeja pse roli i ri i Diellës ka rëndësi. Kjo synon një nga fushat e pakta që mund të ndryshojnë vërtet mënyrën se si funksionon një qeveri.

Siç e tha Tech Policy Press, “prokurimi luan një rol të fuqishëm në formësimin e vendimeve kritike në lidhje me IA-në. Në mungesë të rregullimit federal të shitësve të IA-së, prokurimet mbeten një nga levat e pakta që qeveritë kanë për të nxitur vlerat publike, të tilla si siguria, mosdiskriminimi, privatësia dhe llogaridhënia.”

Është një pikë që vlen kudo. Qoftë në SHBA, Evropë apo Shqipëri, qeveritë që blejnë, ndërtojnë ose vendosin sisteme IA kanë të njëjtën detyrë për të vendosur standarde të qarta edhe për të mbrojtur interesin publik.

Momenti i Shqipërisë nuk ishte i rastësishëm, pasi vendi dëshiron të bashkohet me Bashkimin Evropian. Akti i IA-së i BE-së hyri në fuqi për modelet e IA-së me qëllim të përgjithshëm në gusht, dhe detyrimet e reja tashmë po fillojnë të formësojnë mënyrën se si qeveritë evropiane projektojnë dhe vendosin sisteme IA, me kërkesa më të detajuara që do të pasojnë gjatë 2 viteve të ardhshme.

Afrimi i sistemit të prokurimit të Shqipërisë me standardet e BE-së nuk ka të bëjë vetëm me reformën e brendshme – është gjithashtu një mesazh politik. Edhe nëse Diella përdor ose lidhet me modele të inteligjencës artificiale për një qëllim të përgjithshëm, do të duhet të përmbushë pritjet e BE-së për transparencë, dokumentacion dhe siguri, pavarësisht nëse Shqipëria është anëtare apo jo.

Pikat e errëta

Dy gjëra mund të jenë të vërteta njëherësh: Prokurimi algoritmik mund të zvogëlojë abuzime të caktuara dhe gjithashtu mund të prezantojë abuzime të reja. Rreziku i vërtetë nuk është vetë algoritmi, por sistemi që e rrethon atë. Nëse stafi qeveritar ose ofertuesit mund të rregullojnë në heshtje mënyrën se si vlerësohen ofertat, ose nëse të dhënat e përdorura për të trajnuar inteligjencën artificiale mbartin paragjykime, procesi nuk do të jetë më i drejtë – thjesht do të fshehë të njëjtat probleme të vjetra pas një perdeje dixhitale.

Kjo është arsyeja pse fokusi i vërtetë duhet të jetë në mënyrën se si qeveriset sistemi. Duhet të ketë rishikime të pavarura, të dhëna transparente që nuk mund të ndryshohen në fshehtësi, dokumentim të qartë se si funksionon inteligjenca artificiale, mënyra të drejta për ofertuesit për të sfiduar vendimet dhe raporte publike se si funksionon sistemi. Këto janë elementë thelbësorë që rrisin besueshmërinë e procesit.

Ekziston gjithashtu një këndvështrim demokratik që është i lehtë për t’u anashkaluar mes gjithë kësaj entuziazmi. Siç paralajmëroi në maj Instituti i Shkencës së të Dhënave i Universitetit të Kolumbias, “siguria që projektimi dhe përdorimi i këtyre mjeteve pasqyrojnë vlerat e qytetarëve dhe interesin publik është jetik për ruajtjen e legjitimitetit dhe llogaridhënies demokratike.” Vendimet e prokurimit përcaktojnë se kush ndërton rrugë, spitale dhe shkolla. Nëse qytetarët nuk i kuptojnë rregullat ose nuk mund t’i sfidojnë rezultatet, kjo gërryen besimin, edhe nëse numrat në letra duken më mirë.

Së fundmi, është çështja e precedentit. Disa tituj janë përpjekur ta analogojnë Diellën me “gjyqtarët robotë” ose vendimmarrësit algoritmikë në gjykata. Kjo nuk është ajo që po ndodh këtu. Ky është një eksperiment prokurimi me markë ministrore, jo një magjistrat i IA-së, dhe ky dallim është i rëndësishëm. Ai e mban analizën të bazuar në atë që sistemi duhet të bëjë në të vërtetë – të vlerësojë ofertat – dhe mbrojtjet specifike që janë të përshtatshme për atë detyrë.

 

Efekti i valëzimit

Nëse eksperimenti i Shqipërisë jep rezultate që çojnë në vendime më të shpejta, më shumë ofertues, kosto më të ulëta dhe më pak mosmarrëveshje, vendet e tjera me siguri do ta vënë re.

Dhe kjo veçanërisht sepse qeveritë kudo përballen me të njëjtat probleme: Ekipe të vogla, të dhëna të çrregullta, metoda vlerësimi të pabarabarta dhe dyshime për drejtësinë. Një shembull i qartë se si automatizimi dhe transparenca mund t’i përmirësojnë këto rezultate do të përhapej shpejt, veçanërisht në vendet ku prokurimi publik ka një pjesë të madhe të buxhetit.

Por që projekti të merret seriozisht, duhet të ketë transparencë të vërtetë, jo vetëm një premtim. Qeveria duhet t’i bëjë të disponueshme për publikun metodat e vlerësimit, regjistrat e përditësimit dhe rezultatet 3-mujore mbi konkurrencën, kursimet dhe ankesat.

Gjithashtu duhet të lejojë auditime të pavarura dhe të publikojë gjetjet e tyre. Kështu publiku mund të shohë se vendimet e sistemit janë të qarta dhe të gjurmueshme, jo të varrosura në zhargon teknik. Është gjithashtu mënyra se si Shqipëria mund të përmbushë standardet e transparencës dhe llogaridhënies që priten tani nga qeveritë në të gjithë Evropën dhe më gjerë.

Ky ndryshim mund të ketë efekte anësore edhe përtej Shqipërisë. Nëse qeveritë kudo fillojnë të kërkojnë të dhëna të qarta, kontrolle sigurie dhe rishikime të pavarura në prokurime, kompanitë do të fillojnë t’i bëjnë këto standarde një praktikë të zakonshme. Kjo mund ta bëjë IA-në më të sigurt dhe më të dobishme për të gjithë me kalimin e kohës.