Nën hijen e hetimeve për tenderat, AKSHI bëhet “truri” i inteligjencës artificiale në Shqipëri

Agjencia Kombëtare e Shoqërisë së Informacionit (AKSHI) pritet të marrë rolin e autoritetit koordinues për inteligjencën artificiale në Shqipëri, sipas projektligjit “Për Inteligjencën Artificiale”, i nxjerrë për konsultim publik nga qeveria.

Projektligji synon të krijojë kuadrin e parë të plotë ligjor për zhvillimin, tregtimin dhe përdorimin e sistemeve të inteligjencës artificiale në vend, duke u përafruar plotësisht me Rregulloren e Bashkimit Evropian 2024/1689 (AI Act).

Në nenin 3 të projektligjit, AKSHI përcaktohet si “autoritet koordinues/Strukturë për IA-në”, ndërsa përkufizohet edhe roli i saj në zbatimin dhe monitorimin e sistemeve të inteligjencës artificiale. Projektligji përcakton se “Struktura IA-së” është funksioni i autoritetit që “ka për detyrë zbatimin, monitorimin dhe mbikëqyrjen e sistemeve IA dhe modeleve IA me qëllim të përgjithshëm”.

Sipas draftit, AKSHI do të jetë pjesë e grupit të autoriteteve kompetente së bashku me Komisionerin për të Drejtën e Informimit dhe Mbrojtjen e të Dhënave Personale, autoritetet e mbikëqyrjes së tregut dhe institucione të tjera që mund të përcaktohen me vendim të Këshillit të Ministrave.

Rregullat edhe për ofruesit e huaj, ndalohen disa praktika të AI-së

Projektligji parashikon një fushë zbatimi të gjerë që shtrihet përtej kompanive të vendosura në Shqipëri. Sipas nenit 2, ligji do të zbatohet për “ofruesit që hedhin në treg ose vënë në shërbim sisteme të IA-së ose hedhin në treg modele të IA me qëllim të përgjithshëm, pavarësisht nëse këta ofrues janë të vendosur apo të lokalizuar brenda Shqipërisë apo në një vend tjetër”.

Drafti parashikon gjithashtu se ligji zbatohet edhe për ofruesit dhe përdoruesit e vendosur jashtë Shqipërisë “kur rezultati i prodhuar nga sistemi i IA-së përdoret në Shqipëri”.

Po kështu drafti vendos një listë praktikash të ndaluara të inteligjencës artificiale, të ngjashme me ato të parashikuara në AI Act të Bashkimit Evropian.

Mes tyre përfshihen sistemet që përdorin teknika manipuluese ose mashtruese për të ndikuar në sjelljen e individëve, sistemet që shfrytëzojnë dobësitë e personave për shkak të moshës, aftësisë së kufizuar ose gjendjes ekonomike, si dhe sistemet e vlerësimit social të individëve.

I njëjti ndalon gjithashtu përdorimin e sistemeve që krijojnë databaza të njohjes së fytyrës përmes mbledhjes së papërcaktuar të imazheve nga interneti ose kamerat e sigurisë.

Një tjetër ndalim lidhet me përdorimin e sistemeve të inteligjencës artificiale për nxjerrjen e emocioneve të individëve në vendet e punës dhe institucionet arsimore, përveç rasteve kur ato përdoren për qëllime mjekësore ose sigurie.

Kufizime për identifikimin biometrik në kohë reale, po sistemet me rrezik të lartë?

Projektligji vendos kufizime të posaçme për përdorimin e sistemeve të identifikimit biometrik në kohë reale në hapësira publike.

Sipas nenit 5, përdorimi i tyre për qëllime të zbatimit të ligjit do të lejohet vetëm në raste të veçanta, përfshirë kërkimin e viktimave të rrëmbimit ose trafikimit, parandalimin e kërcënimeve serioze ndaj jetës dhe sigurisë, si dhe identifikimin e personave të dyshuar për vepra të rënda penale.

Përdorimi i këtyre sistemeve do të kërkojë autorizim paraprak nga gjykata kompetente. Drafti përcakton se “nuk mund të merret asnjë vendim me efekt negativ ligjor për një person vetëm bazuar në rezultatin e sistemit të identifikimit biometrik në kohë reale”.

Projektligji krijon një kategori të veçantë për sistemet e inteligjencës artificiale me rrezik të lartë.

Këto sisteme do t’i nënshtrohen detyrimeve për menaxhimin e rrezikut, dokumentacion teknik, regjistrim automatik të ngjarjeve (logs), transparencë dhe monitorim pas vendosjes në treg.

Drafti kërkon që për sistemet me rrezik të lartë të krijohet “një proces i vazhdueshëm dhe iterativ” i menaxhimit të rrezikut gjatë gjithë ciklit të jetës së produktit.

Po ashtu, sistemet duhet të zhvillohen mbi baza të dhënash që janë “të rëndësishme, mjaftueshëm përfaqësuese, dhe sa më shumë të jetë e mundur, pa gabime dhe të plota”, me masa për identifikimin dhe zbutjen e paragjykimeve algoritmike.

Masa për startup-et dhe mjedise testimi

Projektligji përfshin dispozita që synojnë të mbështesin inovacionin dhe zhvillimin e teknologjive të reja.

Ai parashikon krijimin e “sandbox-eve rregullatore për IA”, të cilat përkufizohen si mjedise të kontrolluara ku ofruesit mund të zhvillojnë, trajnojnë dhe testojnë sisteme inovative të inteligjencës artificiale nën mbikëqyrjen e autoriteteve.

Për ndërmarrjet e vogla dhe të mesme, përfshirë startup-et, drafti parashikon gjithashtu forma të thjeshtuara të dokumentacionit teknik për proceset e vlerësimit të konformitetit.

Në hyrje të projektligjit, qeveria thekson se ligji është “përafruar plotësisht” me Rregulloren (BE) 2024/1689 të Parlamentit Evropian dhe Këshillit, e njohur si AI Act.

Qëllimi i ligjit, sipas nenit 1, është të promovojë “zhvillimin, vendosjen në treg, vënien në shërbim dhe përdorimin e inteligjencës artificiale të përqendruar te njeriu dhe të besueshme”, duke garantuar një nivel të lartë mbrojtjeje për shëndetin, sigurinë, të drejtat themelore, demokracinë, shtetin e së drejtës dhe mjedisin./ Monitor