Uncontrolled artificial intelligence in the Western Balkans

“I am your virtual assistant. Welcome!”

This is the message that citizens in the Western Balkans are increasingly faced with when visiting the official websites of institutions or banks.

Instead of an employee, their questions are answered by chatbots, or virtual assistants, based on artificial intelligence (AI).

However, the use of technologies like this is not yet clearly regulated by law.

Bosnia and Herzegovina, Kosovo, Montenegro, and Serbia are at different stages of development and use of artificial intelligence, especially in public administration.

Responses from state institutions, obtained by Radio Free Europe, show that most do not have clear rules on whether public servants are allowed to use artificial intelligence tools, such as ChatGPT, Copilot or Gemini, while performing their work.

Also, most institutions do not keep records of how much and how these funds are used.

In some cases, technical measures that would prevent the entry of official documents or citizens' personal data into artificial intelligence platforms are also lacking.

Some institutions admit that their employees use artificial intelligence to draft documents, translate texts, proofread writing, perform administrative tasks, analyze large amounts of data, or search for information.

Others say that such a practice is not used.

But, despite this, almost all agree that a specific legal framework for the use of artificial intelligence is lacking and that the greatest risks are related to the protection of personal data and information security.

According to them, the responsibility for any misuse of documents or data lies with the person using the artificial intelligence tools.

"The use of artificial intelligence cannot be banned. It's like someone forbidding me from using one of the languages ​​I know. But it can be regulated by law," Enes Çengić, a judicial expert on information technology in Bosnia and Herzegovina, tells Radio Free Europe.

He warns that users should be careful with the information they enter into artificial intelligence platforms, as, according to him, data entered into these systems can be stored on servers and, under certain circumstances, recovered later.

While European Union member states have already started implementing the Artificial Intelligence Act (AI Act), Western Balkan countries are still in the phase of drafting laws, strategies and guidelines for the use of artificial intelligence, as well as their approximation with EU rules.

Bosnje dhe Hercegovina nuk ka ende ligj që e rregullon përdorimin e inteligjencës artificiale, sidomos në institucionet shtetërore.

Një ligj i tillë, madje, nuk është hartuar as në formë drafti.

Nga përgjigjet që Radio Evropa e Lirë ka marrë nga disa institucione shtetërore, rezulton se disa prej tyre kanë vërejtur se punonjësit ose nuk përdorin fare mjete të inteligjencës artificiale, ose i përdorin në masë të kufizuar.

Kur përdoren, ato shërbejnë kryesisht për hartimin e teksteve, përkthime, korrektim gjuhësor dhe detyra administrative.

Të gjitha institucionet që janë përgjigjur, pranojnë se Bosnje dhe Hercegovina nuk ka një kornizë të përbashkët ligjore për përdorimin e mjeteve të inteligjencës artificiale në administratën publike.

Ato kërkojnë miratimin e rregullave të përafruara me standardet e Bashkimit Evropian.

Prokuroria e Bosnje dhe Hercegovinës, për shembull, thotë se punonjësit mund t’i përdorin vetëm ato mjete të inteligjencës artificiale që janë miratuar nga shërbimi i teknologjisë informative i institucionit.

Këto mjete mund të përdoren për përpunim tekstesh, përkthime ose gjenerim idesh.

Punonjësve të Prokurorisë u ndalohet të fusin në sisteme publike të inteligjencës artificiale të dhëna personale të qytetarëve, të dhëna nga lëndët penale, sekrete zyrtare, drafte të akteve të papublikuara ose informacione të tjera konfidenciale.

Sekretariati i Përgjithshëm i Këshillit të Ministrave të Bosnje dhe Hercegovinës thotë se, për rreth 50 ministri dhe agjenci, aktualisht ofron rekomandime profesionale për përdorimin e sigurt dhe të përgjegjshëm të mjeteve të inteligjencës artificiale, sidomos për mbrojtjen e të dhënave dhe sigurinë kibernetike.

Nga ky sekretariat theksojnë se për hartimin e kornizës së ardhshme ligjore, përgjegjëse është Ministria e Komunikimeve dhe Transportit e Bosnje dhe Hercegovinës.

Kjo ministri konfirmon për Radion Evropa e Lirë se po punon në një plan për përafrimin e rregullave me standardet e BE-së dhe ato ndërkombëtare.

Agjencia për Mbrojtjen e të Dhënave Personale e Bosnje dhe Hercegovinës thotë se përdorimi i inteligjencës artificiale në përpunimin e të dhënave, nuk është i rregulluar veçmas me Ligjin për Mbrojtjen e të Dhënave Personale.

Sipas saj, rregullimi i përdorimit të mjeteve të inteligjencës artificiale në administratën publike nuk është në kompetencën e kësaj agjencie.

Megjithatë, agjencia thekson se institucionet që përpunojnë të dhëna personale, duhet të zbatojnë masa të përshtatshme teknike dhe organizative për mbrojtjen e tyre. Ato duhet të vlerësojnë edhe rreziqet e çdo përpunimi të të dhënave, përfshirë rastet kur përdoren mjete të inteligjencës artificiale.

Shumica e kompetencave në Bosnje dhe Hercegovinë janë në nivelin e dy entiteteve, administrata e të cilave numëron rreth 28 mijë zyrtarë.

Megjithatë, as Federata e Bosnje dhe Hercegovinës, as Republika Sërpska nuk kanë rregulla të posaçme që do ta rregullonin në hollësi përdorimin e inteligjencës artificiale në sektorin publik.

Agjencia për Teknologji të Informacionit dhe Komunikimit e Republikës Sërpska konfirmon për Radion Evropa e Lirë se disa institucione tashmë përdorin mjete digjitale me elemente të inteligjencës artificiale, për analizimin e të dhënave dhe automatizimin e proceseve administrative.

Qeveria e Federatës së Bosnje dhe Hercegovinës nuk iu përgjigj pyetjeve të Radios Evropa e Lirë për këtë çështje.

Ndërsa disa institucione, si Agjencia e Prokurimit Publik e Bosnje dhe Hercegovinës, po zhvillojnë chatbotë, sektori privat - përfshirë bankat dhe zinxhirët e mëdhenj tregtarë - tashmë i përdor këto mjete.

Zakonisht, ato zhvillohen në bashkëpunim me platforma komunikimi, si Viber ose WhatsApp.

As Kosova nuk ka ligj të posaçëm që rregullon përdorimin e inteligjencës artificiale në administratën publike.

Strategjia për e-qeverisje 2023-2027 parashikon përfshirjen e zgjidhjeve të avancuara digjitale - mes tyre: mjetet e inteligjencës artificiale dhe analizën e sasive të mëdha të të dhënave, si pjesë e procesit të digjitalizimit të shërbimeve publike.

Në praktikë, tashmë po testohen disa zgjidhje të tilla si platforma e-Kosova 2.0 dhe projektet në Administratën Tatimore të Kosovës, të cilat synojnë t’i automatizojnë proceset dhe t’u ofrojnë qytetarëve shërbime më të shpejta dhe më të personalizuara.

Prokuroria e Shtetit të Kosovës thotë për Radion Evropa e Lirë se punonjësit e saj nuk përdorin asnjë mjet të inteligjencës artificiale në punën hetimore, administrative apo mbështetëse.

Institucionet e Kosovës, ndërkohë, thonë se po punojnë për t’i përafruar rregullat me standardet e Bashkimit Evropian.

Gjatë vitit 2026 ka nisur edhe një vlerësim i gatishmërisë së Kosovës për t’u harmonizuar me Aktin e BE-së për Inteligjencën Artificiale (AI Act) dhe Rregulloren e Përgjithshme për Mbrojtjen e të Dhënave (GDPR).

Krenare Sogojeva Dermaku, komisionare e Agjencisë për Informim dhe Privatësi në Kosovë, thotë për Radion Evropa e Lirë se Ligji për Mbrojtjen e të Dhënave Personale nuk përmban rregulla të veçanta për rastet kur të dhënat personale mund të ekspozohen ose keqpërdoren përmes mjeteve të inteligjencës artificiale.

Sipas saj, çdo keqpërdorim i të dhënave trajtohet sipas rregullave të përgjithshme të ligjit, pavarësisht nëse përfshin ose jo inteligjencën artificiale.

Ajo rikujton se Kosova është anëtare e Bordit Evropian për Mbrojtjen e të Dhënave, ku qytetarët dhe institucionet mund të drejtohen në rast se të dhënat e tyre keqpërdoren.

Ministria e Digjitalizimit e Kosovës, Policia e Kosovës, Këshilli Prokurorial i Kosovës dhe Këshilli Gjyqësor i Kosovës nuk iu përgjigjën kërkesave të Radios Evropa e Lirë për koment.

Krahasuar me Kosovën dhe Bosnje dhe Hercegovinën, Mali i Zi dhe Serbia kanë avancuar më shumë në përdorimin e inteligjencës artificiale në administratën publike.

Mali i Zi nuk e ka harmonizuar ende plotësisht legjislacionin e tij me Aktin e BE-së për Inteligjencën Artificiale, por ky proces është pjesë e detyrimeve që ky vend ka në kuadër të negociatave për anëtarësim në Bashkimin Evropian.

Ministria e Drejtësisë ka njoftuar se po përgatit një kornizë të re ligjore për të rregulluar përdorimin e inteligjencës artificiale dhe për të parandaluar keqpërdorimin e saj.

Qeveria, ndërkohë, ka nisur hartimin e Strategjisë për Zhvillimin e Inteligjencës Artificiale 2026-2030.

Ministria e Administratës Publike thotë për Radion Evropa e Lirë se Mali i Zi, në bashkëpunim me Bankën Botërore, po harton një plan për zhvillimin e inteligjencës artificiale si pjesë e transformimit digjital të sektorit publik.

Në fushën e sigurisë kibernetike, Mali i Zi ka miratuar një ligj të ri të harmonizuar me Direktivën NIS2 të Bashkimit Evropian, e cila përcakton standarde të detyrueshme për mbrojtjen e rrjeteve dhe sistemeve të informacionit, si në sektorin publik, ashtu edhe në atë privat.

Po ashtu, janë krijuar qendra operative për monitorimin e infrastrukturës digjitale.

Serbia, në anën tjetër, ka nisur ta përdorë inteligjencën artificiale në disa shërbime publike, edhe pse ende nuk ka një ligj që rregullon zhvillimin dhe përdorimin e saj.

Asistentë virtualë, apo chatbotë, janë të disponueshëm në faqet e internetit të Administratës Tatimore, Agjencisë për Regjistrat e Bizneseve dhe portalit e-Uprava, ku u përgjigjen pyetjeve të qytetarëve dhe i ndihmojnë ata të përdorin shërbimet elektronike.

Por, këto sisteme kanë edhe kosto.

Sipas një analize të bazës së të dhënave të prokurimit publik, të kryer nga Radio Evropa e Lirë, vetëm asistenti virtual i Administratës Tatimore i ka kushtuar shtetit rreth 196 mijë euro gjatë vitit 2026.

Asnjë prej institucioneve që i përdorin këto sisteme, nuk iu përgjigj pyetjeve të Radios Evropa e Lirë se si mbrohen të dhënat personale që qytetarët mund t’i ndajnë gjatë komunikimit me chatbotët.

Aktualisht, Serbia mbështetet në Strategjinë për Zhvillimin e Inteligjencës Artificiale 2025-2030 dhe në Udhëzimet Etike për Zhvillimin dhe Përdorimin e Inteligjencës Artificiale, por këto dokumente nuk kanë fuqi detyruese ligjore.

Komisionari për Informim me Rëndësi Publike dhe Mbrojtjen e të Dhënave Personale vlerëson se vendit i nevojitet një ligj i posaçëm për të rregulluar mbikëqyrjen e sistemeve të inteligjencës artificiale, mbrojtjen e qytetarëve dhe ndalimin e përdorimeve me rrezik ose diskriminuese.

“Për shkak se përdorimi masiv i këtyre sistemeve në Serbi ende nuk është i përhapur dhe mungon një kornizë e qartë ligjore, deri më tani nuk kemi pasur një numër të madh procedurash formale të inspektimit”, thonë nga ky institucion për Radion Evropa e Lirë.

Projektligji i posaçëm, i harmonizuar me Aktin e BE-së për Inteligjencën Artificiale, është ende në hartim, ndërsa miratimi i tij pritet deri në fund të vitit 2026.

"The draft law is harmonized with the EU Act on Artificial Intelligence," Irena Djorgjevic from the National Alliance for Local Economic Development (NALED) - an organization that is part of the working group for drafting this law - tells Radio Free Europe.

According to Djordjevic, the draft law provides for artificial intelligence systems and models to be classified according to the level of risk they pose.

"There will be prohibited systems, which will not be allowed on the market at all, high-risk, medium-risk and minimal-risk systems. The law will apply to both domestic and foreign developers of artificial intelligence systems and models," she says.

Ana Toskić Cvetinović, from the non-governmental organization Partneri Srbija, warns that the draft law contains several controversial exceptions.

One of them is the exclusion of the defense sector from law enforcement.

She adds that, currently, there is no official evidence of artificial intelligence tools used by state institutions nor internal regulations that define how they are used, although, according to her, tools like ChatGPT are already used in the public sector.

Judicial information technology expert Enes Çengiq says that using artificial intelligence as a work tool is useful because it significantly speeds up the work.

But, he emphasizes that artificial intelligence makes mistakes and that responsibility for the final result always remains with the human who uses it.

To illustrate the risk of misuse, he brings this example: "It's like someone writing a doctoral thesis on the novel The Bridge on the Drin without ever reading the book."/ REL