Praktikat e ndaluara të inteligjencës artificiale: çfarë ndalon Akti i Inteligjencës Artificiale për bizneset holandeze

Që nga 2 shkurti 2025, Akti i BE-së për IA-në (Rregullorja (BE) 2024/1689) ndalon një listë të shkurtër të praktikave të IA-së në të gjithë BE-në, duke përfshirë edhe Holandën: manipulimin, shfrytëzimin e personave vulnerabël, vlerësimin social, njohjen e emocioneve në punë dhe në shkolla, përdorime të caktuara biometrike dhe mbledhjen e paqëllimshme të imazheve të fytyrës. Nuk ka periudhë tranzicioni dhe ndalimi vlen për bizneset që zhvillojnë IA-në, si dhe për bizneset që e përdorin vetëm atë.

Ndalimi ka të bëjë me përdorimin, jo me teknologjinë. I njëjti softuer për njohjen e fytyrës mund të jetë i ligjshëm për kontrollin e aksesit në një dhomë serverash dhe i ndaluar për qëllime të tjera. Kjo faqe shpjegon çdo praktikë të ndaluar, kush e zbaton ndalimin në Holandë dhe çfarë duhet të bëjë biznesi juaj tani.

Cilat praktika të inteligjencës artificiale janë të ndaluara?

Lista e praktikave të ndaluara në Nenin 5 të Aktit të Inteligjencës Artificiale përmban tetë kategori. Shumica e tyre zbatohen vetëm kur praktika shkakton, ose ka gjasa të shkaktojë, dëm të konsiderueshëm, ose kur synon qëllime të caktuara.

Teknika manipuluese ose mashtruese

Nuk mund të përdorni IA që përdor teknika nënndërgjegjeshëm, manipuluese ose mashtruese me qëllim për të shtrembëruar materialisht sjelljen e dikujt, në një mënyrë që shkakton ose ka të ngjarë të shkaktojë dëme të konsiderueshme. Mendoni për nxitjen e fshehur ose modelet e errëta që i shtyjnë konsumatorët të marrin vendime që përndryshe nuk do t'i merrnin. Personalizimi i zakonshëm dhe transparent i ofertave nuk mbulohet. Praktikat tregtare mashtruese gjithashtu mund të shkelin ligjin holandez të konsumatorit mbi praktikat e padrejta tregtare.

Shfrytëzimi i dobësive

IA nuk mund të shfrytëzojë dobësitë e njerëzve për shkak të moshës, aftësisë së kufizuar ose një situate specifike sociale ose ekonomike, me qëllimin ose efektin e shtrembërimit material të sjelljes së tyre dhe shkaktimit të dëmit të konsiderueshëm. Shembuj janë sistemet që synojnë mungesën e përvojës së fëmijëve ose i shtyjnë njerëzit në vështirësi financiare drejt kredive të shtrenjta.

Vlerësimi social

Vlerësimi ose klasifikimi i njerëzve me kalimin e kohës bazuar në sjelljen e tyre shoqërore ose karakteristikat personale është i ndaluar kur vlerësimi çon në trajtim të dëmshëm në një kontekst të palidhur, ose trajtim që është i pajustifikuar ose joproporcional. Ndalimi vlen njësoj si për autoritetet publike ashtu edhe për bizneset private. Kontrollet e zakonshme të kreditit bazuar në të dhëna financiare përkatëse nuk janë vlerësime sociale, por ato mund të jenë me rrezik të lartë.

Parashikimi i krimit nga profilizimi

IA nuk mund të përdoret për të vlerësuar rrezikun që një person të kryejë një vepër penale vetëm në bazë të profilizimit ose në tipare të personalitetit. Sistemet që mbështesin një vlerësim njerëzor bazuar në fakte objektive dhe të verifikueshme të lidhura me aktivitetin kriminal janë jashtë këtij ndalimi.

Gërmim i paqëllimshëm i imazheve të fytyrës

Krijimi ose zgjerimi i bazave të të dhënave për njohjen e fytyrës përmes mbledhjes së paqëllimshme të imazheve të fytyrës nga interneti ose nga pamjet e kamerave të sigurisë është i ndaluar. Blerja e aksesit në një bazë të dhënash të tillë mund t'ju bëjë përdorues të një praktike të ndaluar.

Njohja e emocioneve në punë dhe në arsim

Nuk mund të përdorni inteligjencën artificiale për të nxjerrë përfundime mbi emocionet e njerëzve në vendin e punës ose në institucionet arsimore, përveç për arsye mjekësore ose sigurie, siç është zbulimi i lodhjes tek një shofer. Kjo prek mjetet e Burimeve Njerëzore që analizojnë shprehjet e fytyrës ose zërin në intervistat e punës, si dhe softuerët e qendrave të thirrjeve që vlerësojnë emocionet e punonjësve. Nëse planifikoni ndonjë monitorim të vendit të punës, kërkohet edhe pëlqimi i këshillit të punës sipas Nenit 27(1)(l) të Aktit të Këshillave të Punës (WOR).

Kategorizimi biometrik i tipareve të ndjeshme

Inteligjenca Artificiale nuk mund t’i kategorizojë njerëzit në bazë të të dhënave biometrike për të nxjerrë përfundimin për racën, mendimet politike, anëtarësimin në sindikata, bindjet fetare ose filozofike, jetën seksuale ose orientimin seksual. Etiketimi ose filtrimi i të dhënave biometrike të fituara ligjërisht në zbatimin e ligjit është një përjashtim.

Identifikimi biometrik në kohë reale nga policia

Njohja e fytyrës në kohë reale në hapësirat e aksesueshme publikisht për zbatimin e ligjit është e ndaluar, përveç rasteve të përcaktuara ngushtë, siç janë kërkimi i viktimave të rrëmbimit ose trafikimit, parandalimi i një kërcënimi të menjëhershëm për jetën ose një sulmi terrorist dhe gjetja e të dyshuarve për krime të rënda. Çdo përdorim kërkon autorizim paraprak nga një autoritet gjyqësor ose administrativ i pavarur. Për bizneset, pika kryesore është se përjashtimi është vetëm për zbatimin e ligjit.

Kush duhet të zbatojë?

Të gjithë në zinxhir: ofruesit që zhvillojnë ose tregtojnë një sistem IA, zbatuesit që e përdorin atë në biznesin e tyre dhe importuesit dhe shpërndarësit. Blerja e një mjeti nga një furnizues nuk e zhvendos përgjegjësinë tuaj si përdorues.

Akti i Inteligjencës Artificiale zbatohet edhe për furnizuesit jashtë BE-së kur rezultatet e sistemit të tyre përdoren në BE. Prandaj, kontratat me furnizuesit e Inteligjencës Artificiale duhet të përfshijnë një garanci se sistemi nuk përdoret për qëllime të ndaluara dhe një të drejtë për ta ndërprerë nëse rezulton se përdoret.

Kush e zbaton ndalimin në Holandë?

Akti holandez që cakton mbikëqyrësit sipas Aktit të Inteligjencës Artificiale (Uitvoeringswet AI-verordening) është ende një projektligj. Struktura e planifikuar ndërtohet mbi mbikëqyrësit ekzistues të sektorit, me Autoritetin Holandez të Mbrojtjes së të Dhënave (Autoriteit Persoonsgegevens, AP) për zonat pa mbikëqyrës sektori dhe Autoritetin Holandez për Infrastrukturën Dixhitale (RDI) që koordinon.

Mungesa e aktit zbatues nuk e bën një praktikë të ndaluar të ligjshme. Shumica e praktikave të ndaluara përfshijnë gjithashtu përpunimin e paligjshëm të të dhënave personale sipas GDPR-së , dhe AP-ja mund ta zbatojë GDPR-në sot. Komisioni Evropian publikoi udhëzime jo-detyruese mbi praktikat e ndaluara më 4 shkurt 2025; Gjykata e Drejtësisë e BE-së ka fjalën e fundit për interpretimin.

Cilat janë sanksionet?

Shkelja e një ndalimi mbart kufirin më të lartë të gjobës në Aktin e Inteligjencës Artificiale: një shumë maksimale fikse ose një përqindje e xhiros totale vjetore në mbarë botën, cilado qoftë më e lartë. Kufijtë më të ulët zbatohen për shkelje të tjera dhe për dhënien e informacionit të pasaktë një autoriteti, dhe kufijtë më të ulët zbatohen për ndërmarrjet e vogla dhe të mesme.

Një person i dëmtuar nga një sistem i ndaluar mund të kërkojë gjithashtu dëmshpërblim në gjykatat civile holandeze, për shembull në bazë të deliktit (onrechtmatige daad, Neni 6:162 i Kodit Civil Holandez). Direktiva e propozuar e BE-së për Përgjegjësinë e Inteligjencës Artificiale u tërhoq, kështu që zbatohet ligji i zakonshëm holandez i përgjegjësisë.

Çfarë duhet të bësh tani?

Filloni me një inventar të çdo sistemi të inteligjencës artificiale në përdorim, duke përfshirë veçoritë e inteligjencës artificiale të integruara në softuerin që keni tashmë, siç janë mjetet e burimeve njerëzore, të marketingut ose të sigurisë. Pastaj testoni çdo përdorim kundrejt tetë kategorive të mësipërme.

• Regjistroni për secilin sistem qëllimin e tij, inputin e tij, rezultatin e tij dhe kë ndikon.
• Ndërpritni menjëherë çdo përdorim të ndaluar dhe shënoni kur dhe si e keni ndaluar atë.
• Pyesni furnizuesit me shkrim nëse sistemi i tyre përmban njohje emocionesh, kategorizim biometrik ose të dhëna të mbledhura të fytyrës.
• Ruani vlerësimet tuaja, në mënyrë që t'i tregoni një mbikëqyrësi se çfarë keni kontrolluar dhe kur.

A zbatohet edhe detyrimi i shkrim-leximit të inteligjencës artificiale?

Po. Që nga e njëjta datë, 2 shkurt 2025, ofruesit dhe zbatuesit duhet të marrin masa për të siguruar që stafi që operon ose përdor sisteme të IA-së të ketë një nivel të mjaftueshëm të njohurive të IA-së. Kjo vlen për të gjitha sistemet e IA-së, jo vetëm për ato me rrezik të lartë.

Trajnimi duhet të përputhet me rolin: Stafi i Burimeve Njerëzore duhet të njohë një veçori të ndaluar të njohjes së emocioneve në një mjet rekrutimi, dhe stafi i prokurimit duhet t'u bëjë pyetjet e duhura furnizuesve. Mbani të dhëna se kush është trajnuar, kur dhe për çfarë.

Çfarë duhet të kontrolloni si biznes që përdor inteligjencën artificiale?

• A ka ndonjë mjet që nxjerr përfundime për emocionet e punonjësve ose aplikantëve për punë?
• A i vlerëson ndonjë sistem klientët për sjellje që nuk lidhen me shërbimin që ofroni?
• A ka ndonjë mjet marketingu që i targeton njerëzit për shkak të moshës, aftësisë së kufizuar ose vështirësive financiare në një mënyrë që mund t'i dëmtojë ata?
• A përdorni një bazë të dhënash për njohjen e fytyrës dhe a e dini se si është ndërtuar ajo?
• A e keni trajnuar stafin për të njohur përdorimet e ndaluara?

Çfarë duhet të kontrolloni si furnizues i inteligjencës artificiale?

• A mund të konfigurohet produkti juaj për një përdorim të ndaluar dhe a e ndalojnë kushtet tuaja këtë?
• A nxjerr produkti juaj përfundime për emocionet ose tiparet e ndjeshme nga të dhënat biometrike?
• A u morën të dhëna trajnimi përmes mbledhjes së paqëllimshme të imazheve të fytyrës?
• A shpjegojnë udhëzimet tuaja të përdorimit se cilat përdorime nuk lejohen?
• A e keni dokumentuar vlerësimin tuaj kundrejt praktikave të ndaluara?

Çfarë mund të bëjmë për ju me praktikat e ndaluara të inteligjencës artificiale?

Avokatët tanë të IT-së i ndihmojnë bizneset të kontrollojnë përdorimin e tyre të IA-së në përputhje me Aktin e IA-së dhe GDPR-në.

• Ne vlerësojmë inventarin tuaj të inteligjencës artificiale kundrejt praktikave të ndaluara dhe kategorive me rrezik të lartë.
• Ne shqyrtojmë kontratat e furnizuesve dhe shtojmë garancitë dhe të drejtat e ndërprerjes për përdorim të ndaluar.
• Ne hartojmë politikën tuaj të brendshme të inteligjencës artificiale dhe programin e shkrim-leximit mbi inteligjencën artificiale.
• Ne këshillojmë mbi pozicionin e GDPR-së të të njëjtave sisteme, aty ku zbatimi është tashmë i mundur.
• Ne ju ndihmojmë në pyetje ose hetime nga AP-ja ose një mbikëqyrës sektori.

përmbledhje

• Që nga 2 shkurti 2025, Akti i Inteligjencës Artificiale ndalon tetë kategori të praktikave të inteligjencës artificiale, pa një periudhë tranzicioni.
• Ndalimi vlen për ofruesit dhe bizneset që përdorin vetëm inteligjencën artificiale.
• Njohja e emocioneve në punë dhe në arsim është e ndaluar, përveç për arsye mjekësore ose sigurie.
• Akti zbatues holandez është ende një projektligj, por AP-ja tashmë mund të veprojë sipas GDPR-së.
• Praktikat e ndaluara kanë kufirin më të lartë të gjobave në Aktin e Inteligjencës Artificiale; personat e dëmtuar gjithashtu mund të kërkojnë dëmshpërblim.

Pyetjet më të shpeshta