De implementatie van de Europese AI-verordening

De heer De Roo heeft het woord.

De Europese verordening kunstmatige intelligentie, die we allemaal kennen als ‘AI Act’, is op 1 augustus 2024 in werking getreden. Die verordening heeft tot doel de grondrechten, de democratie, de rechtsstaat en het milieu te beschermen tegen bepaalde vormen van artificiële intelligentie, terwijl ze tegelijkertijd innovatie wil stimuleren en Europa als koploper op het gebied van AI wil positioneren. De AI Act zal over 2 jaar van toepassing zijn, met uitzondering van enkele bepalingen die reeds na 6, 12 of maximaal 36 maanden in werking zullen treden. De eerste toepasselijke bepalingen, die betrekking hebben op verboden praktijken, zullen al vanaf februari 2025 van kracht zijn.

De AI Act bevat verschillende verplichtingen voor de lidstaten. Zo verplicht de verordening de lidstaten om een of meerdere nationale bevoegde autoriteiten aan te wijzen, waaronder een toezichthoudende autoriteit voor AI. Ook moeten de lidstaten een 'AI regulatory sandbox’ oprichten om innovatie op een veilige manier te bevorderen. Het Departement Economie, Wetenschap en Innovatie (DEWI) publiceerde in oktober 2023 een reflectiepaper waarin onder meer werd aangegeven dat samenwerking met de federale overheid essentieel zal zijn.

Vandaar een aantal vragen aan u, minister-president.

Hoe zal de organisatie van de ‘bevoegde autoriteiten’ in België en Vlaanderen worden georganiseerd? Welke rol voorziet u specifiek voor Vlaanderen in deze structuur?

Zijn er reeds gesprekken opgestart met de federale overheid of andere gewesten over de oprichting van deze regulatory sandbox? Wat is uw visie hieromtrent?

Is er een concrete timing voor de oprichting van de regulatory sandbox, aangezien dit ons land en onze regio een voorsprong kan geven in de ontwikkeling en veilige toepassing van AI?

Ziet u uitdagingen voor of belemmeringen door de nieuwe verplichtingen uit de AI Act?

Tot slot: hoe zal Vlaanderen zich voorbereiden om lopende en geplande projecten rond AI conform de AI Act uit te voeren?

Minister-president Diependaele heeft het woord.

De AI Act – hier zal ik nog over struikelen verder in de vraag, maar goed – geeft de Europese lidstaten veel ruimte om de implementatie van de wet in te richten. Nationale overheden moeten ten eerste marktoezichtautoriteiten aanduiden die de naleving van de wet gaan controleren van AI-systemen die reeds onder bestaande Europese productwetgeving vallen. Ten tweede moeten lidstaten ook een of meerdere markttoezichtautoriteiten aanduiden die instaan voor de naleving van de wet bij AI-systemen die onder de gebruiksgevallen van Bijlage III bij de wet vermeld zijn. Ten derde legt de AI Act op dat minstens een van die markttoezichtautoriteiten een AI regulatory sandbox opricht, mét nationale dekking. Ten slotte wordt van lidstaten verwacht dat ze een lijst maken van nationale instellingen die de naleving van grondrechten controleren, omdat deze instellingen onder de AI Act bevoegdheden krijgen om documentatie van AI-makers op te vragen, in het kader van hun normale werking.

Momenteel wordt gewerkt aan de implementatie. Vlaanderen heeft reeds een lijst opgesteld van entiteiten die de naleving van de grondrechten controleren, en heeft die lijst samen met andere Belgische overheden ingediend bij de Europese Commissie. Voor zowel het markttoezicht als de regulatory sandboxes moeten we samenwerken met de federale overheid. Op dat vlak kijken we uit naar de plannen die de federale overheid in de komende periode op tafel zal leggen. Voor Vlaanderen is het belangrijk dat we betrokken zijn bij het markttoezicht binnen de sectoren die Vlaams ingericht worden, zoals bijvoorbeeld het onderwijs. Ook is het van belang dat de regulatory sandboxes aansluiting vinden bij het bredere Vlaamse innovatielandschap en de infrastructuren die daarin zijn uitgerold.

Uw tweede vraag leunt aan bij de vorige. Zowel het markttoezicht als de inrichting van een AI regulatory sandbox vallen onder de implementatie van de wet. Beide zijn ook gelinkt, aangezien een AI regulatory sandbox volgens de AI Act opgericht moet worden door een ‘bevoegde autoriteit’, waarmee in principe naar een markttoezichtautoriteit verwezen wordt. De Europese Commissie dient nog de concrete inrichting en werking van dergelijke sandboxes vorm te geven via uitvoeringshandelingen. De Vlaamse administratie is betrokken bij dat proces, en volgt het op de voet op. We staan daarover ook in contact met de collega’s van de federale overheid en van de andere gewesten.

In antwoord op uw derde vraag: er is nog geen concrete timing, gelet op het feit dat de oprichting van de AI regulatory sandbox voor een deel afhangt van de federale overheid, en voor een ander deel van de uitvoeringshandelingen die de Europese Commissie nog dient aan te nemen. We staan in nauw contact met zowel de federale overheid als de Europese Commissie, en willen zo snel mogelijk een concrete tijdslijn op tafel leggen.

Zoals dikwijls het geval is, zal deze wet zowel opportuniteiten als uitdagingen inhouden voor AI-actoren. De AI Act is wereldwijd een van de enige wetten die een duidelijk juridisch kader schetst voor het gebruik van AI. Dat schept helderheid voor de AI-ontwikkelaars, en vertrouwen bij AI-gebruikers. Dankzij dit kader zal AI ‘made in Europe’ fundamentele Europese waarden respecteren, van hoge kwaliteit zijn, en betrouwbaar zijn in de domeinen waar het echt cruciaal is, zoals bijvoorbeeld de gezondheidszorg, de werkvloer, industriële machines, transport enzovoort. Dankzij de vereisten die dergelijke hogerisicosystemen moeten navolgen, scheppen we niet enkel veiligheid en betrouwbaarheid, maar ook een uniek competitief voordeel voor Europese bedrijven als wereldleiders in betrouwbare AI.

Desalniettemin moeten we ook erkennen dat de Europese wetgeving complex is, en met significante verplichtingen komt voor bedrijven die AI ontwikkelen in de hogerisicodomeinen die de AI Act reguleert. Die bedrijven, en in het bijzonder start-ups en kmo’s, zullen tijd en middelen moeten investeren in de naleving van de vereisten en verplichtingen in de wet. Een belangrijke kanttekening is daar dat de effectieve regelgevende last voor een groot deel zal afhangen van de ontwikkeling van Europese AI-standaarden. Momenteel zijn standaardiseringsorganen de vereisten die de AI Act oplegt, aan het vertalen naar juridische en technische standaarden. Indien bedrijven deze standaarden volgen, zijn ze conform de AI Act. We houden daarom ook steeds een blik op dit ‘compliance proces’. En we staan in contact met de actoren die daaraan bijdragen.

Mijnheer De Roo, ik gooi hier graag tussen dat de laatste twee paragrafen die ik voorgelezen heb eigenlijk een beetje de kern vormen van zowel de uitdaging als het probleem waar Europa soms mee kampt, en dat is dat we nu wel het meest gereglementeerde en het meest betrouwbare AI-systeem bezitten, maar dat we daarnaast door die reglementering en die complexiteit ook heel wat lasten opleggen, en eigenlijk ook wat de innovatieve kracht van die systemen potentieel – ik weet niet of dat hier het geval is – gaan hypothekeren. Die twee laatste paragrafen zijn op alle mogelijke domeinen van toepassing.

Met betrekking tot uw vijfde vraag kan ik het volgende antwoorden. Verschillende van mijn bevoegdheden hebben een resem lopende programma's rond AI. Zowel het Departement EWI, het Agentschap Innoveren en Ondernemen (VLAIO) als Digitaal Vlaanderen hebben substantiële instrumenten en waardevolle programma's om hun doelgroep verder praktisch te sensibiliseren en kennisdeling te organiseren. We proberen binnen die domeinen ook maximaal synergieën na te streven. Om binnen de overheden in Vlaanderen de kracht van AI op gepaste wijze in te zetten, richtte Digitaal Vlaanderen het AI-expertisecentrum op. Dit heeft als missie de kracht van AI te omarmen op een verantwoorde manier. Het centrum richt zich op vijf pijlers om deze missie waar te maken, waarvan één pijler gericht is op het verhogen van betrouwbaarheid van AI bij gebruik binnen de Vlaamse overheid. Binnen deze pijler is er een sterke focus op het naleven van de AI Act bij reeds lopende en nog geplande projecten rond AI. Zo wil het AI-expertisecentrum een begeleidende nota rond de Europese AI Act opmaken, een zelfevaluatietool opstellen en een overzicht bieden van alle AI-gerelateerde wetgeving, inclusief de Europese AI Act. Om deze mijlpaal te kunnen verwezenlijken, is er ook een project, ‘Getting the Flemish government AI-ready’, lopende met United Nations Educational, Scientific and Cultural Organization (UNESCO) en de Europese Commissie binnen het kader van het Europese Technical Support Instrument Program.

De heer De Roo heeft het woord.

Dank u, minister-president, voor uw antwoord. Je komt al snel in het Engelstalige jargon natuurlijk als je over dergelijke materie spreekt. Minister-president, ik wil eerst en vooral aansluiten bij wat u zei bij vraag vier. U zei dat er een soort spanningsveld zit, waarbij je enerzijds die innovatie van een aantal toepassingen hebt, en anderzijds de veiligheid die daarmee gepaard gaat, waardoor het natuurlijk complex wordt op het Europese niveau. We hebben hier in het Vlaams Parlement in de vorige legislatuur, nog lang voor er sprake was van ChatGPT, een resolutie ingediend en goedgekeurd. Er werd achter de schermen over gesproken, maar het brede publiek had daar nog nooit van gehoord. Die resolutie ging specifiek over het omarmen van die complexiteit, namelijk dat we kansen van artificiële intelligentie moeten blijven benutten, maar tegelijkertijd die veiligheid meenemen. Europa heeft een poging gedaan om te komen tot die AI Act en om die twee aspecten daarin te voorzien. Ik denk dat dat ook onderscheidend werkt voor de rest van de wereld. Waar anderen amper aandacht hebben voor ongelijkheid, voor eventuele discriminatie, voor eventueel spionage, voor eventueel andere toepassingen die kunnen verwerkt zitten in AI, wil Europa dat wel doen. Ik denk dat dat op zich een goede zaak is en dat we onze bedrijven ook moeten stimuleren om met die complexiteit een stuk aan de slag te gaan.

De volgende stap is natuurlijk hoe we dat vanuit Vlaanderen gaan implementeren. In de sandbox is er een concrete toepassing, een kader waarin bedrijven kunnen experimenteren. Ik hoor u in uw antwoord zeggen dat we voor die sandbox zullen wachten op het federale niveau, en tot wanneer daar een volledig federaal kader rond is. Als ik u goed begrijp, is dat ook de juridische afleiding welke uit de AI Act volgt. Natuurlijk, in Vlaanderen hebben wij ook al een soort concept van een sandbox, zij het dan dat het de benaming ‘regelluwe zone’ krijgt. In het Bestuursdecreet is er een artikel voorzien waar wij kunnen werken in regelluwe zones. Ik denk dat het ook wel nuttig zal zijn, en misschien zelfs nodig, dat, als we onze bedrijven innovatief willen laten ontwikkelen, als we bedrijven toepassingen willen laten ontwikkelen binnen een bepaald afgesproken kader, we hun die mogelijkheid daar ook toe bieden. Wie weet is het aankoppelen aan een concept dat al is voorzien in onze wetgeving van de regelluwe zones, wel een mogelijkheid die we kunnen voorzien.

Ik zou u sowieso willen oproepen om samen met het federale niveau – waar nog wordt onderhandeld samen met uw partij – daar ook al werk van te maken. Eenmaal die federale overheid er is, zullen we het liefst van al zo snel mogelijk dat kader moeten krijgen voor de sandbox, zodat we daar niet achterophinken ten opzichte van andere Europese landen. Mijn vraag aan u is of u mogelijkheden ziet om te werken in de concepten die we mogelijk vandaag hebben, of om die tenminste als inspiratie door te geven naar het federale niveau.

De heer Slagmulder heeft het woord.

Minister-president, eerst en vooral: een regulerend kader voor AI-systemen is zeker nodig, want artificiële intelligentie kan zeker en vast ook heel wat gevaren met zich meebrengen. Wat ik zelf bijvoorbeeld jammer vind aan die AI Act, is bijvoorbeeld dat biometrische identificatie volledig wordt uitgesloten. Ik vind dat het wel mogelijk zou moeten zijn dat AI gebruikt wordt voor het opsporen van terroristen, zware criminelen, maar ook bijvoorbeeld het opsporen van verdwenen kinderen. Natuurlijk, dat zit allemaal federaal en Europees, maar mijn vraag is of u dit vanuit Vlaanderen binnen België en Europa wilt betwisten, en ervoor wilt pleiten om legitieme toepassingen mogelijk te houden, zeker in het kader van criminaliteitsbestrijding en veiligheid.

U verwees ook naar dat spanningsveld. Innovatie mag zeker niet al te veel beperkt worden door allerlei regelneverij, want dat lijkt me zeker geen goede zaak te zijn voor Vlaanderen.

Tot slot: hebt u al laten onderzoeken, minister-president, hoeveel AI-projecten in Vlaanderen nog bij de Vlaamse overheid zullen moeten worden aangepast om conform die AI Act te zijn?

Minister-president Diependaele heeft het woord.

Ik zal van achter naar voor gaan. Die laatste vraag moeten we eens nakijken, misschien met een schriftelijk antwoord. Dat weet ik niet uit het hoofd.

Over dat biometrische zal ik heel eerlijk zijn. Ik ben in deze context niet genoeg geïnformeerd om daar een uitspraak over te doen. Ik ben er wel van overtuigd dat je een gezond evenwicht moet hebben met enerzijds veiligheid, en het gebruik van alle systemen die je hebt om die veiligheid te garanderen, en anderzijds een aantal vrijheden, waarden en normen die je in een liberale rechtsstaat overeind wilt houden. Die twee moeten in evenwicht gebracht worden.

Wat die biometrische dingen betreft: ik ben daar ooit als medewerker bij het Europese Parlement mee bezig geweest, toen men de vingerafdrukken en paspoorten ging invoeren. Er was daar ook een hele discussie over. Bij kinderen – want u vermeldt kinderen – veranderen die dingen nog, en moet je beslissen of je dat vanaf 6 jaar of vanaf 12 jaar doet. Maar ik ben te weinig geïnformeerd om daar een uitspraak over te doen.

Mijnheer De Roo, ik ben het eens, en het staat trouwens op pagina 24 van onze beleidsnota – ik weet dat niet vanbuiten, hij heeft mij dat juist gezegd –, dat we maximaal gebruik moeten maken van regelluwe zones en experimentwetgeving. Dat komt in de volgende vraag trouwens ook naar voren. We gaan daar maximaal gebruik van maken voor onze eigen dingen, maar op sommige punten zullen we natuurlijk ook overleg moeten plegen en afspraken maken met het federale niveau. U kent ook de zaken waar die twee elkaar raken, bedrijven moeten dan met twee systemen rekening houden … Dus daar hebben we dat overleg met het federale niveau wel nodig.

Voor het laatste punt heb ik – eerlijk waar – de resolutie niet gelezen. Het is ook van de vorige legislatuur, dus ik deed dat nog niet. Ik ben het eens met wat u zegt. We moeten de kansen van AI maximaal benutten, daar ben ik het absoluut mee eens, maar het omarmen van die complexiteit – ik herhaal dat ik die resolutie niet gelezen heb, en ik snap de redenering wel – is soms moeilijk. Het klinkt wel goed, maar het houdt soms innovatie tegen. Dat is een heel moeilijke afweging. Ik weet ook niet altijd waar de lijn ligt. Per beleidsdomein of per onderwerp zul je moeten kijken wat het meest doorweegt.

Ik weet niet of u ‘Jan Leyers bij de Duitsers’ gezien hebt, maar in Duitsland werkt men op bepaalde punten, zoals in de gezondheidszorg, nog met de fax, omdat er in de wetgeving staat – ik ben niet helemaal geïnformeerd, maar ik denk dat dat er staat – dat, als men persoonsgegevens en zeker medische data van individuen wil opslaan, dat alleen mag gebeuren op een server die binnen de Duitse grenzen staat. We weten allemaal dat servers ondertussen over de hele wereld verspreid staan. Dus moet men nog een fax gebruiken. Ik begrijp die regelgeving ook wel. Het is ergens van nationaal belang dat die medische data beschermd worden. Maar zouden die beter of minder beschermd zijn zonder die wetgeving? Ik denk dat daar een hele discussie over te voeren valt.

Ik begrijp uw punt principieel heel goed, maar in de praktijk is dat soms heel moeilijk.

De heer De Roo heeft het woord.

Dank u voor het bijkomend antwoord, minister-president. Net die seinbox is een mogelijkheid om die grenzen op te zoeken, en in een bepaald kader te kijken naar welke mogelijkheden er zijn, en welke wetgevende aspecten er mogelijk in de weg staan. De regelluwheid kan daar mogelijk oplossingen bieden.

Om op collega Slagmulder in te gaan: u zegt langs de ene kant dat u wat schrik hebt voor artificiële intelligentie, en aan de andere kant pleit u voor die biometrische gegevens. Europa heeft een aantal afwegingen gemaakt. Ik denk dat een aantal keuzes zijn gemaakt, ook richting kinderen, ook richting biometrie. Geen enkel beleid staat in steen gebeiteld voor de eeuwigheid. Wanneer dingen goed draaien zoals ze zijn uitgerold, kunnen we verder ethische debatten voeren. Maar het is nog wat vroeg voor dat ethisch debat. Europa heeft de keuze gemaakt. Ik weet niet of we moeten wachten op die biometrische gegevens, en of de voordelen – namelijk het opsporen van misdaad enzovoort – kunnen opwegen tegen de mogelijke risico’s. Maar dat is een ethisch debat voor een later moment.

Minister-president, ik hoop vooral dat u ook naar het federale niveau toe voldoende impulsen zult geven om zo snel mogelijk de federale en Vlaamse implementatie van de AI Act mogelijk te maken.

De vraag om uitleg is afgehandeld.