De Commissie presenteert vandaag de volgende stappen voor het scheppen van vertrouwen in kunstmatige intelligentie. Daarbij maakt zij gebruik van het werk van de deskundigengroep op hoog niveau.
Voortbouwend op de werkzaamheden van de in juni 2018 benoemde groep onafhankelijke deskundigen start de Commissie vandaag een proeffase om ervoor te zorgen dat de ethische richtsnoeren voor de ontwikkeling en het gebruik van kunstmatige intelligentie in de praktijk kunnen worden toegepast. De Commissie vraagt de industrie, onderzoeksinstellingen en overheidsinstanties om de gedetailleerde evaluatielijst te testen die de deskundigengroep als aanvulling op de richtsnoeren heeft opgesteld.
De vandaag gepresenteerde plannen vloeien voort uit de KI-strategie die de Commissie in april 2018 heeft gepresenteerd en die bedoeld is om de publieke en private investeringen in de komende tien jaar op te voeren tot ten minste 20 miljard euro per jaar, meer gegevens beschikbaar te maken, talent te stimuleren en vertrouwen te wekken.
Vicevoorzitter voor de Digitale Eengemaakte Markt Andrus Ansip: "Ik ben blij met de werkzaamheden die de onafhankelijke deskundigen hebben verricht. De ethische dimensie van KI is geen overbodige luxe of optie. Onze samenleving kan alleen op basis van vertrouwen ten volle profiteren van technologie. Iedereen heeft baat bij ethische KI en dat kan een concurrentievoordeel voor Europa opleveren: Europa wordt leider op het gebied van mensgerichte KI waarop men kan vertrouwen."
Commissaris voor Digitale Economie en Samenleving Mariya Gabriel: "Vandaag zetten wij een belangrijke stap in de richting van ethische en veilige KI in de EU. We hebben gezorgd voor een stevig fundament dat gestoeld is op EU-waarden. Veel belanghebbenden, waaronder bedrijven, de academische wereld en het maatschappelijk middenveld, hebben zich hiervoor op een constructieve manier ingezet. Wij zullen deze vereisten nu in de praktijk brengen en tegelijkertijd de aanzet geven voor een internationale discussie over mensgerichte KI."
Een groot aantal sectoren heeft baat bij kunstmatige intelligentie (KI), bijvoorbeeld op het gebied van gezondheidszorg, energieverbruik, veiligheid van auto's, landbouw, klimaatverandering en financieel risicobeheer. KI kan ook helpen bij het opsporen van fraude en cyberdreigingen, en het stelt rechtshandhavingsinstanties in staat om criminaliteit efficiënter te bestrijden. KI brengt echter ook nieuwe uitdagingen met zich mee voor de toekomst van werk, en het werpt juridische en ethische vragen op.
De Commissie gaat te werk in drie stappen: er worden essentiële vereisten voor betrouwbare KI opgesteld, er gaat een grootschalig proefproject voor feedback van belanghebbenden van start en er wordt gewerkt aan een internationale consensus over mensgerichte KI.
1. Zeven hoofdzaken voor het tot stand brengen van betrouwbare KI
KI kan alleen betrouwbaar zijn als wordt voldaan aan alle toepasselijke wet- en regelgeving en aan een reeks vereisten; met behulp van specifieke evaluatielijsten wordt de toepassing van elk van de essentiële vereisten gecontroleerd:
- Invloed en toezicht door mensen: KI-systemen moeten rechtvaardige samenlevingen mogelijk maken doordat de mens invloed uitoefent en de grondrechten worden ondersteund. De autonomie van de mens mag niet worden verminderd, beperkt of misbruikt.
- Robuustheid en veiligheid: Betrouwbare KI heeft behoefte aan algoritmen die zo veilig, betrouwbaar en robuust zijn dat tijdens de gehele levensduur van KI-systemen fouten of inconsistenties worden opgespoord en aangepakt.
- Privacy en data-governance: De burgers moeten volledige controle hebben over hun eigen gegevens, en gegevens die met hen te maken hebben mogen niet worden gebruikt om hen te schaden of te discrimineren.
- Transparantie: De traceerbaarheid van KI-systemen moet zijn gewaarborgd.
- Diversiteit, non-discriminatie en billijkheid: KI-systemen moeten rekening houden met het hele scala van menselijke capaciteiten, vaardigheden en eisen, en ze moeten toegankelijk zijn.
- Maatschappelijk en ecologisch welzijn: KI-systemen moeten worden gebruikt om positieve sociale veranderingen te bevorderen en de duurzaamheid en ecologische verantwoordelijkheid te vergroten.
- Verantwoordingsplicht: Er moeten mechanismen worden ingevoerd om de verantwoordelijkheid en verantwoordingsplicht voor KI-systemen en de resultaten daarvan te waarborgen.
2. Grootschalig proefproject met partners
In de zomer van 2019 zal de Commissie een proeffase starten waarbij een breed scala aan belanghebbenden betrokken is. Bedrijven, overheden en organisaties kunnen nu al deelnemen aan de Europese KI-alliantie. Zij krijgen dan een bericht zodra het proefproject van start gaat. Bovendien zullen de leden van de deskundigengroep inzake KI erbij helpen de richtsnoeren aan de relevante belanghebbenden in de lidstaten te presenteren en deze toe te lichten.
3. Scheppen van een internationale consensus over mensgerichte KI
De Commissie wil deze benadering van de ethiek van KI wereldwijd ingang doen vinden. Technologieën, data en algoritmen kennen tenslotte geen grenzen. Daartoe zal de Commissie de samenwerking met gelijkgezinde partners (zoals Japan, Canada en Singapore) versterken en een actieve rol blijven spelen in internationale discussies en initiatieven, waaronder de G7 en de G20. Bij de proeffase zullen ook bedrijven uit andere landen en internationale organisaties worden betrokken.
Volgende stappen
De leden van de groep van deskundigen inzake KI zullen op 9 april tijdens de derde digitale dag in Brussel tekst en uitleg over hun werkzaamheden geven. Begin 2020, na afloop van de proeffase, zal de groep van deskundigen inzake KI op basis van de ontvangen feedback de evaluatielijsten voor de essentiële vereisten analyseren. Vervolgens zal de Commissie het resultaat evalueren en eventuele volgende stappen voorstellen.
Met het oog op de ethische ontwikkeling van KI zal de Commissie bovendien in het najaar van 2019: een reeks netwerken van KI-onderzoekscentra van topniveau opzetten; beginnen met het opzetten van netwerken van digitale-innovatiehubs; samen met de lidstaten en de belanghebbenden besprekingen starten om een model voor het delen van gegevens te ontwikkelen en toe te passen en zo goed mogelijk gebruik te maken van gemeenschappelijke dataruimten.
Achtergrond
De Commissie bevordert en versterkt de samenwerking op het gebied van KI in de EU om het concurrentievermogen te verbeteren en vertrouwen te waarborgen op basis van de waarden van de EU. Naar aanleiding van de Europese strategie inzake KI die de Commissie in in april 2018 heeft gepubliceerd, heeft zij de deskundigengroep op hoog niveau inzake KI opgericht. De groep bestaat uit 52 onafhankelijke deskundigen uit de academische wereld, het bedrijfsleven en het maatschappelijk middenveld. De groep heeft in december 2018 een eerste ontwerp van de ethische richtsnoeren gepubliceerd, gevolgd door een raadpleging van de belanghebbenden en bijeenkomsten met vertegenwoordigers van de lidstaten met het doel feedback in te winnen. Daarbij wordt het eveneens in december 2018 gepresenteerde gecoördineerde plan met de lidstaten gevolgd. Het doel daarvan is de ontwikkeling en het gebruik van KI in Europa te bevorderen.
Meer informatie
Mededeling: "Vertrouwen scheppen in mensgerichte kunstmatige intelligentie"
Ethische richtsnoeren KI
Factsheet over kunstmatige intelligentie
Deskundigengroep op hoog niveau inzake KI
Europese KI-alliantie
Artificial Intelligence: A European Perspective
AI Watch
