Buitenland

EU zet AI aan banden: verbod op social scoring, emotieherkenning en manipulatie

03-02-2025 16:05

AI, kunstmatige intelligentie @Pixabay

In de EU zijn vanaf 2 februari verschillende verboden op ongewenste toepassingen van kunstmatige intelligentie (AI) van kracht, waaronder het verbod op AI-systemen die mensen rangschikken op basis van sociaal gedrag of persoonlijke kenmerken. Deze zogeheten social scoring kan leiden tot nadelige behandeling. De Europese AI-verordening (AI Act) is sinds de zomer van 2024 gefaseerd ingevoerd, met als doel economische kansen van AI te benutten als ook een veilige werking van de technologie te waarborgen.

 

Redactie, TPO, 3 februari 2025 – De verordening biedt zowel ontwikkelaars als ondernemers kansen, terwijl het tegelijkertijd Europese consumenten beschermt, aldus het ministerie van Economische Zaken.

De regels omvatten onder andere basisafspraken over de werking van AI in producten en diensten, eisen voor risicovolle toepassingen en ondersteuning voor ontwikkelaars, zoals mkb’ers. Op deze manier zouden Europeanen met vertrouwen gebruik kunnen maken van AI en ondernemers gerichter innoveren.

Verbod op sociale scoring, emotieherkenning en manipulatieve technieken

Naast het verbod op sociale scoring zijn ook AI-systemen verboden die emotieherkenning toepassen in werk en onderwijs, of manipulatieve technieken gebruiken om gedrag te veranderen.

Realtime biometrische identificatie op afstand in openbare ruimtes voor wetshandhaving is eveneens verboden, met beperkte uitzonderingen. Ook is het niet langer toegestaan om AI in te zetten voor risicobeoordelingen op basis van profilering van strafbare feiten.

Minister van Economische Zaken Dirk Beljaarts (PVV): “We streven naar AI-modellen die werken volgens Europese normen en waarden. Niet alleen voor een veilige werking van de technologie. Zo kunnen we ook de kansen voor innovatie en ondernemers beter benutten. Vanaf nu verbieden we ongewenste risico’s van meerdere AI-systemen, dat past bij de balans waarnaar we streven. Strenge regels waar nodig, maar géén onnodige regels voor bedrijven die laag-risico AI-systemen ontwikkelen en toepassen.”

Gefaseerde invoering

De AI-verordening werd op 1 augustus 2024 van kracht, maar de verschillende onderdelen worden stapsgewijs ingevoerd om ontwikkelaars de tijd te geven om aan de nieuwe eisen te voldoen:

  • 2 februari 2025: Verboden AI-toepassingen van kracht
  • 2 augustus 2025: Eisen voor AI-modellen voor algemene doeleinden
  • 2 augustus 2026: Eisen voor hoog-risico AI-toepassingen en transparantieverplichtingen
  • 2 augustus 2027: Eisen voor hoog-risico AI-producten; volledige AI-verordening van kracht
  • 2 augustus 2030: Eisen voor hoog-risico AI-systemen bij overheidsorganisaties die vóór augustus 2026 zijn gelanceerd.

Nationale toezichthouders handhaven de verboden en eisen voor hoog-risico AI en transparantie. De Europese Commissie houdt toezicht op grote, veelzijdige AI-modellen.

Bron: Ministerie van Economische Zaken