Wij maken gebruik van cookies

Deze website maakt gebruik van cookies van derden, voor het bijhouden van statistieken en het tonen van specifieke content, zoals filmpjes.

Lees hier meer over privacy en het gebruik van cookies.

Parlement zet rem op gebruik kunstmatige intelligentie door politiediensten

Een meerderheid in het Europees Parlement heeft zich achter een rapport geschaard, dat stelt dat het gebruik van KI door de politie een grote inbreuk op fundamentele rechten van mensen betekent. Om die reden moet er voorzichtig mee omgegaan worden. KI mag alleen binnen een duidelijk wettelijk kader gebruikt worden, omgeven met daadwerkelijke en effectieve waarborgen voor burgers.

Op initiatief van D66-Europarlementariër Sophie In 't Veld is ook een verbod op het gebruik van private gezichtsherkenningsdatabases opgenomen in het rapport. Daarmee kunnen, op basis van miljarden foto's die van sociale media zijn gehaald, in real time gezichten worden herkend. Een voorbeeld daarvan is software van Clearview A.I., dat volgens het Amerikaanse Buzzfeed in Nederland gebruikt zou zijn.

Sophie in 't Veld staat achter het rapport dat in stemming is gebracht:

"Als we niet snel hele duidelijke grenzen stellen aan het gebruik van kunstmatige intelligentie door de politie, lopen we het risico dat we hier Chinese toestanden krijgen. Er moeten duidelijke kaders komen waarbinnen de politie kan opereren, met strikt toezicht. Geen praktijken meer die in feite neerkomen op massatoezicht op onschuldige burgers in de openbare ruimte. Ook voor "predictive policing mag in Europa absoluut geen ruimte zijn. Dat is met technologie op basis van groepslidmaatschap, eerder gedrag of locatie trachten te voorspellen of iemand misschien een misdaad gaat plegen, "

Tijdelijk verbod op gezichtsherkenning door politie

Het rapport roept op tot een tijdelijk verbod op het gebruik van gezichtsherkenning door de politie, totdat er voldoende bewijs is dat deze technologie echt noodzakelijk en proportioneel is. Eventueel gebruik ervan mag alleen indien het volledig in lijn met fundamentele rechten, verankerd in een gedegen wettelijk kader, mogelijk is.

In 't Veld:

"Op dit moment wordt er op tal van plekken gezichtsherkenning gebruikt door de politie, terwijl er nog nauwelijks bewijs is dat het überhaupt effectief is. Bovendien is de technologie nog niet betrouwbaar. Resultaten leiden tot bias en discriminatie en is er nog geen duidelijke democratische controle en toezicht. Eerst moeten al die zaken in orde zijn, pas dan kijken we of we deze technologie überhaupt willen gebruiken in onze democratische rechtsstaat."

Sophie In 't Veld heeft in het rapport extra aandacht gevraagd voor Europese fondsen voor onderzoeksprojecten die KI op gevoelige plekken inzetten, waaronder iBorderCTRL. In een controversieel onderzoeksproject, dat 4,5 miljoen euro van de Europese Commissie kreeg, werd een leugendetector en KI-gebaseerde analyse op basis van 38 gelaatsuitdrukkingen getest op reizigers aan de Europese buitengrenzen, om te kijken of ze misschien verkeerde bedoelingen hebben.

In 't Veld: "Europees geld mag niet aan dit soort projecten worden uitgegeven, die onder noemers als "onderzoek" en "innovatie" zogenaamd onze veiligheid gaan verbeteren. Voordat geld wordt uitgegeven aan onderzoek, moeten we onszelf als Europeanen de vraag stellen of we überhaupt dit soort gebruik van kunstmatige intelligentie moeten willen in onze samenleving."

Het rapport waarover vandaag gestemd is betreft geen wetgeving, maar geeft de positie van het Parlement weer met oog op toekomstige wetten. Met de zogeheten "AI Act", komt er nieuwe Europese wetgeving over kunstmatige intelligentie in de EU aan.