Blog Duthler over toezicht op AI en Algoritmes

8 apr. 2020

"Toezicht op Artificiële Intelligentie (AI) en algoritmes van belang", aldus Duthler. Bedrijven en instellingen maken steeds vaker gebruik van AI en algoritmes om hun diensten en producten beter te kunnen afstemmen op de wensen van de klant of om hun bedrijfsprocessen te optimaliseren. Dat is een goede ontwikkeling, maar veel bedrijven en instellingen houden te weinig rekening met  de privacy aspecten.​

Rekening houden met privacy

Bij de toepassing van AI en algoritmes kunnen persoonsgegevens worden verwerkt. Behalve toetsing aan de Algemene verordening gegevensbescherming (Avg) voor privacyrechten komen dan ook ethische en juridische vraagstukken aan de orde. Immers, niet alles wat mag zou je moeten willen. Wetenschappers, waaronder Stephen Hawking, waarschuwden voor de risico’s van AI.

Wat zijn de vereisten?

Alvorens met AI en algoritmes wordt gestart, vereist de Avg vaak een Data Protection Impact Assessment (DPIA). Deze DPIA moet ons inziens het brede scala van risico’s omvatten omdat het maatschappelijk verkeer behalve op bescherming van persoonsgegevens een bedrijf of instelling ook zal aanspreken op ethisch gedrag. Ook moet het bedrijf of instelling aangeven waarom het gebruik van AI en algoritmes proportioneel is.

Waarom een DPIA voor AI en algoritmes?

De DPIA wordt de verantwoording van de risico’s voor de rechten en vrijheden van personen en de passende maatregelen die ertoe moeten leiden dat deze risico’s vermeden of beheerst worden. Tijdens de implementatie en de operationalisering van AI en algoritmes moet de DPIA steeds worden bijgewerkt op basis van nieuwe inzichten. Er kunnen nieuwe bedreigingen bekend worden, betere beheersingsmaatregelen beschikbaar komen of de omvang van de verwerking kan zich uitbreiden. De DPIA kan pas worden afgerond als de bewaartermijn van de verwerking is verstreken. De ontwikkeling van AI en algoritmes gaat snel. Hoe eerder begonnen wordt met een DPIA, des te eerder kunnen risico’s met beheersingsmaatregelen door security by design en privacy by design worden meegenomen in de requirements.

Toezicht door de Autoriteit Persoonsgegevens

De Autoriteit Persoonsgegevens (AP) heeft in een bericht van 17 februari 2020 aangegeven de toezicht op AI en algoritmes te verscherpen. Een deugdelijke DPIA geeft de AP het vertrouwen dat u de bescherming van persoonsgegevens en privacy serieus neemt.

Wat kan Duthler voor u doen?

U kunt gebruik maken van de kennis en kunde van Duthlers toonaangevende team van professionals met een unieke combinatie van juridische, compliance en technische expertise. Deze kennis en ervaring zetten zij om in praktische ondersteuning bij uw ontwikkeling van AI en algoritmes.

Geschreven door
Saskia van de Schoot

directeur new business

Saskia van de Schoot
Bron: Duthler
Gerelateerd nieuws