Blog

De subsidie bedraagt € 900.000 en het project heeft een looptijd van twee jaar. Het project wordt vanuit de Hochschule Osnabruck Lingen, Instituut for Duale Studiengange en de Hanzehogeschool Groningen, het Instituut voor Engineering, HBO-ICT en Bio-Informatica mogelijk gemaakt.

De gevaren van Algorithmic Bias in Artificial Intelligence

Artificial Intelligence gaat een steeds belangrijkere rol spelen in onze samenleving. Technologische ontwikkelingen maken AI-oplossingen steeds gemakkelijker en effectiever waardoor deze toepassingen in toenemende mate impact hebben op de manier waarop wij werken, wonen, reizen en leven.  

We vertrouwen daarbij in steeds grotere mate op de beslissingen en voorspellingen van computers, zonder echt te weten hoe de keuzes binnen de machine eigenlijk tot stand komen. En hoewel het toepassen van Artificial Intelligence grote voordelen heeft, lijkt het risico wat deze systemen met zich meebrengen groter dan ooit. 

Onze digitale systemen creëren en verzamelen op grote schaal data om mensen en bijna elk aspect van hun leven in kaart te brengen en op basis daarvan voorspellingen te kunnen maken met behulp van algoritmes. 

Algoritmes zijn het beste te omschrijven als een hele specifieke lijst met instructies waarin staat beschreven wat een computer moet doen, hoe deze data verzameld, leest, verwerkt en analyseert om tot een bepaalde uitkomst te komen. 

Een grote misvatting bij het gebruik van algoritmes is dat, omdat de resultaten door een machine tot stand komen, deze geen menselijke bias kunnen bevatten. Niets is echter minder waar. De algoritmes die computer gebruiken om voorspellingen en beslissingen te maken op basis van data, zijn namelijk gecreëerd door mensen. Hierdoor vindt er altijd in meer of mindere mate een vertaling plaats van de normen, waarden en bestaande stereotypen van de mens naar het algoritme tijdens de creatie of training hiervan. De vertaling van deze menselijke bias naar een algoritme wordt ook wel ‘Algorithmic Bias’ genoemd. 

Wat is Algorithmic Bias? 

Algorithmic Bias zijn systematische en herhaaldelijke fouten die optreden binnen een algoritme en die ervoor zorgen dat de voorspellingen of beslissingen die het systeem maakt een afwijking bevatten waardoor bijvoorbeeld één of meerdere groepen bevoordeeld of benadeeld worden. Het belangrijkste probleem wat daarbij optreedt, is dat het algoritme hier zelf niet verantwoordelijk voor gehouden kan worden. 

Waar kan Algorithmic Bias optreden? 

Algorithmic Bias kan optreden bij eigenlijk alle vormen van AI die gebaseerd zijn op machine learning. Voorbeelden hiervan zijn zoekmachines, social media of gepersonaliseerde adviezen voor bijvoorbeeld film in Netflix. De impact die Algorithmic Bias hier kan hebben loopt uiteen van lichte inbreuk op de privacy van gebruikers tot en met discriminatie op basis van bijvorbeeld geslacht, opleidingsniveau of etnische afkomst.  

Wanneer treedt Algorithmic Bias op? 

Een Bias door het algoritme kan optreden door verschillende factoren. De belangrijkste oorzaak hiervan is een menselijke bias die (onbedoeld) vertaald is naar het algoritme. Het algoritme wordt nu eenmaal gemaakt en getraind door mensen en mensen hebben per definitie een bias. Echter is een steeds vaker voorkomende oorzaak de data waarmee het algoritme getraind wordt. De menselijke bias kan in het algoritme terecht komen door deze te trainen met een dataset die een bias bevat. De bias in de dataset kan ontstaan door de manier van verzamelen, coderen en selecteren van de data. 

Wat zijn mogelijke gevolgen van Algorithmic Bias? 

De gevolgen van Algorithmic Bias zullen per casus en toepassing verschillen, maar duidelijk is dat dit vergaande gevolgen kan hebben voor de betrokken personen en/of organisaties. Zelfs een hele geringe afwijking is voorspelling of beslissing kan bijvoorbeeld individuen bevoordelen of de benadelen en zorgen voor significante impact op onze samenleving.  

Hoe kunnen we het beste omgaan met Algorithmic Bias? 

We moeten bij de ontwikkeling van AI toepassingen goed bewust zijn van de gevaren van Algorithmic Bias en de manieren waarop deze kan ontstaan binnen onze oplossingen. Daarbij zullen we er alles aan moeten doen om dit te voorkomen en/of bij te stellen als we vaststellen dat er een afwijking begint te ontstaan in ons Algoritme.  

Share on linkedin
Share on twitter
Share on facebook
Tim
17 mei 2021

Archief

Archieven

Delen

Share on linkedin
Share on twitter
Share on facebook