Gratis værktøjer skal spotte algoritmernes fordomme

Illustration: IBM
En åben værktøjskasse med ni algoritmer skal begrænse bias og diskrimination i machine learning-modeller.

Bias, fordomme og diskrimination er ikke bare noget der foregår i den fysiske verden. Det finder i den grad også sted i de algoritmer, der blandt andet bruges til ansigtsgenkendelse og en lang række beslutningsprocesser.

Nu har IBM lanceret en værktøjskasse med navnet 'Fairness 360', som scanner for tegn på bias i algoritmer.

I den første udgivelse af Fairness 360, også navngivet AIF360 Python Package, finder man ni forskellige algoritmer, hvis mål er at afbøde bias. Det er et sæt af fairness- målinger på datasæt og machine learning-modeller.

Læs også: DeepMind-forskere tackler black box-problem i algoritme til øjenlæger

Sådan vil IBM afbøde bias undervejs i machine learning model. Illustration: IBM

Åbner den sorte boks

Behovet for nye former for indsigt i algoritmerne skyldes blandt andet, at udviklere ofte ikke ved, hvilke beslutninger der tages med deres kunstige intelligens og hvorfor.

Kunstig intelligens er kendt som en black box, en sort boks. IBM's værktøj vil gøre AI-beslutninger mere gennemsigtige, så udviklere kan se, hvilke faktorer der bruges i den kunstige intelligens.

Softwaren er cloud-baseret og open source, og den virker til de mest kendte AI-frameworks, inklusiv Watson, Tensorflow, SparkML, AWS SageMaker og AzureML

Du kan finde Fairness 360 på Github

Læs også: Microsoft lancerer nye forretningsapps med AI

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (0)
Log ind eller Opret konto for at kommentere
Pressemeddelelser

Welcome to the Cloud Integration Enablement Day (Bring your own laptop)

On this track, we will give you the chance to become a "Cloud First" data integration specialist.
15. nov 2017

Silicom i Søborg har fået stærk vind i sejlene…

Silicom Denmark arbejder med cutting-edge teknologier og er helt fremme hvad angår FPGA teknologien, som har eksisteret i over 20 år.
22. sep 2017

Conference: How AI and Machine Learning can accelerate your business growth

Can Artificial Intelligence (AI) and Machine Learning bring actual value to your business? Will it supercharge growth? How do other businesses leverage AI and Machine Learning?
13. sep 2017
Jobfinder Logo
Job fra Jobfinder