Forskere piller låget af automatiseret maskinlæring

Illustration: mast3r/Bigstock
Der skal lys ned i den sorte kasse, så brugere kan forstå hvordan automatisk kunstig intelligens frembringes.

Forskere fra blandt andet Massachusetts Institute of Technology har udviklet et interaktivt værktøj, der for første gang lader brugerne se og kontrollere, hvordan automatiserede maskinlæringssystemer virker. Målet er at skabe tillid til disse systemer og finde måder at forbedre dem på. Det skriver MIT i en pressemeddelelse.

Udformning af en model til maskinlæring i forbindelse med en bestemt opgave, såsom billedklassificering og medicinsk diagnostik, er en svær og tidskrævende proces.

Eksperter vælger først blandt mange forskellige algoritmer til at bygge modellen med. Derefter tilretter de manuelt de hyperparametre, som bestemmer modelens overordnede struktur, før modellen bliver optræne.

Læs også: RapidMiner-boss: Pas på den skjulte sorte boks i AutoML

Nyligt udviklede automatiske maskinlæringssystemer, såsom AutoML, tester og tilretter algoritmer og hyperparametre i en iterativ proces. Dernæst findes de bedst egnede modeller. Men systemerne fungerer som ‘black boxes,’ hvilket indebærer, at deres udvælgelsesteknikker er skjult for brugerne.

I en videnskabelig artikel, der blev præsenteret på konferencen ACM CHI Conference on Human Factors in Computing Systems, beskriver forskere fra MIT, Hongkong University of Science and Technology og Zhejiang University et værktøj, der giver brugerne kontrol over AutoML samt adgang til dets analyser.

Værktøjet, som har fået navnet ATMSeer, tager som inddata et AutoML-system, et datasæt og oplysninger om den opgave, der skal løses. Derefter visualiserer den udvælgelsesprocessen i en brugervenlig grænseflade, der giver information om modellernes ydeevne.

Læs også: Voldsom kritik af Googles kunstige intelligens: Det meste er hype

»Vi lader brugerne vælge og finde ud af, hvordan AutoML-systemer fungerer,« udtaler en af artiklens forfattere Kalyan Veeramachaneni, som er ledende forsker hos MIT, ifølge pressemeddelelsen.

»Du kan simpelthen vælge den bedste ydelse, eller du kan have andre overvejelser, eller bruge domæneviden til at lede systemet til at udvælge nogle modeller over andre.«

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (1)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Kim Madsen

at værktøjet ikke lever op til overskriften, alternativt at overskriften ikke rigtig repræsenterer værktøjet.

Jeg havde nok håbet på at der var (op)fundet en metode til at visualisere og påvise hvorfor en trænet model giver de outputs som den gør.... Men det er nok alt for meget at forlange, når vi i praksis stadig ikke ved hvad begrebet intelligens, rationalisering og tænkning egentlig omfatter.

mvh
Kim

  • 0
  • 0
Log ind eller Opret konto for at kommentere
IT Company Rank
maximize minimize