Transparency løser dette problem ved at bruge let fortolkelige modeller, nogle af dem vil vi komme ind på i næste afsnit. Forklarlighed løser dette problem ved at "pakke den sorte boks ud" eller forsøge at få indsigt fra maskinlæringsmodellen, ofte ved at bruge statistiske metoder.
Hvad er modelforklaring?
Modelforklaring er et bredt koncept for at analysere og forstå resultaterne fra ML-modeller. Det bruges oftest i forbindelse med "black-box"-modeller, for hvilke det er svært at påvise, hvordan modellen nåede frem til en specifik beslutning.
Hvad er forklaring i dyb læring?
Explainability (også omt alt som "fortolkelighed") er konceptet om, at en maskinlæringsmodel og dens output kan forklares på en måde, der "giver mening" for et menneske på et acceptabelt niveau … Andre, såsom deep learning-systemer, er, selvom de er mere effektive, stadig meget sværere at forklare.
Hvad betyder Forklarlighed i forbindelse med et AI-system?
Andrew Maturo, dataanalytiker, SPR. Forklarlig AI i enkle vendinger betyder AI, der er gennemsigtig i sine operationer, så menneskelige brugere vil være i stand til at forstå og stole på beslutninger Organisationer skal stille spørgsmålet - kan du forklare, hvordan din AI genererede det specifik indsigt eller beslutning?” –
Hvad er forklaringsproblem?
Folk har en tilsyneladende aversion mod black-box-beslutninger, der påvirker dem økonomisk, sundhedsmæssigt og snesevis af andre måder, mens de på samme tid er uvidende om visse forskellige slags beslutninger. … Når AI træffer disse beslutninger, kan krav om forklaring høres.
