Прозрачността решава този проблем, като използва лесно интерпретируеми модели, някои от които ще разгледаме в следващия раздел. Обяснимостта решава този проблем, като „разопакова черната кутия“или се опитва да получи представа от модела на машинно обучение, често чрез използване на статистически методи.
Какво е обяснимостта на модела?
Обяснимостта на модела е широка концепция за анализиране и разбиране на резултатите, предоставени от ML модели. Най-често се използва в контекста на моделите „черна кутия“, за които е трудно да се демонстрира как моделът е стигнал до конкретно решение.
Какво е обяснимостта в дълбокото обучение?
Обяснимостта (наричана още "интерпретируемост") е концепцията, че модел на машинно обучение и неговият резултат могат да бъдат обяснени по начин, който "има смисъл" за човешкото същество на приемливо ниво … Други, като системите за дълбоко обучение, въпреки че са по-ефективни, остават много по-трудни за обяснение.
Какво означава обяснимостта в контекста на AI система?
Андрю Матуро, анализатор на данни, SPR. „Обясним AI с прости думи означава AI, който е прозрачен в своите операции, така че човешките потребители да могат да разбират и да се доверяват на решенията Организациите трябва да зададат въпроса – можете ли да обясните как вашият AI генерира това конкретно прозрение или решение? –
Какво е проблемът с обяснимостта?
Хората имат очевидно отвращение към решенията за черна кутия, които ги засягат финансово, здравословно и по десетки други начини, като в същото време не обръщат внимание на определени различни видове решения. … Когато AI взема тези решения, може да се чуе търсене на обяснимост.
