由 dawei 微软研究院近日开源了能够解开AI黑盒子的工具包InterpretML，其可提供开发人员使用多种方式来实验AI模型和系统，并进一步解释模型。
Dlink DIR-823G 第二代11AC 技术，双频全千兆
进入购买
据悉，InterpretML工具包含有许多可理解的模型和多种方法，能够针对黑盒子模型的个别预测行为产生解释。
微软指出，当AI系统影响人类的生活时，使人们了解AI的行为就相当重要，了解AI模型的行为，也能让数据科学家为模型纠错，而理解模型如何推论，则可以使设计模型的开发者传递模型如何运作的信息给终端使用者。
一般模型的准确度和可理解性无法兼顾，而微软研究院开发出的这套兼顾准确度和理解性的演算法Explainable Boosting Machine，能够通过现代机器学习技术，像是Bagging和Boosting分类方法，来改善传统的广义加成（Generalized Additive）模型。
【开发者可以用InterpretML工具包，比较不同的方法产生的解释，并选出一个最适合的方法，通过在不同的方法之间比对一致性，能够协助开发者了解该解释的可信度。】
- 调查区域：企业小调查(点击预览可查看效果)