新加坡发布了一个软件工具包,旨在帮助金融机构确保他们负责任地使用人工智能 (AI)。 还发布了五份白皮书,以指导他们根据预定义的原则评估其部署。
新加坡金融管理局 (MAS) 表示,这些文件详细说明了将 FEAT 原则(公平、道德、问责制和透明度)纳入金融服务领域 AI 使用的方法。
白皮书由 Veritas 财团开发,该财团是新加坡国家人工智能战略的一部分,由 27 家行业参与者组成,其中包括亚马逊网络服务、中国银行、新加坡银行、谷歌云、高盛、华侨银行和菲律宾联合银行 .
根据 MAS 的说法,白皮书提供了一份 FEAT 清单,以指导金融机构在其人工智能和数据分析软件开发生命周期中的发展,并提供了一种增强的公平性评估方法,以定义其人工智能和数据分析系统的目标并识别潜在的偏见。
还有一种评估道德和问责制的方法,它提供了一个框架来帮助金融机构对道德实践进行可量化的衡量,另一种方法用于评估透明度,以便这些组织可以确定需要多少内部和外部透明度来解释和解释预测 由机器学习模型生成。
Veritas 联盟还开发了软件工具包来自动化公平性指标评估并促进评估界面的可视化。 该开源工具包可在 GitHub 上获得,允许使用插件与金融机构的 IT 系统集成。
MAS 首席金融科技官 Sopnendu Mohanty 在周五发布的声明中表示:“新的开源软件、评估方法和增强的指导将进一步提高金融机构为金融部门开发负责任的人工智能的技术能力。”
Veritas 联盟的一些成员还将这些方法应用于其组织内的各种职能,包括客户营销、保险欺诈检测和信用风险评分。
接下来,该小组将开发更多用例,并与联盟内选定的金融机构进行试点,以进一步将这些方法与其现有的治理框架相结合。
MAS 补充说,它正在与信息通信媒体发展局和个人数据保护委员会 (PDPC) 合作,将 tolkit 纳入 PDPC 的可信赖人工智能测试框架。