安永推出了AI信任度测量工具

2019-06-11 21:25:04

多国咨询公司安永会计师事务所(Ernst&Young)今天推出了Trusted AI平台,这是一种可通过网络界面访问的服务,可为AI系统的可信赖性分配数值。

受信任的AI平台考虑了诸如AI模型的目标,人类是否在循环中以及用于创建模型的基础技术等因素。然后使用分析模型对每个模型进行评分。

根据与VentureBeat宣布这一消息的一份声明,“它提供的技术分数也受到复杂的乘数的影响,基于对用户的影响,同时考虑到社会和道德影响等意外后果”。“对治理和控制成熟度的评估是减少剩余风险的进一步缓解因素。”

受信任的人工智能平台将于今年晚些时候推出,并考虑到安永会计师事务所去年发布的信任人工智能概念框架,以阐明其对偏见,道德和社会责任问题的看法。安永的框架规定,建立信任涉及遵守AI设计标准,寻求独立审计,培训高管和AI开发人员对其工作的道德影响,并可能召集道德咨询委员会,就像Google最近解散的那样。

可以放大或降低人工智能系统风险的因素包括模型的目标,代理的复杂性,内部运作的环境,以及环境中是否有人,安永可信人工智能领导者凯茜·科比在一封电子邮件中告诉VentureBeat。

过去一年中引入了许多工具和服务来检测AI偏差或减轻其影响,包括IBM的偏差检测云服务 和Pymetrics的审计AI,麻省理工学院的研究人员已经引入了自动偏差检测以及消除AI偏差的方法不失准确性。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。