干货 | AI算法透明性实现与评估
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。我们主要从分析问题、解决问题、效果评估和实际验证四方面,
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。
我们主要从分析问题、解决问题、效果评估和实际验证四方面,推动这一课题的研究,并形成相应的研究成果。
第一部分:AI算法透明概述
(资料图片)
第一部分,AI算法透明概述,主要凝练了当前AI算法透明性存在的挑战。
近年来,人工智能技术的发展使得其透明性问题日益凸显,为保障用户对算法知情,实现监管机构对算法进行有效规范治理与问责,算法透明性必不可少。
然而,算法透明性更类似于原则性的提议,具体如何落实透明性要求,并对其进行有效评估,尚未形成共识。
因此,我们对AI算法透明当前存在的诸多挑战进行了总结,主要涉及三个维度:技术、评估和制度。
技术上,很难处理AI算法的黑箱问题;
评估上,对透明程度的要求很难把握尺度;
制度上,算法问责机制仍然模糊。
为有效应对这些挑战,我们首先给出算法透明性实现路径,解决技术和制度问题,之后提出算法透明评估清单应对评估问题,最终在推荐系统下进行实践与应用。
第二部分:实现AI算法透明
宏观上,我们首先需要AI算法透明性治理范式,针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义,形成一种以法律规制为主导,技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。
微观上,这一范式的实施措施落实到学术、法律、技术和场景四方面。
学术上,国内外学者研究主要从多方视角相关主体出发,提出了若干在法律规制和技术适配方面的思考。
法律上,鉴于算法透明,是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式:赋权模式和行为规范模式。赋权模式属于事后救济,而行为规范模式属于事前预防和事中约束。
这里我们具体对比了不同国家地区的法律,发现各国都采取健全算法问责机制等措施。此外,我们也注意到欧盟还强调对算法参数的公开。
技术上,我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术,该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例,又会有更为细致的方法。
不同的应用场景,对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计,四个细分领域内进行了需求分析和方法探索。
第三部分:评估AI算法透明
鉴于现有法律规制大多在宏观层面强调算法透明监管原则,却鲜小有具体措施。因此,我们提出一套相对详细、可实施的评估标准,以细化并落实算法透明度合规要求。
首先,面向算法使用者的AI透明度评估清单的设计目标,在于保障知情权。内容主要分为算法概述与技术信息,要求算法开发方对这些内容进行说明。
算法使用者的AI透明度评估清单相较于面向用户的清单,由于监管方需要根据算法评估内容进行等级评估,所以该技能较为严格,需要说明的内容也更为复杂。
为配合透明度评估清单的使用,我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估,不同等级对于算法开发者应当达到的透明度有不同要求,且逐步加强。
具体这个清单是如何工作的呢?如左图所示,评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。
在开发方与使用者方面,开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后,使用者需要阅读指南,以此确立两方权责分配并获得知情。
第四部分:AI算法透明实践
我们选择推荐系统作为典型实例,也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方,其实就达到了这个场景下的透明度要求。
通过实现推荐系统的透明性,也能提升用户对系统的信任程度,使系统推荐结果得到检验,同时受到有关方面的监管。
考虑到推荐系统目前采用的AI推荐算法众多,所以我们设计了一个推荐系统外的解释系统或算法,用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。
其核心算法是采用知识图谱与强化学习的技术,充分挖掘推荐系统中的可解释模型,以此进行相关的路径挖掘,并利用解释路径对推荐系统行为加以解释。
这里我们采用一九年一个公开的购物网站公布数据进行结果演示,在利用上述算法完成解释系统后,对数据集进行路径挖掘,得到左图所示的结论。
基于上述深层的推理路径,对推荐系统的多个推荐实例进行解释。结果表明,方法不仅能够帮助推荐系统获得有希望的推荐结果,而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。
之后,我们分别将未加入和加入这一解释算法的推荐系统,按照前一章节设计的流程进行算法评估。结果表明,融入解释算法后的推荐系统,在透明度上有明显提升,但监管方也注意到,新的具有解释性质的推荐系统,在技术和社会风险上处理方法上有缺,要求对当前算法做进一步改进,并对提交的材料进行补充。
感谢各位的聆听!以上就是我们小组要汇报的全部内容。
编辑整理:陈龙以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。我们主要从分析问题、解决问题、效果评估和实际验证四方面,
上证报中国证券网讯1月17日,广西证监局发布公告称,光大期货巫有鹏在南宁营业部执业期间,存在向客户介绍操盘手,以个人名义接受客户委托代理
❤惠东梁化镇梁化林场“一树寒梅白玉条,迴临村路傍溪桥。不知近水花先发,疑是经冬雪未销”。位于惠东县梁化镇梁化林场的千亩梅花近期如约绽
大河报·豫视频记者杨惠明通讯员中体1月11日晚,体彩超级大乐透第23005期开奖,当期全国开出5注一等奖,单注奖金1000万元,开奖过后,奖池为11 50
唯科科技最新股东户数2 3万户,低于行业平均水平。公司户均持有流通股份1356股;户均流通市值4 61万元。
如果一方不同意离婚另一方能通过诉讼离婚。一方不同意离婚,另一方可以向法院提起离婚诉讼,法院会根据夫妻感情是否破裂判决是否准予离婚。如
国力股份(SH688103,收盘价:59 7元)1月16日发布公告称,2023年2月1日14点30分,公司将在昆山开发区西湖路28号国力股份1号会议室召开2023年第
近日,农业农村部官网发布2022年农业转基因生物安全证书批准清单(二),其中隆平高科&中国农科院、中国农业大学&中国林木种子集团的转基因玉米
作者|赵玲,编辑|wjx来源:巨丰投顾、好股票应用上一个交易日,北向资金净买入133 36亿,连续8个交易日净买入,北向风险偏好相对积极,可保持
降价后的特斯拉,被中国人买爆了?
姐妹们,防晒做得好,男友在高考,作为一个从黄黑皮,养成黄一白的防晒星人,因为自己是常年肌肤状态都非常的不稳定,所以,挑选合适自己的防
新华社吉隆坡1月13日电(记者汪艺)2023年马来西亚羽毛球公开赛13日在吉隆坡决出各项目四强,中国队在男双、混双、女单中各占一席,在女双中占
”阿坝州森林消防支队汶川大队大队长刘波表示,通过宣传提升防火意识,从根源上降低森林火灾发生概率。不仅如此,马尔康地震、湖南新田山火、
春节只有河南·戏剧幻城有什么活动吗?附购票入口活动时间:1月22日-2月5日活动地点:只有河南·戏剧幻城购票入口:点击进入1|点击进入2活动内
摩根大通发表报告,预计中国太保盈利和股息政策将会更有预测性,以支持该股作为收息选项,同时该行将公司去年、今年及明年的新业务价值预测分
以下是黑芝麻在北京时间1月13日09:26分盘口异动快照:1月13日,黑芝麻开盘跌幅达5%,截至9点26分,报9 72元,成交4936 34万元,换手率0 73%。
(一)不涉及财产关系的:2000元-30000元 件。上下浮动幅度:20%但收费额不足2000元的按2000元收取。(二)涉及财产关系的,按争议标的额的以下费
道通科技:道通科技关于可转债投资者适当性要求的风险提示性公告
王冠中为晋升民警颁授警衔标志作者黄美梓中新网广东新闻1月11日电(梁盛陈诗韵刘妮)1月10日是第3个中国人民警察节,当天,广东茂名市公安局举办
美媒将勇士队史最好的30名球员划分成五档,杜兰特被高估了吗,库里,美媒,勇士队,美国篮球,凯文杜兰特,凯文·杜兰特,国际篮球赛事,奥林匹克运动
2023年1月11日泛亚微透连续5日融资净偿还累计1161 97万元
1月11日上午,口腔种植体系统集中带量采购在四川开标,并产生拟中选结果。据国家医保局介绍,此次拟中选产品平均中选价格降至900余元,与集采
2023武汉春节|木兰草原北极村围炉煮茶带上心爱的TA,一起奔赴自然远离城市的喧嚣,一起去武汉北极村过有仪式感的春节,用浪漫的方式迎接兔年。
王子文与男友吴永恩已经将近三个月没有同框,12月31日是男方生日,王子文没有像往年那样送上祝福,网友猜测,两人感情出现了变化。2021年12月3
Metaverse作为一个平行于现实世界的虚拟世界,同时也是现实世界的投影,大家似乎已经认可,现实世界中人们可以做到的事情,也能在元宇宙中实现
Copyright 2015-2022 亚太酒业网 版权所有 备案号:沪ICP备2020036824号-11 联系邮箱: 562 66 29@qq.com