首页 > 资讯 >

天天资讯：干货 | AI算法透明性实现与评估

2023-01-21 23:55:42 来源：程序员客栈

以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。

我们主要从分析问题、解决问题、效果评估和实际验证四方面，推动这一课题的研究，并形成相应的研究成果。

第一部分：AI算法透明概述

(资料图片)

第一部分，AI算法透明概述，主要凝练了当前AI算法透明性存在的挑战。

近年来，人工智能技术的发展使得其透明性问题日益凸显，为保障用户对算法知情，实现监管机构对算法进行有效规范治理与问责，算法透明性必不可少。

然而，算法透明性更类似于原则性的提议，具体如何落实透明性要求，并对其进行有效评估，尚未形成共识。

因此，我们对AI算法透明当前存在的诸多挑战进行了总结，主要涉及三个维度：技术、评估和制度。

技术上，很难处理AI算法的黑箱问题；

评估上，对透明程度的要求很难把握尺度；

制度上，算法问责机制仍然模糊。

为有效应对这些挑战，我们首先给出算法透明性实现路径，解决技术和制度问题，之后提出算法透明评估清单应对评估问题，最终在推荐系统下进行实践与应用。

第二部分：实现AI算法透明

宏观上，我们首先需要AI算法透明性治理范式，针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义，形成一种以法律规制为主导，技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。

微观上，这一范式的实施措施落实到学术、法律、技术和场景四方面。

学术上，国内外学者研究主要从多方视角相关主体出发，提出了若干在法律规制和技术适配方面的思考。

法律上，鉴于算法透明，是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式：赋权模式和行为规范模式。赋权模式属于事后救济，而行为规范模式属于事前预防和事中约束。

这里我们具体对比了不同国家地区的法律，发现各国都采取健全算法问责机制等措施。此外，我们也注意到欧盟还强调对算法参数的公开。

技术上，我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术，该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例，又会有更为细致的方法。

不同的应用场景，对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计，四个细分领域内进行了需求分析和方法探索。

第三部分：评估AI算法透明

鉴于现有法律规制大多在宏观层面强调算法透明监管原则，却鲜小有具体措施。因此，我们提出一套相对详细、可实施的评估标准，以细化并落实算法透明度合规要求。

首先，面向算法使用者的AI透明度评估清单的设计目标，在于保障知情权。内容主要分为算法概述与技术信息，要求算法开发方对这些内容进行说明。

算法使用者的AI透明度评估清单相较于面向用户的清单，由于监管方需要根据算法评估内容进行等级评估，所以该技能较为严格，需要说明的内容也更为复杂。

为配合透明度评估清单的使用，我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估，不同等级对于算法开发者应当达到的透明度有不同要求，且逐步加强。

具体这个清单是如何工作的呢？如左图所示，评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。

在开发方与使用者方面，开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后，使用者需要阅读指南，以此确立两方权责分配并获得知情。

第四部分：AI算法透明实践

我们选择推荐系统作为典型实例，也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方，其实就达到了这个场景下的透明度要求。

通过实现推荐系统的透明性，也能提升用户对系统的信任程度，使系统推荐结果得到检验，同时受到有关方面的监管。

考虑到推荐系统目前采用的AI推荐算法众多，所以我们设计了一个推荐系统外的解释系统或算法，用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。

其核心算法是采用知识图谱与强化学习的技术，充分挖掘推荐系统中的可解释模型，以此进行相关的路径挖掘，并利用解释路径对推荐系统行为加以解释。

这里我们采用一九年一个公开的购物网站公布数据进行结果演示，在利用上述算法完成解释系统后，对数据集进行路径挖掘，得到左图所示的结论。

基于上述深层的推理路径，对推荐系统的多个推荐实例进行解释。结果表明，方法不仅能够帮助推荐系统获得有希望的推荐结果，而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。

之后，我们分别将未加入和加入这一解释算法的推荐系统，按照前一章节设计的流程进行算法评估。结果表明，融入解释算法后的推荐系统，在透明度上有明显提升，但监管方也注意到，新的具有解释性质的推荐系统，在技术和社会风险上处理方法上有缺，要求对当前算法做进一步改进，并对提交的材料进行补充。

感谢各位的聆听！以上就是我们小组要汇报的全部内容。

编辑整理：陈龙

金融界基金01月17日讯广发中证全指金融地产ETF基金01月16日上涨1 04%，现价0 968元，成交617 85万元...

2023-01-17

世界微速讯：央视兔年春晚首批亮点公布大凉山喜德县中坝村果果合唱团开场

1月16日，中央广播电视总台《2023年春节联欢晚会》举行新闻发布会，介绍多项技术创新亮点，官宣主持人阵容。

2023-01-16

每日快报!合兴股份（605005）1月16日主力资金净买入30.32万元

每日速读!特斯拉曾“铩羽而归”，比亚迪“啃”得下印度市场“硬骨头”？

天天观察：废钢难收，春节前全国独立电炉厂停产节奏加快！附春节后市预判

天天快报!两会新声丨邓彬光代表：传承龙狮文化推向世界舞台

天天资讯：一汽解放与新疆能源重工签署采购框架协议

【全球快播报】乌兰察布市总工会助力乡村振兴深入福泰村开展2023年春节送温暖活动

当前播报:小说描写男生的外貌的句子(精选38句)

【全球新视野】日媒：中国2022年汽车销量增长2.1% 电动汽车销量超日本新车销量

热点！年味一下子就来了！

当前简讯:陕西发布2022年度重要考古发现

全球最新：潢川县气象局发布大雾橙色预警「II级/严重」「2023-01-13」

短讯！舟山市普陀区交通违章可以去处理的时间是多久

天天观点：2023北京怀柔区总工会春节会员专享活动免费领取通知一览

环球快消息！iPhone 16 Pro取消灵动岛搭载屏下Face ID

全球头条：全面加强生态环境公共利益司法保护

环球快资讯：摩洛哥160MW Noor 1聚光光热项目开工

全球快消息！小崧股份(002723.SZ)签订8959.73万元建筑工程施工合同

观速讯丨深圳幼儿园招聘教研员、带班教师、生活老师若干名

世界热消息：刚刚！河南数据集团揭牌

【当前独家】“抖音好物年货节”引新春消费热潮，商城年货销量同比增长超3倍

今日视点：湖人800万报价易建联！29岁的他为什么拒绝加盟？合同里大有玄机

观天下！“三九”开始就暖成这样也是不多见

今日播报!10岁的孩子抚养费得花多少呢？

环球热头条丨收款收据怎么样写样本

环球看热讯：招联好期贷网贷14万逾期暂时还不起会被起诉吗

评测

天天资讯：干货 | AI算法透明性实现与评估

以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。我们主要从分析问题、...

2023-01-21

当前时讯：23号线上海体育场站新进展！一期工程首个车站完成围护结构封闭

临近春节市重大工程项目的工地上陆续传来新进展的好消息上海体育场地块东南角，一幅长41米的钢筋笼缓慢...

2023-01-21

每日消息!实锤！台军就是看不见歼-20！

实锤！台军就是看不见歼-20！

2023-01-21

今日热文：『每日篇』P站日榜动漫壁纸分享 _230120档

P站二次元动漫壁纸&美图分享（2023年01月20日档），含Pixiv综合今日榜单及其他精选美图，共36张。图源PI...

2023-01-21

全球讯息：2023年河南春晚回放完整版观看指南（平台+入口+节目单）

2023年河南春晚回放完整版观看指南2023年河南春晚以《卯足劲头弄春潮》为主题，以中国传统文化、黄河文...

2023-01-20

行情

精彩推送

天天资讯：干货 | AI算法透明性实现与评估

上一篇：

下一篇：

天天资讯：干货 | AI算法透明性实现与评估

以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。我们主要从分析问题、...

当前时讯：23号线上海体育场站新进展！一期工程首个车站完成围护结构封闭

临近春节市重大工程项目的工地上陆续传来新进展的好消息上海体育场地块东南角，一幅长41米的钢筋笼缓慢...

每日消息!实锤！台军就是看不见歼-20！

实锤！台军就是看不见歼-20！

今日热文：『每日篇』P站日榜动漫壁纸分享 _230120档

P站二次元动漫壁纸&美图分享（2023年01月20日档），含Pixiv综合今日榜单及其他精选美图，共36张。图源PI...

全球讯息：2023年河南春晚回放完整版观看指南（平台+入口+节目单）

2023年河南春晚回放完整版观看指南2023年河南春晚以《卯足劲头弄春潮》为主题，以中国传统文化、黄河文...

全球要闻：恶灵骑士2剧情_关于恶灵骑士2剧情的基本详情介绍

1、《灵魂战车2：复仇时刻》是哥伦比亚影片公司发行的一部动作片，由马克·耐沃尔代执导，尼古拉斯·凯...

世界热消息：定了！今年高考全国统考时间公布

日前，教育部印发《关于做好2023年普通高校招生工作的通知》。通知提到，2023高考全国统考于6月7日开始...

当前关注：漠河市气象台发布大雾黄色预警【III级/较重】

漠河市气象台发布大雾黄色预警【III级 较重】

天天看点：过年肉、油、坚果怎么挑？这些办年货秘籍你get了吗？

快过年了，这些办年货秘籍你get了吗？肉价差十倍家养的肉就更好吗？过年少不了买点生鲜肉类囤起来，做年...

【世界聚看点】Paxlovid 和阿兹夫定的区别，7 张表总结全了

Paxlovid和阿兹夫定的区别，7张表总结全了

今日热门!嘉华国际（00173.HK）1月19日收盘跌0.69%

截至2023年1月19日收盘，嘉华国际(00173 HK)报收于2 89港元，下跌0 69%，换手率0 01%，成交量41 6...

世界短讯！@蓝桥杯刷题记8

第一题：约瑟夫环题目分析此题我们采用C++标准库提供的list链表类进行处理，这样我们的工作就简单了，首...

世界微速讯：你管这破玩意叫指针？

本系列分三篇，用破玩意的方式彻底理解好指针的本质：你管这破玩意叫指针--基础篇你管这破玩意叫指针--...

视焦点讯！军队文职《公共科目》考试历年真题题库及答案app！

军队文职《公共科目》考试历年真题题库及答案app！军队文职《公共科目》考试历年真题题库及答案app简介...

天天百事通！连续冬季风暴对美国加州多地造成严重破坏 已致20人死亡

报道称，持续三周的风暴导致加州至少20人死亡，并对该州大部分地区造成严重破坏。17日，虽然部分地区仍...

当前讯息：1月18日四川朵燊化工30品位磷矿石价格动态

1月18日，四川朵燊化工有限公司磷矿石价格动态，30%品位磷矿石报价1060元 吨，价格暂时稳定，供应紧张...

【世界速看料】REVA旗下ArtStreet 更名R-Meta 用户数据同步转移

REVA旗下ArtStreet更名R-Meta用户数据同步转移REVA这一年来的发展速度是有目共睹的,在技术、应用和投资...

焦点速讯：2023-2028年中国氯代正丁烷行业市场深度分析及投资战略研究报告

本报告由华经产业研究院出品，对中国氯代正丁烷行业的发展现状、竞争格局及市场供需形势进行了具体分析...

视点！中国女足国家队接受环球时报专访：女足面临空前挑战，但“在往上走”

作为亚洲杯冠军，2023年是中国女足的“大考之年”，她们将在4个月内连踢3项顶级赛事：7月至8月的女足世...

天天通讯！“大友”的约定

“大友”的约定---虽然工作时常变化，但是他和女儿之间的约定却从未改变——每年回家过年。

全球观速讯丨又一省执行居民峰谷分时电价机制！

1月4日，宁夏自治区发展改革委印发关于优化峰谷分时电价机制的通知，通知指出，为充分发挥分时电价信号...

全球关注：2023无锡鼋头渚免票预约瞬时最大承载量是多少

2023无锡鼋头渚免票预约瞬时最大承载量是多少查询入口：http: www ytz com cn index html查询界...

全球观速讯丨中交地产2022年累计交付23个项目 迎来近2万户新业主

观点网讯：1月16日，中交地产官微信息披露，2022年中交地产布局13个城市、23个中交地产项目准时甚至提前...

天天热门:广发中证全指金融地产ETF净值上涨1.05% 请保持关注

金融界基金01月17日讯广发中证全指金融地产ETF基金01月16日上涨1 04%，现价0 968元，成交617 85万元...

世界微速讯：央视兔年春晚首批亮点公布 大凉山喜德县中坝村果果合唱团开场

1月16日，中央广播电视总台《2023年春节联欢晚会》举行新闻发布会，介绍多项技术创新亮点，官宣主持人阵容。

每日快报!合兴股份（605005）1月16日主力资金净买入30.32万元

每日速读!特斯拉曾“铩羽而归”，比亚迪“啃”得下印度市场“硬骨头”？

天天观察：废钢难收，春节前全国独立电炉厂停产节奏加快！附春节后市预判

天天快报!两会新声丨邓彬光代表：传承龙狮文化 推向世界舞台

天天资讯：一汽解放与新疆能源重工签署采购框架协议

【全球快播报】乌兰察布市总工会助力乡村振兴深入福泰村开展2023年春节送温暖活动

当前播报:小说描写男生的外貌的句子(精选38句)

【全球新视野】日媒：中国2022年汽车销量增长2.1% 电动汽车销量超日本新车销量

热点！年味一下子就来了！

当前简讯:陕西发布2022年度重要考古发现

全球最新：潢川县气象局发布大雾橙色预警「II级/严重」「2023-01-13」

短讯！舟山市普陀区交通违章可以去处理的时间是多久

天天观点：2023北京怀柔区总工会春节会员专享活动免费领取通知一览

环球快消息！iPhone 16 Pro取消灵动岛 搭载屏下Face ID

全球头条：全面加强生态环境公共利益司法保护

环球快资讯：摩洛哥160MW Noor 1聚光光热项目开工

全球快消息！小崧股份(002723.SZ)签订8959.73万元建筑工程施工合同

观速讯丨深圳幼儿园招聘教研员、带班教师、生活老师若干名

世界热消息：刚刚！河南数据集团揭牌

【当前独家】“抖音好物年货节”引新春消费热潮，商城年货销量同比增长超3倍

今日视点：湖人800万报价易建联！29岁的他为什么拒绝加盟？合同里大有玄机

观天下！“三九”开始就暖成这样也是不多见

今日播报!10岁的孩子抚养费得花多少呢？

环球热头条丨收款收据怎么样写样本

环球看热讯：招联好期贷网贷14万逾期暂时还不起会被起诉吗

一线 | 清理隔离垃圾的环卫“大白”：脱下防护服，浑身是馊味

一线|对接社区梳理需求 民企线上线下双保供

漠河市气象台发布大雾黄色预警【III级较重】

天天百事通！连续冬季风暴对美国加州多地造成严重破坏已致20人死亡

1月18日，四川朵燊化工有限公司磷矿石价格动态，30%品位磷矿石报价1060元吨，价格暂时稳定，供应紧张...

全球观速讯丨中交地产2022年累计交付23个项目迎来近2万户新业主

世界微速讯：央视兔年春晚首批亮点公布大凉山喜德县中坝村果果合唱团开场

天天快报!两会新声丨邓彬光代表：传承龙狮文化推向世界舞台

环球快消息！iPhone 16 Pro取消灵动岛搭载屏下Face ID

一线|对接社区梳理需求民企线上线下双保供

因140瓶援沪油焖笋走红浙江奉化76岁老人直言很害羞