“AI可信专题论坛”在上海召开共探新一代人工智能治理新路径

国外有IBM沃森的医疗AI产品做出了错误诊断并开出不安全药物,国内有杭州动物园发生的“中国人脸识别第一案”近年来,人工智能治理问题已经成为人工智能发展道路上不可忽视的关键问题。

“技术的发展从来都是一把双刃剑,人工智能在给人类社会带来便利的同时也带来新的安全问题及风险。”中国科学院院士何积丰指出。4月12日,“AI可信专题论坛”在上海召开,专家们围绕这一关键性问题展开深入探讨。

“人工智能发展仍旧面临诸多挑战。”京东集团技术委员会主席、京东人工智能研究院院长周博文指出,真实世界环境开放、边界和规则模糊、数据噪音多、AI模型的部分结果难以信赖等引发的问题层出不穷。如智能摄像头将公车上的广告识别为闯红灯者、AI写作软件创作核材料被盗的假新闻、智能音箱建议使用者自杀等,不难发现,这些问题已经逐渐与人们的生活密切相关。

人工智能治理过程中的公平性是大会上专家们反复讨论的一个问题。为了降低技术使用门槛,使更多人能够公平享受到技术的便捷服务,京东科技做出了一系列尝试。周博文介绍说,为了帮助老人消除数字障碍,京东科技为河西区打造居家养老服务管理平台,推出居家养老服务卡,集成服务结算,补贴发放,安全储值等功能,通过传统的持卡消费的方式享受智能生活。此外,为了让每个用户都能够享受优质的服务,京东还打造能够识别方言的电话客服,已能够准确识别四川、重庆、陕西、山西等地的方言,正在逐步实现对全国其他地区的方言覆盖。

复旦大学计算机学院院长姜育刚则指出,要通过“技术+规则”双轮驱动算法治理。“技术与规则联动,一方面研究更符合规则的人工智能算法,发展评估技术以度量现有人工智能算法的合规程度;另一方面通过规则自顶向下约束人工智能技术活动牵引其健康发展。”

近日,清华大学人工智能国际治理研究院副院长梁正在对研讨会上发布的《人工智能治理框架与实施路径》报告内容进行介绍时表示,当前人工智能治理的挑战主要集中于三个方面:数据、算法、平台等新兴治理对象的涌现使得追责的难度不断增大;人工智能技术的发展和应用场景的拓宽使得潜在的重大技术、经济和道德风险开始冲击人类社会现存的价值体系和竞争格局;现存的法律、监管制度供给的缺陷和全球范围内灵活、有效治理机制的缺失问题进一步凸显。

“在治理过程中,除了应对以上挑战所带来的风险外,还须实现发展与治理的平衡,既要避免规范不足导致的社会问题,也要避免过度监管阻滞技术的发展。”梁正说。(吴红梅 记者 王春)

国外有IBM沃森的医疗AI产品做出了错误诊断并开出不安全药物,国内有杭州动物园发生的中国人脸识别第一案…

4月9日,记者从中国热带农业科学院获悉,该院橡胶所育种团队在橡胶树CRISPR Cas9质粒编辑体系研究方面…

人工智能可以分为几个发展阶段:基于数据的互联网时代、基于算力的云计算时代,以及接下来可能将进入的…

记者从中国科学技术大学获悉,该校潘建伟院士及其同事张强与合作者合作,采用不同理论方法,在国际上首…

4月13日,2021第五届世界无人机大会暨第六届深圳国际无人机展览会组委会召开新闻发布会,宣布主题为新起…

据《自然机器智能》杂志报道,德国科学家借助一款深度学习软件,对数万个医疗数据集展开分析后,确定…

除了基于ARM架构、面向AI HPC的自主CPU处理器Grace,NVIDIA今天还发布了下一代全新自动驾驶平台DRIVE …

当前,科技巨头跨界造车火热,相比四轮市场,两轮电动车行业略显低调,也极少受到关注。4月7日,哈啰出…

十四五规划纲要将新型基础设施建设作为拓展投资空间的重点。近期,多个部委接连发声,包括加快出台十四…

3月23日,自动驾驶技术研发与应用服务提供商图森未来向美国证券交易委员会递交IPO申请,计划在纳斯达克…

实用干货原创整理,转载请注明出处!本站所有资源均可以免注册下载,扫码支付更方便。
免责声明:因为源码和模板等程序的特殊性,安装或者部署的同时需要一定的技术知识,请自行安装调试,本站不能所有提供的资源都提供安装帮助的,如遇到相关问题请自行解决,本站不提供退款和相应的免费解答服务!
实用干货 » “AI可信专题论坛”在上海召开共探新一代人工智能治理新路径