CN
CN EN

亚搏体育app发布商汤人工智能伦理与治理年报(2022年)

来源:亚搏体育app 日期:2022-09-25 点击量:1

9月25日,亚搏体育app在2022WAIC世界人工智能大会亚洲科技伦理与可持续发展论坛上,商汤科技正式发布了《商汤人工智能伦理与治理平衡发展白皮书——商汤人工智能伦理与治理年报(2022年)》(以下简称报告,点击此处下载报告全文)。商汤科技智能产业研究院院长田峰应邀出席并解读了白皮书的重点内容。

报告指出,目前,人工智能治理已进入基于技术验证的实施阶段。自今年年初以来,新加坡、欧盟、美国、中国等国家的监管机构和第三方机构已经发布了人工智能治理测试工具箱和技术监督沙箱,以促进人工智能治理的实施。

商汤作为世界领先的人工智能软件公司,一直非常重视人工智能治理。去年,他正式提出了平衡发展的人工智能伦理,并明确了以人为本、技术可控、可持续发展的伦理原则。随着人工智能治理进入实践阶段,商汤进一步提出了负责、可评价人工智能的发展,并将其作为商汤实施人工智能治理的愿景目标,创造一个闭环的伦理治理app下载官网入口。

从发展过程来看,人工智能治理已经经历了1.0阶段的原则性讨论和2.0阶段的政策性讨论。2022年,随着全球人工智能治理进程的不断推进,以及可信、负责任的人工智能等相关理念的不断渗透,验证人工智能治理实施方式的倡议日益增多。人工智能治理开始进入3.0阶段,以技术验证为主,即实施阶段。

目前,亚搏体育app人工智能治理的实施仍面临诸多挑战,各行各业需要关注思想与行动、政策与实践、技术与用户三种关系,即人工智能伦理的共同原则;将政策要求转化为技术和业务团队的实践标准;处理技术与用户之间的关系,促进用户对人工智能治理的认识,最终进一步促进人工智能治理。

为了有效推动人工智能治理,商汤科技在分析全球人工智能治理需求的基础上,结合自身对技术和市场的认识,在白皮书中提出人工智能治理应该是一个价值牵引、技术第一、多方参与、分层推进的动态过程,为人工智能治理的实践建立了有效的途径。

从治理效果的角度来看,人工智能治理的实现可以从低到高分为四个层次:可用性、可靠性、可控性和可信度。其中,可用性是指人工智能系统在功能和性能方面应能够满足应用场景的需要,可靠性是指人工智能系统应能够满足部署环境和可持续运行的要求,可控性是指人工智能系统应能够充分保护人类在功能层面的自主意志和权利,可信度是指人工智能系统的设计和应用应符合人类的价值观和伦理道德。

因此,亚搏体育app人工智能治理系统建设的目标是发展负责任的人工智能,需要有跟踪和证据。商汤以平衡发展的伦理观和以人为本、技术可控、可持续发展的伦理原则,首次提出了行业负责、可评价人工智能的发展,并将其作为实施人工智能治理的愿景目标。

商汤自2020年1月全面推进人工智能伦理治理体系建设以来,作为行业内最早成立人工智能伦理治理委员会,将伦理治理作为公司战略方向的科技创新企业之一,开展了大量内部治理创新实践,形成了一套可评价的人工智能治理实施方案,将伦理原则嵌入到产品设计、开发、部署的整个生命周期中,初步形成了人工智能治理的闭环ios/Android。

在数据风险方面,尚堂将个人信息保护纳入产品研发的整个生命周期,成立数据安全与个人信息保护委员会,实施个人信息保护评估和评审,确保产品遵循默认设计要求,满足个人信息保护。

在算法风险方面,作为领先的人工智能企业,尚堂主动承担算法开发人员的主要责任,对商业算法场景进行基于实际场景的算法验证和评估,实现人工智能技术的真实可信度和可控性。

在应用风险方面,尚堂继续完善人工智能伦理治理体系,建立产品伦理风险审查流程,涵盖整个生命周期的设计、开发和部署;随着全球人工智能产业的发展和变化,建立全球人工智能伦理风险库;定期组织员工进行人工智能伦理培训,不断完善内部伦理沟通体系,不断提高员工伦理素质。

为了确保人工智能治理系统的有效实施,促进人人负责企业文化的形成,尚堂还建立了伦理风险目标管理机制、伦理风险事件处理机制和伦理治理质量控制机制。此外,为了促进负责任和可评估人工智能的发展,尚堂还开发了一系列涵盖数据治理、算法评估、模型体检和伦理评审的工艺工具和技术平台。

随着亚搏体育app人工智能在工业中的逐步应用,人工智能的发展与治理之间的关系,就像汽车的引擎和方向盘一样,相辅相成,缺一不可。在本次论坛上,商汤科技智能产业研究院科技政策与伦理研究主任龚超也应邀出席圆桌讨论,讨论拥抱科技伦理治理体系,赋予可持续发展之路。结合商汤在人工智能治理方面的实际成果,他与业内嘉宾就商汤的人工智能治理主张进行了深入探讨。他强调,商汤将继续推动人工智能的发展,这是一种负责任的、可评估的人工智能,并不断为人工智能治理的实践做出贡献。


亚搏体育app