发展负责任的人工智能


发展负责任的人工智能



数据来源:《中国新一代人工智能发展报告2019》
核心阅读
我国数据资源丰富, 应用场景需求迫切, 基础研究、技术开发的水平显著提升, 人工智能较快发展 。 与此同时, 治理方面的问题也随之出现 。
国家新一代人工智能治理专业委员会发布《治理原则》, 以“发展负责任的人工智能”为主题, 希望“负责任”贯穿人工智能的研发和应用, 促进技术的健康发展 。
近年来, 人工智能迅速发展, 作为引领新一代科技革命和产业变革的战略性技术, 人工智能正深刻影响社会生活、改变世界, 在引发巨大变革的同时, 也带来了诸多风险, 人工智能该如何健康发展?
6月17日, 国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》(以下简称《治理原则》), 提出了人工智能治理的框架和行动指南 。 这是我国促进新一代人工智能健康发展, 加强人工智能法律、伦理、社会问题研究, 积极推动人工智能全球治理的一项重要成果 。
治理问题引起广泛关注, 学界业界都在探索自律
“自2017年国家新一代人工智能发展规划发布以来, 我国人工智能与各行业各领域的融合日益深入, 展现出巨大的发展潜力 。 ”清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜说, 人工智能正在对政府管理经济模式、社会结构、国家安全甚至国际关系产生深刻的影响, 随着技术的发展和应用, 治理方面的问题不断出现, 引起了科技界、产业界和社会的广泛关注 。 “很多国际组织、产业联盟和知名企业都在研究制定人工智能相关的准则, 我国一些学术组织和产业联盟在这方面非常活跃, 业界也在积极探索行业自律 。 ”薛澜说 。
为促进新一代人工智能健康发展, 国家新一代人工智能治理专业委员会成立, 统筹推进人工智能治理的相关工作, 起草这份《治理原则》就是委员会今年的重点工作之一 。
【发展负责任的人工智能】起草过程中, 委员会注重广泛听取各方面意见 。 “我们在网络上公开动员公众参与, 形成了上百条重要建议 。 ”薛澜说, 委员会还多次召开有关高校科研院所和企业代表参加的座谈会, 广泛凝聚了学界、业界和社会的共识 。
中国科学院自动化研究所研究员、国家新一代人工智能治理专业委员会委员曾毅介绍, 目前全球各国政府、非政府组织和产业界机构已发布了超过40份人工智能准则, 这些准则往往是在发布征求意见稿之后听取意见 。 “《治理原则》是在未发布任何内容的情况下, 收集从业人员甚至普通用户对人工智能的期待和愿景, 这是《治理原则》最主要的一个特点 。 ”
“负责任”是主题, 涵盖人工智能的基础研发到应用
“发展负责任的人工智能”成为《治理原则》的主题, 在受访专家看来, “负责任”涵盖了人工智能的基础研发层到应用层, 更应成为贯穿人工智能发展的一条主线 。 薛澜举例说:“比如我们提出的‘和谐友好’等原则, 强调无论是人工智能提供的产品还是服务, 都应该是负责任的、全面的, 应以增进人类共同福祉为目标, 应该符合人类的价值观和伦理道德, 避免误用, 禁止滥用、恶用 。 ”
《治理原则》旨在更好协调人工智能发展与治理的关系, 确保人工智能安全可控可靠, 推动经济、社会及生态可持续发展, 共建人类命运共同体, 这也构成了《治理原则》的4个主要亮点 。

推荐阅读