网信知识栏丨人工智能带来的风险与挑战有哪些？

风险与挑战

(一)法律层面

1. 产品责任问题

由于科技技术的不完全可靠性以及智能系统存在的先天设计缺陷,产品责任的归责问题伴随人工智能的发展而来,尤其是感知智能领域的产品责任问题。

2.隐私保护问题

人工智能的发展有赖于利用数据训练算法,在这个过程中需要收集、分析和使用大量的数据,数据的价值日益凸显。人工智能时代,用户使用各种应用产品时,本身就是主动的隐私泄密者。

(二)伦理层面

人工智能的发展与普及应用,对于传统社会伦理造成巨大冲击。如果不能谨慎处理人工智能所带来的伦理问题,将会对未来社会造成严重的伤害。

专家观点

中国工程院院士、浪潮首席科学家王恩东:当前人工智能的技术、产业链条脱节,生态离散化成为制约人工智能技术上水平、应用上规模、产业上台阶的瓶颈。要想释放多元算力价值、促进人工智能创新,既要重视智算系统的创新,加大人工智能新型基础设施建设,又要加快推动开放标准建设,通过统一、规范的标准,将多元化算力转变为可调度的资源,让算力好用、易用。
    国家新一代人工智能治理专业委员会委员、上海交通大学人工智能研究院首席顾问李仁涵:当前,中国迫切需要建立相应的可操作“规则”,这不仅有利于人工智能的可持续发展,还有利于人工智能与国际接轨及实现全球化发展。
    清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正:当下,形成人工智能伦理和治理共识非常重要,否则将阻碍其发展。此前,联合国教科文组织通过首份人工智能伦理问题全球性协议《人工智能伦理问题建议书》,旨在促进人工智能为人类、社会、环境以及生态系统服务,并预防其潜在风险。