人工智能可造福也可致险 我们如何应对?

　　本报记者 刘诗瑶 喻思南

　　近年来，人工智能大模型技术的涌现，掀起新一代人工智能发展的研究热潮，也为各行各业应用人工智能带来新的发展机遇。

　　人工智能的未来充满哪些可能性？我们如何应对？记者采访了有关专家。

　　人工智能研究正从以往的学术牵引更多转为需求牵引

　　作为新一轮科技革命和产业变革的重要驱动力量，人工智能被普遍认为将对经济社会发展产生深远影响。

　　近年来，人工智能研究正从以往的学术牵引更多转为需求牵引，人工智能的发展目标正发生大的转变。

　　在浙江大学人工智能研究所所长吴飞看来，人工智能正由原来的“用计算机模拟人的智能”，向着三个方向拓展：“机器+人”（用机器与人结合成增强的混合智能系统），“机器+人+网络”（用机器、人、网络结合组织成新的群体智能系统），“机器+人+网络+物”（用机器、人、网络和物结合而成的智能城市等更复杂的智能系统）。在“赋能社会”的应用驱动下，一系列智能技术正在蓬勃发展。

　　北京邮电大学人工智能学院人机交互与认知工程实验室主任刘伟介绍，从使用数学模型建立机器智能、借助统计概率实现机器学习，再到试图借助迁移方法实现上下文感知的行为智能系统，这三类人工智能发展趋势体现了向人机环境系统迈进的发展路径。“具备对环境的感知、理解和交互能力，才算真正意义上的通用人工智能。”刘伟说。

　　2017年国务院印发的《新一代人工智能发展规划》，明确了多种人工智能的技术形态，其中包括跨媒体智能、群体智能、混合增强智能等。

　　吴飞举例，手术机器人参与的外科手术无法由医生独立完成，也无法由机器人单独完成，呈现出人机协同混合增强智能特征。“更多的垂直行业也正在加快相关人机交互探索，要么将人的作用引入智能系统，要么在人工智能系统中引入受生物启发的智能计算模型。人机通过不断的彼此交互、相互学习，达到持续增进自身智能水平的目的。”吴飞说。

　　通过技术和法律等手段规避人工智能风险

　　人工智能造福人类，同时也存在潜在风险。

　　“人工智能的风险，主要存在于这样几种可能的情况：一是恶意使用人工智能和错误使用人工智能；二是软件漏洞与硬件失效造成人工智能故障；三是环境变化造成人工智能失控。”刘伟说。

　　人工智能使用不当的风险已引发人们关注。例如，人工智能技术可收集和分析海量数据，有可能导致个人隐私泄露、数据泄露和网络攻击；人工智能技术可生成虚假照片、视频等，助长网络欺诈等不法行为。人工智能主题的科幻电影所描绘的超前场景，也让人们思考人工智能技术可能带来的伦理问题，例如，人类未来如何与有“智能”的机器相处？

　　在吴飞看来，人类始终是人工智能高度、广度和深度的总开关与决定者，也是人和人造物的协调者。因此，一方面不能简单地将人工智能等同于人类大脑，盲目相信“人工智能替代人类”的观点，另一方面也要善于利用人工智能这一人类帮手，在人机协同中创造更加美好的未来。

　　专家认为，通过技术和法律等手段，人工智能相关风险可以规避，人类也有能力找到化解风险的有效手段。

　　我国始终是人工智能治理的积极倡导者和实践者。2021年9月，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，强调将伦理道德融入人工智能全生命周期。2023年10月，我国在第三届“一带一路”国际合作高峰论坛期间发布《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案，充分体现了我国在处理人工智能治理问题上的大国担当。

　　建立良好生态系统支撑人工智能赋能社会

　　近年来，越来越多的国家将人工智能发展置于国家战略层面，在顶层设计中加入防止人工智能技术垄断和技术无序扩张等理念。

　　如何防范人工智能技术被滥用？

　　受访专家表示，应该建立多学科、多领域的合作，鼓励科学家、工程师以及公众广泛参与，共同探讨人工智能的发展方向、应用领域和道德伦理问题。全世界应该携手，坚持发展和安全并重的原则，确保人工智能技术的发展符合人类的整体利益。

　　刘伟表示，从技术手段上看，为了增加人工智能的公平性、可信任性、可解释与透明度、安全性等，研发主体从顶层设计、过程控制、工程收尾等整个流程中都要保持人机环境系统的设计思路。

　　瑞莱智慧首席执行官田天认为，要扎实做好人工智能基础理论攻关，提升人工智能的内在安全性能；锻造、储备对新一代人工智能的安全评测能力，掌握对其准确性、效率、内容安全、抗攻击能力等多个维度进行评测的方法和手段。同时，还要着力研发提供必要的安全工具，比如提供深度伪造检测工具帮助公众辨识信息真伪、防范网络欺诈等。

　　数据与算法安全是人工智能安全的核心。专家表示，要重视高质量语料的建设，通过精标数据、反馈数据来进行优化训练，最终实现模型输出的选优除劣。

　　吴飞认为，推动人工智能技术赋能社会需要良好生态系统的整体支撑，不仅仅只是技术研发本身。要把握人工智能技术属性和社会属性高度融合的特征，加强前瞻预防与约束引导。“一个良好的生态系统可有机联结伦理与道德、技术与产业、资本与市场，在这样一个生态系统中，每个来自不同领域的人工智能参与者都能从中获益。”吴飞说。

　　《 人民日报 》（ 2024年01月14日 06 版）