人工智能技术应用风险与规避思路

来源：科学家

作者：杨莉 刘文文

进入智能化、信息化时代，以人工智能技术为基础的新一代信息科技不断向认知智能阶段迈进，特别是2022年11月美国人工智能Open AI公司研究发布的聊天机器人程序ChatGPT，实现了人工智能从感知理解世界到生成创造世界的跃迁。然而，人工智能技术具有不同于以往任何科技的特殊性，在创造诸多新型领域的成就和便利的同时，也暴露出内在固有的不确定性风险和挑战。在马克思看来，即便人类的存在形态与社会生产方式密切联系，并且生产工具从手工形态更替到人工智能逐渐具备代替人脑的趋势，但它实际上难以获得人类主体性意识，依旧是人类智能发展的阶段性产物。人工智能虽然在某种程度上超出了人们的预想的范围，逐渐具备类人智慧与拟人特征，但人工智能无法模拟人类的右脑和边缘系统（非逻辑思维），无法脱离人类智能独立思考。虽然ChatGPT 在自我学习、自我进化和自我创造等综合能力方面取得了突破性进展，甚至在各种专业和学术基准测试中已达到人类水平，但必须明确，人工智能目前仍然处于弱人工智能阶段，只能解决目标领域的单一问题，它背后隐藏的依旧是人与人之间的现实关系。也就是说，ChatGPT仍旧是以大型语言模型GPT-3为基础技术，依旧是人类智能现实化的表征方式。

实际上，人工智能技术嵌入社会实际应用风险的规避是一项复杂的系统工程，应该致力于构建一个综合性的治理框架。人工智能技术作为全球前沿技术创新领域的一项崭新技术，并未完全发展成熟。人工智能技术带来其他产业领域的颠覆性发展在促进人类实现诸多领域便利的同时，也引发了一系列难以应对风险挑战。因此，面对人工智能技术发展带来的机遇和挑战，盲目限制人工智能超越图灵奇点甚至放弃人工智能发展的做法无疑是因噎废食。未来数字社会将呈现出走向信息化和智能化相结合的趋势，亟需有效的手段对人工智能技术应用风险进行防范和规制。不仅要充分释放人工智能技术发展的红利促进人类社会综合性变革，而且需要充分发挥社会治理作用。针对人工智能技术存在的技术缺陷，需要加强技术伦理规范和科学家的人文精神，提高人工智能技术模型的可解释性和可追溯性。针对人工智能技术存在的治理缺陷，需要以社会合作共治为框架，协同政府部门、社会、企业和公众层面实现各环节配套衔接，形成政府监管、社会协同、企业合作、公众参与的社会治理格局。针对人工智能技术存在的治理难题和差异性，需要推动人工智能技术运用的国际合作，推动人工智能技术伦理与法律标准化治理体系建设。