 OpenAI为ChatGPT添加了联网在内的各类插件系统，技术上解释起来破费周折，我们不妨将其结果形象地理解为“当ChatGPT不只能Chat”，其施展作为的空间更加广阔。 李艳 翟一鸣 现代院科技与网络安全研究所 OpenAI和微软近来可真是频繁带节奏，在ChatGPT“余热未消”之时，直接再上GPT-4，各方还未从一波仍泛一波再起的目眩之中醒过神来，这两天又接连推出“重磅炸弹”。可见在ChatGPT等智能系统领域，相关机构真的是做到了默耕多年，攒足存货，一朝出手，风起云涌。 这一次，微软更是将GPT-4整合进自家应用，OpenAI为ChatGPT添加了联网在内的各类插件系统，技术上解释起来破费周折，我们不妨将其结果形象地理解为“当ChatGPT不只能Chat”，它可做的事情不再只是交互反馈式生成与输出，其施展作为的空间更加广阔。 AI生产力助手诞生 3月16日，微软推出由GPT-4提供支持的AI助手“Microsoft 365 Copilot”（以下简称“Copilot”）。微软官方简介称，该助手把人工智能大型语言模型的强大功能与微软相关应用中的数据相结合，可将文字转化为最为强大的生产力工具。具体来看：一方面，Copilot嵌入到了Word、Excel、PowerPoint等人们熟知的应用程序中，使用简单的文字指令即可实现文字创作、文档转PowerPoint演示文稿、分析表格数据并生成图表等复杂或重复性的操作，有效提升工作效率和“创作”水平；另一方面，Copilot将用户业务数据与微软各类应用程序相关联，在后台业务数据的基础上，同样使用文字指令即可实现实时的日历信息更新、会议内容总结、电子邮件或文档整理等操作。3月22日，微软旗下代码托管平台GitHub发布智能编程助手“GitHub Copilot X”，该助手采用了GPT-4，将允许程序员以ChatGPT的风格，通过文字询问甚至语音聊天的方式来编写和调试代码。 GPT模型与微软应用的结合将颠覆“电子生产方式”，用户不必再研究或专门学习制作PPT或EXCEL表的复杂方法，甚至是专门学习代码编程，所有丰富的功能只需使用文字就能解锁，输入文字要求指令就能“一键生成”所需内容，真正成为人们办公工作的“副驾驶”（Copilot）。换句话说，以后关于“熟悉office操作系统”、“熟练使用Excel表格”甚至“擅长代码编写”将不再是求职优势。 “全知全能”版ChatGPT现身 3月23日，OpenAI推出ChatGPT插件系统，网友们戏称ChatGPT已“解除最后的封印”。之前ChatGPT基于已经建成并训练好的大模型，所使用的数据是提前“投喂”的，并不能在使用时通过网络实时检索和处理；同时，以往ChatGPT的主要功能及应用场景还是在问答回复，给用户反馈的是“参考内容”，无法进一步执行其他操作。但一旦安入“插件”，其不仅拥有目前世界顶尖的自然语言处理能力，还能够检索全互联网信息，再加之第三方服务，ChatGPT甚至可以替用户完成一系列操作，其智能程度毫无疑问再次实现突破。 具体来看：一方面，ChatGPT功能进一步拓展。利用各类插件，ChatGPT可实时检索并使用互联网信息、基于简单指令进行复杂编程，甚至能实现订机票、在线点餐等“直接操作”。另一方面，ChatGPT“回复”质量明显提升。加入“在线自动问答系统”插件后，ChatGPT可将用户问题发送至在线问答系统，根据系统回答结果修正自身的“回复内容”。经测试，在部分情境中，ChatGPT“捏造事实”的现象已有明显改善。未来，ChatGPT将获得更多第三方产品知识和技能的加持，其“回复”专业性和可靠性必然会持续提高。 人工智能系统开发的目的是为与人类对标，如果将以往的ChatGPT类比为核心大脑，那么本次更新就是为ChatGPT增添了眼睛、耳朵等感官，甚至是四肢等行动器官。其不仅有了“智慧”，还有了“行动力”。 设计时安全至关重要 在包括AI在内的新兴技术领域，一直以来提倡“前瞻性治理”，尤其是将安全考虑贯穿技术产品研发与推广的全流程。究其根源就在于“能力越大，责任越重”。能量越强大，一旦被不当甚至恶意使用，其破坏力也将是巨大的。 因此，在继续惊叹“重磅炸弹”的威力的同时，我们敏锐地关注到此次微软和OpenAI在详析新产品“变革性功能”的同时，特别对于相关产品的“安全考虑”进行了着重说明。Copilot简介中明确提到，其将遵循微软在安全、合规性和隐私等方面的全部政策、工作流程和保护手段，特别是解决用户数据泄露问题，提出AI系统在使用用户业务数据时将采用安全、合规、保护隐私的方式，且该些数据不会用于大型语言模型训练。 ChatGPT插件系统更是强调“以安全为核心原则”，称将外部工具接入ChatGPT虽会带来新机遇，但同样伴随重大新风险。OpenAI已在ChatGPT插件系统中采取多项安全保障措施：开展网络攻防对抗演练，发现系统安全漏洞并完善安全设计；针对“网络浏览”插件进行限制，仅可用于检索信息，不能进行“表单提交”等操作；“网络浏览”插件将显示系统访问过的网站，并在搜索结果中引用信息来源，增加系统“透明度”；在用户使用“代码编写”插件时创建独立的、限制计算资源的安全环境，同时禁止代码执行结果联网，防止系统生成的代码直接用于危害性操作。 可以看到，微软和OpenAI在新产品的功能性与安全性之间进行了一定程度的权衡，这是为了回应社会各界对ChatGPT等AI系统安全性的关切，同时也反映出相关系统的安全问题与风险已部分暴露在公众视野之下，亟需对此提出适当性的解决方案。目前，Copilot和ChatGPT插件系统仍处在有限范围的“内测”阶段，未来若向公众开放，特别是第三方产品大量“涌入”ChatGPT“生态圈”的情况下，新式安全问题必将迎来“爆发期”。如果说以前我们认为，所谓发展与安全是一个长期动态平衡的问题，现在看来，未来它提出了即时同步平衡的更高要求。  |
|
|
