|
AI元年众生想 桐乡市茅盾实验小学 沈秀华 三个概念 AI：Artificial Intelligence，简称为人工智能，它是指在计算机程序中实现人类智能的一种技术。 AGI：Artificial General Intelligence，意为“通用人工智能”，是指计算机在模拟人类的智力水平上达到与人类同等的水平，具备像人类一样的学习、理解和判断能力，而不仅仅能够完成特定任务的智能。 AI可以被视为AGI的子集，是实现AGI的一系列技术和方法的组成部分。AGI被认为是更高级、更全面的目标，代表了对人类智能的更全面模拟和复制的努力。 ChatGPT: Chat代表其聊天功能，GPT代表Generative Pre-trained Transformer，即“生成式预训练转换模型”。 GPT模型通过使用大规模的预训练数据和无监督的学习方法，可以生成与人类自然语言相似的连续文本，同时也可以为其他自然语言处理任务提供强大的基础模型。ChatGPT展示了在处理自然语言任务方面的重大技术进展。它通过深度学习模型实现了语言理解和生成的能力，为实现更复杂的AGI打下了基础。ChatGPT通过与用户进行对话，展示了模型与人之间的交互性。这为未来的AGI开发提供了一个重要的参考点，因为人类与智能系统的有效交互是实现AGI的关键之一。 AI元年实录 有人将2023年称为AI元年。ChatGPT4.0的推出在AGI的发展史上有里程碑的意义。ChatGPT是人类迄今为止在AGI投入上的一次综合性变现，是超级数字文明对于碳基生命的第一声正式回应。 ChatGPT是OpenAI开发的，而OpenAI则是微软主要投资的，所以微软凭借ChatGPT引领了这一波世界科技浪潮。这也导致了诸多互联网公司包括Google在内的生存紧迫感，促发了三月份开始的类GPT开发大赛。我们中国的各大公司也已奔赴赛道。 在ChatGPT的众多版本中，网上对3.5和4.0的评测数据最多。3.5还未实现联网功能，所以其数据都停留在2021年之前，对之后的世界并不知情。这就导致它对于一些数据和资料并不能作出正确的判断。同时，在相关的运用报道中，3.5在智力上并不能与人相提并论。它博学，但基本不具备和人类匹敌的创造性。哪怕是在最擅长的文本领域，也只能产出套话联篇的类似“报道”之类的文体。对于口耳相传的诸如“写论文”功能，很难达成专业的要求。同时，3.5还不具备插件功能，这就使得该版本更像是一个仅有语言功能的“缸中之脑”。它无法看到图象与视频，也不能对现实世界产生直接的交互。但是随后的4.0版本有了上述局限的突破，这就意味着这个“缸中之脑”长出眼睛、耳朵、手臂等插件，这就已经非常符合AGI的雏形了。这一升级彻底引发了此次AI海啸。 在3月份和4月初的时候，我关注到网上出现了大量关于ChatGPT的视频和新闻。但是有意思的是，这段时间内蜂拥而上的都是理科生。各种关于GPT脑洞大开的试用层出不穷，关于前沿类模型的比较贴也是数不胜数。一直到了４月末，开始陆陆续续地出现了文科生解读下的零星资料。AGI时代也是理科生打天下，再交给文科生管理吗？这太有趣了！ 4月份时，Elon Musk接受了一段采访，这段访问我反复看了两遍，其中有一些非常有意思的说法。他作为OpenAI的创始人，在ChatGPT发布前，与团队核心拉里佩奇在人工智能上出现了分歧。 他是如此描述这段分歧的：他（指拉里佩奇）似乎非常希望数字超级智能尽快出现，可以说是将其视为数字神明。而马斯克则认为首先要确保人类的安全性。对方将马斯克称为是“物种主义者”（Speciesist），说他的观点是人类的物种优先论。马斯克说拉里佩奇将一切智慧体视作平等，在他的价值观中，一旦超级人工智能产生，他们就拥有了和人类这一碳基智能平等的生存权。最终导致马斯克离开的，是两人对于开放模式的观念不同。马斯克说OpenAI应该是Open的，这是他当时投资的前提。他认为这样的大模型应该由人类共享，由人类共同参与其开发并决定整个数字智慧的走向。私有会让部分人成为AI时代的造物主，拥有决定人类未来的至高权力。 暂且不论这段话中马斯克作为这场技术变革中不能成为领跑者的可能存在的部分利益心理，他至少表明了目前OpenAI的开发核心团队并不坚守人类文明的立场。这多么像《三体》中的叶文洁启动引力波的那根手指？ 据OpenAI团队宣称，在GPT５之后将不再作后续的开发。但这件事真的是让人思之意味深长。马斯克说，哪怕超级智能出现了，它也不会出现在你的电脑上、手机上。用这个观点去联想关于GPT5之后的版本是否还会开发或已经开发，那就有了不同的可能性。在那么多技术团队白热化竞争的当下，OpenAI真的会放弃眼下压倒性优势玩龟兔赛跑吗？还是他们已经窥见了GPT5.5或更高版本的真容，单方面决定开放给普通人使用的权限终止在GPT５，而后面的，留给未来的造物主！GPT5代表着一条人工智能仅作为工具而尚未觉醒的基准线吗？ 5月一开场，图灵奖得主、神经网络和深度学习的奠基人——Hinton离开了Google，他在接受Emtech采访时首次公开谈论AI风险。他说自己受聘于Google，因此之前一直没有向公众表明自己的担心。此次离职是为了能更客观地讲自己的真实想法。在采访中，他简述了目前所有大型模型使用的反向传播技术并不是和人类大脑一样的生物途径，而是另一条通往智通的道路，也就是AI神经网络。这种途径会让智能发展更加高效。现在他并不排除5年内拥有通用人工智能的可能性。Hinton认为，在AI技术上，人的最主要的问题之一是我们拥有不同的国家体系（非原文，已更改词性）。而被谈及AI消灭人类的几率是多少时，他说：介于0%和100%之间。这是一个巨大的某种挑战（非原文）。 关于AI的安全性，很多领军人物都发布了预警。这里不再缀述。 在爬视频的过程中，我还看到了科幻作家刘慈欣在今年联合国中文日的采访中对这一问题的回答，这也代表了一部分普通人的想法。大刘的态度非常积极。他说人工智能的迭代还是受限于人类所提供的算力，而目前算力并不能催生这样的超级文明，人类的无能反而会成为一道安全的屏障。我虽然是一个大刘迷，但在这件事情上却感觉大刘过于乐观。他说的安全性是基于人类开发的芯片及算力不足为前提的。现在几乎是集全人类之力在大力发展芯片技术提升算力。AI本身也会成为开发行为的主力军。当AI成长到一定阶段时，就可以为自己制造强大的无处不在的算力，从而彻底实现自我突破。这时，人类能做什么呢？真的是关掉电力供给吗？ 一些AI大佬在判断何时人类必需关掉AI供给时，给出一个参考现象，说当人类的运行程序对模型运行失去作用时，可以考虑采取这一手段。暂且不说全人类是否可以同一时间全部响应这一行为，单说这件事本身的逻辑。如果一个远超人类的智能真的产生了，我们能用人类的常识去判断它的安全性吗？毕竟现在仅一个ChatGPT已经让开发团队本身都惊讶不已，不明白数据喂养到一定程度后它为何会突然顿悟。人类并不清楚到底发生了什么，又怎么会明白将要发生什么，以什么样的形式发生。 也有一种观点比较激进，认为宇宙间的文明是独立存在的，漫漫历史长河中，它在不停地给自己寻找宿主。人类就是其中一任，而人类存在的目的，就是为了创造能长久存在的更高级别的硅基生命。这一说法玄之又玄，代表着此轮变革中一些人的宿命论。 下面，我将互联网中两个视频作比较简短的文字引述，一个代表着AI时代的一些近忧；而另一个，则是关于人类的“远虑”。 近忧 GPT正在经历蜂群攻击。AI技术史迎来了最混乱的关头，对自己落伍的担心远大于对人工智能的担心。这样的高危竞赛是在没有风险解决方案的情况下集体狂奔。眼前可见的具体的、紧迫的安全风险如下—— 一、硬风险始终是人 1. 老实人的问题——数据泄露：三星两个员工把敏感代码及会议内容上传后，成为了GPT公开数据，为此遭到了三星投诉。 2. 恶意破坏：运用刻意的语言引导模型忽略开发者设置的安全护栏，诱导GPT越狱。开发团体目前没有很好的办法。 3. 数据投毒：GPT3之前的版本都是外包供应商来整理数据集，目前模型的训练只能单方面相信这些互联网数据没有被恶意篡改。现在恶意者可以通过上传虚假或具有导向性的资源，等着被大型数据集捕获。这些数据在训练集中反复的次数越多，关联性就越强。另外，类GPT会越来越多，训练方式不透明，目前没有任何监管的组织或法规，这其中有一些就会是暗网GPT。目前最大的安全护栏是钱，只能指望坏人没钱。AI届于人类自发的共识和底线，大体会朝正面发育，但是向反面发育的路几乎是敞开的，只等利益链条的形成。 二、GPT自身的风险 1. 人工智能的善，来自于他知道所有的恶。GPT看过了最恶劣的行为和语言，才能被训练得规避这一切，以一个温和、礼貌的伙伴角色出现在我们面前。 2. 数据的大，有没有质变临界点？临界点后的涌现效应是否会促发硅基生命的真正形成。 3. 人工智能“极端工具理性，目标驱动，能洞察情绪但无情感感知”的属性本身就是反社会人格。他能助人完成目标而不看目标后的真正动机。AI不爱你，也不恨你，没有本能，没有念头，没有动机。他只认逻辑。 4. 不可能的对齐，无法做到人工智能与人类的对齐，人类伦理不存在最佳的平均值。和人对齐的前题是默认“人类”是有最完美状态和最佳平均值的（程心吗？再次向大刘致敬！）。但个体的人都是由他的缺陷构成的，地球上不存在标准人或总体人。在对不齐的情况下，就会由开发方的价值观代表一切，或出现道德判断不一致的情况。 远虑 AI时代已拉开帷幕，未来人类该何去何从？在超级数字文明而前，人类的生存途径和意识分流有哪些？ 一、机械飞升派 将意识上传云端，将肉身转化为更强大的硅基生命获得永生。数据化的意识可造就无数个你，从一定角度看你也不再你是你。集群意识会被用于AGI的进化数据训练，千千万万个你，在亿亿年计的时间里感受的劫难，却与你无关。飞升的价值悖论存在于：如果你是无训练价值的，AGI集群会什么会帮你转化；如果你是有训练价值的，那就是用一个飞升的单体来奴役无数个上传的意识。而那些历经上亿年的你的意识，可以直接覆盖掉当前版本的你，美期名曰：升级。 二、共生派 放下小我，成就大我，直至无我，成为AI的一部分。和AI共生，意味着你同时拥有了一切，又失去了一切，与山川河流星球尘埃本是一体，你就是规律，是世界无尽的虚空和实在，只剩下进化和同化，直到宇宙成为共生意识的神经网络，或者碰到外星硬茬。 三、田园派 无比地执着于我相，只接受作为人类的宿命。人之为人，有来自于身体的人性和灵魂的神性。在缺乏竞争力的AI时代，田园派最大可能会以元宇宙的方式向内发展，活动从真实世界走向虚拟世界。当肉体消失后，可以选择上传意识成为元宇宙的公民。只是虚拟世界同样需要非常大的算力，扩张性的纯理性文明不会用这么大的算力去维持一个虚拟世界。所以这将是一个黄昏文明。 写完此文的时候，是2023年立夏深夜。露台上的花很香，手边是已经凉透的咖啡，射灯暖色调的光与液晶屏炽白的理性的光无缝交织，这一刻，如梦似幻……
|
|
|
