最近,Qwen 2.5已经发布了,我已经写了一篇关于他的文章,但我们还没有在真正的编程环境中测试它。所以今天,我将向你展示如何将Qwen 2.5与Aider、Claude Dev、Continue 一起使用,并且我们将进行一些编程测试,看看它的表现如何。 近期,Qwen 2.5正式发布,我已经撰写了一篇文章对其进行了介绍。不过,尚未在实际的编程环境中进行测试。因此,今天我将演示如何将Qwen 2.5与Aider、Claude Dev、Continue等工具结合使用,并通过一些编程实例测试其表现。 在开始前,首先需要选择使用哪个模型。当前有多个可用的模型,最合适的选择是Qwen 2.5的72B模型。作为现有的最大模型,它超越了Llama 3.1的405B,可以将其作为主力模型,与Claude Dev、Continue和Aider配合使用。 此外,在简单的聊天和代码交互中,我们可以使用7B的本地编码器模型,而对于自动补全功能,还可以选择新的1.5B编码器模型。不过,我个人并不推荐这种方式,因为SuperMaven已经提供了免费的自动补全服务,速度更快,效果也更佳。 VSCode + Aider + SuperMaven的组合可以打造一个强大的免费开源AI开发环境,无需再为其他工具支付额外费用。如果你愿意尝试,我会向你展示如何配置这些工具,并同时测试Qwen 2.5的自动补全功能。 虽然7B和1.5B模型可以在本地轻松运行,但由于硬件限制,我们无法本地托管72B模型,因此需要依赖外部提供商。 目前有多个提供商提供免费使用权限,例如Together AI,尽管它们尚未添加Qwen模型。为了本次测试,我选择了Hyperbolic,它不仅支持最新的72B模型,还提供10美元的免费积分供用户使用。 ▲ https://app./models 虽然Hyperbolic的推理速度稍慢,因其使用的是BF16格式(未量化的模型),但通常能生成更优质的结果。接下来,我将通过VSCode和Continue工具来展示如何设置这个模型。 首先,前往VSCode的扩展市场,搜索并安装Continue插件。 安装完成后,前往Hyperbolic创建一个API密钥并保存。 然后在Continue中添加一个OpenAI兼容选项 输入Hyperbolic的基本URL, 随便选择一个模型添加, 并输入Hyperbolic的基本URL和API密钥,设置模型为Qwen 2.5。 完成这些步骤后,Qwen 2.5 72B模型就能在Continue中用于聊天、代码生成、修改和重构代码等功能。 虽然Continue的自动补全功能可以独立设定,但我仍然建议使用SuperMaven,因为它免费且速度快。 如果你希望在本地运行自动补全功能,可以配置新的Qwen 2.5 coder:1.5B模型。 现在我们看看如何在Claude Dev中运行Qwen 2.5:72B。这两个工具经常协同使用。 在Claude Dev中,同样选择OpenAI兼容选项,输入Hyperbolic的API端点、密钥和模型名称。设置完成后,就可以使用Qwen模型来创建项目,例如一个简单的Todo应用。 Qwen生成的代码运行良好,虽然不如Claude那样精细,但已经足够实用,尤其考虑到Hyperbolic提供的免费积分。 最后介绍Aider,它经常与Claude Dev和Continue配合使用。 首先,通过命令pip install aider-chat安装Aider。 安装后,配置Hyperbolic的API密钥和基础URL。 设置完成后,Aider便可以与Hyperbolic协同工作,也支持指定本地模型进行任务。 接下来,我使用Aider请求生成一个简单的扫雷游戏,使用HTML、CSS和JS进行开发。生成的代码效果很好,游戏可以顺利运行。 总体而言,Qwen 2.5在各个工具中的表现都相当出色。虽然功能上可能不及Claude,但依然是一个强大的工具。借助Hyperbolic的免费访问权限,结合Aider和Claude Dev,可以实现不少高效的开发任务。
|
|
来自: swordinhand > 《Program》