怕有信息安全问题?企业私有化Code Copilot方案来了,功能炸裂,直追Github Copilot

相信很多科技公司都有提升编码生产性的需求,而现在主要有两类方案,一类是基于Agent的AI程序员方案,比如被质疑视频造假的全球第一个AI程序员Devin;而另一类方案是现在用的最多的Code Copilot编程助手的方案,多以IDE插件的形式存在。而第二类Code Copilot编程助手中,最强王者毫无疑问是Github Copilot,虽然也有其他免费的,比如Bito或Cursor等产品,但是信息安全仍然难以得到保证,尤其是一些银行或政府那种安全性高的项目,肯定不会让你使用的。下面我来介绍一个开源项目,无论是插件本身还是背后的大模型,完全可以实现私有化,企业局域网内就可以使用,无信息安全问题。


Continue插件

Continue插件是一个开源的Code Copilot项目(官网地址:https://github.com/continuedev/continue),现在支持VS Code和JetBrains IDE的扩展,可以在对应的IDE插件市场中直接搜索Continue下载插件。如果怕有后门,可以大家将源码下载,找出后门,自己打包插件本地安装到IDE中。(项目源码我查过,我是没找到有后门)


(Vs Code中下载)


(IntelliJ IDEA中下载)


现在给我的使用体验来看,VS Code中的插件体验好一些。具体插件都支持什么功能,可以参照官网:https://docs.continue.dev/intro


(Contnue官网)


而Continue插件支持的功能就不多说了,类似于Github Copilot,可以通过Chat窗口生成代码、也支持在代码中写Commet生成代码、支持代码补全、优化代码、生成测试代码、添加注释等等


(Vs Code中利用Contnue插件添加代码注释)


重点Continue插件配置私有大模型

今天我们的重点在这,因为信息安全的问题,如何利用Continue插件配置私有大模型。


Continue插件默认给我们预设了一些大模型(比如GPT-4、GPT-3.5-Turbo、Gemini Pro等),大家也可以使用,不过你都局域网了,肯定访问不了。所以我们要选择一个开源的大模型部署后,使Continue插件可以选择我们自己部署的大模型,下面是详细步骤:


1、最关键的是第一步,我们要选择一个好的开源的大模型。因为Continue插件好不好用,用的爽不爽,本质上,还是要看大模型的能力。而我们的选择对象是针对编程领域的Code LLM,而Code LLM那么多,比如Code Llama、codegemma、CodeQwen、DeepSeek-Coder等,选谁呢?


这里给大家一个网站,里面列出了一些开源的Code LLM在编程领域对各个语言的支持如何:https://huggingface.co/spaces/bigcode/bigcode-models-leaderboard


这一步很重要,如果大家对一些Code LLM不太了解或者有很多疑问,可以私信我或评论区留言,我当时在模型选型这花了很多精力去测评,可以使大家少走很多弯路。


注意:Continue Chat模式和代码补全,是两个配置,可以配置同一个大模型,也可以配置不同的大模型。如果你选择的模型既支持Chat,也支持代码补全那最好,否则大多数Code LLM只支持Chat模式下,不支持代码补全模式,这里一定要注意。


关于这里,我评测完,最推荐DeepSeek-Coder,两种模式都支持,有能力的上33b,否则7b也很不错。


2、选择完大模型之后,肯定要跑起来,这里方法就很多了,比如我之前介绍过用Ollama或Llamacpp启动一个大模型。具体参照文章《穷,没钱买GPU,本地还想跑大模型,后悔没早点知道这个工具》。模型跑起来之后,需要暴露出一个API URL。


3、Continue插件配置私有大模型,这一步也是重点。可以打开Continue插件的配置文件config.json,添加你自己的私有大模型。比如下面我配置自己的deepseek-coder-33b大模型:


(Continue Chat模式的私有大模型配置)


(Continue 代码补全模式的私有大模型配置


config.json中有很多配置,比如自定义指令等,具体大家可以参照官网,也不详细介绍了。


配置之后需要重启IDE。


4、最后就可以选择自己刚才配置的大模型开心的使用了。

---------------


以上就是Continue插件如何配置自己私有大模型的详细步骤,里面有很多坑,具体大家配置的时候要是有问题,大家可以私信我或评论区留言。

(正文完)

更多精彩内容,欢迎扫码加入免费知识星球
极客e家

共同打造极客文化

请使用浏览器的分享功能分享到微信等