你好啊,我是雨飞,见字如面。感谢我们的这次相遇,愿阳光洒在你的脸上,温暖照在你的心里。
01
DeepSeek 简介
DeepSeek 大模型很多人都了解,他们的大模型,能力强劲,不仅有善于聊天的对话模型,也有善于做代码编程的代码模型。更重要的是价格十分便宜。
官方网站:https://www.deepseek.com/
从下面的图中,我们可以看到 100 万的输入 token 只需要一元钱,而 100 万的输出 token 需要两块钱。而且整体上兼容 OpenAI 的 API,因此以前的程序迁移起来也是十分方便的。
02
DeepSeek 缓存命中策略
更主要的是,最近 DeepSeek 又上线了一个新的策略,那就是缓存命中的优化。在这个模式下,只要命中了预先定义存储好的缓存,则只会收取每百万输入 token 0.1 元的价格。
DeepSeek 也在自己的官网中提到了,因为在 API 调用的场景中,用户前置输入的内容有很多重复的部分,比如 system prompt 基本都是重复的。而且在多轮对话的场景下,前面的历史记录也是重复的。
于是,DeepSeek 设计了一种新颖的上下文硬盘缓存技术,将预计未来会重复使用的内容,给缓存到硬盘中。然后再实际使用中,如果输入的内容存在重复,则重复的部分就会在缓存中读取,不需要再经过大模型计算。这项技术不仅能降低服务的延迟,还可以大幅度消减最终的使用成本。
同时,DeepSeek 承诺,已经考虑到了用户在使用时的隐私和安全性问题,不会侵犯用户的隐私数据。
而且,这个功能默认都会开启,用户无需修改代码,无需更换接口,硬盘缓存服务将自动运行,系统自动按照实际命中情况计费。赶紧去体验下,这个功能吧。
欢迎点赞,留下你的名字,祝,万事顺利?。
❤️同频小伙伴欢迎链接,有问题欢迎提问
❤️往期经典好文❤️
AI 爱好者必看,AI发展的四个范式究竟指的是什么。弄懂了,就超越 99% 的人。
-----------------------------------------------
----------------------------------------------
----------------------------------------------
AI工具:体验了一下天工AI,我想这才是未来该有的样子。99%的需求都可以一键满足。
----------------------------------------------
❤️AI解决方案咨询案例❤️
现在AI这么火,我有必要搞个副业吗?|咨询师日记 Vol.12
----------------------------------------------
17999的张雪峰咨询费出不起,99的AI志愿填报可行吗?|咨询师日记Vol.11
----------------------------------------------
200元可以定制一个本地RAG问答系统吗?|咨询师日记 Vol.10
----------------------------------------------
让你买一块4090显卡的底层逻辑是什么?|咨询师日记 Vol.9
----------------------------------------------
完全不懂代码,要去往全栈开发深耕吗?|咨询师日记 Vol.8
----------------------------------------------
----------------------------------------------
----------------------------------------------
----------------------------------------------
----------------------------------------------
----------------------------------------------
大四即将毕业,该考研还是工作还是搞搞副业?| 咨询师日记 Vol.2
----------------------------------------------
程序员只想搞技术,怎么选择副业方向?| 咨询师日记 Vol.1
❤️福利❤️
目前我致力于AI工具拆解、AI解决方案的咨询、落地以及AIGC培训,如果有相关问题,可以加我备注「公众号」,进行免费咨询,并领取我整理的AI学习资料和常用AI工具集。
部分资料截图:
「雨飞陪你玩赚AI」,知识星球,欢迎来围观,交个朋友。
你的每一个『点赞』,都是鼓励我进步的勇气,点个『在看』,加油吧,一起成长!
声明:文中含有雨飞的广告