你好啊,我是雨飞,见字如面。感谢你的阅读,期待我们下一次的相遇 ⁄(⁄⁄•⁄ω⁄•⁄⁄)⁄
01
端侧最强多模态模型
最近,又被刷屏了,面壁「小钢炮」MiniCPM-V 2.6 模型重磅更新!
该模型,仅 8B 参数,但是取得了 20B 以下单图、多图、视频理解 3 个 SOTA 成绩,并且核心能力全面超越了 GPT-4V,实现了以小博大和高效的低成本使用。
从下图实际的效果上来看,已经超越了很多闭源的模型。
划重点,
具有实时视频理解能力,流畅的多图联合理解能力,并且超高效,经 INT 4 量化之后,仅占 6GB 内存,实现了 16-18 tokens/s。上一代 V2.5 模型,大概在 4-5 tokens/s,性能有了大幅度上升。
02
开源地址
这么强力的模型,该如何体验呢,下面就是相关的开源地址:
官方还贴心的给出了网上的使用 demo,可以直接进行体验:
https://huggingface.co/spaces/openbmb/MiniCPM-V-2_6
与此同时,还支持 llama.cpp、olllama 本地部署,使用 CPU 即可完成推理。从官方的数据来看,仅需要 6GB 的内存就可以使用 ollama 运行,而 INT4 量化后的模型仅需 7GB 显存就可本地部署。
03
案例展示
以下来自官方的 web 页面测试的结果,欢迎大家去体验更多的玩法。
提示词:从明天开始,未来三天每天的平均气温是多少度,请分析问题并逐步解答
完全正确。
再来一个,手写识别
提示词:请提取里面的文字。
同样,完全正确。
最后再来一个,梗图识别。
提示词:请你一步步思考, 这张图表达了什么意思?
看来,是可以理解到里面的梗的。
欢迎大家体验,
好了,我写完了,欢迎点赞,留下你的名字,祝,心想事成?。
❤️同频小伙伴欢迎链接
❤️往期经典好文❤️
手把手教你1元钱购买扣子Coze收费前最后的套餐,可以再用一年,赶紧冲!
----------------------------------------------
----------------------------------------------
AI 爱好者必看,AI发展的四个范式究竟指的是什么。弄懂了,就超越 99% 的人。
----------------------------------------------
从第一性原理谈起,我们在使用和学习 AI 工具的时候,最应该看重那几点。
----------------------------------------------
----------------------------------------------
AI工具:体验了一下天工AI,我想这才是未来该有的样子。99%的需求都可以一键满足。
----------------------------------------------
❤️AI解决方案咨询案例❤️
现在AI这么火,我有必要搞个副业吗?|咨询师日记 Vol.12
----------------------------------------------
17999的张雪峰咨询费出不起,99的AI志愿填报可行吗?|咨询师日记Vol.11
----------------------------------------------
200元可以定制一个本地RAG问答系统吗?|咨询师日记 Vol.10
----------------------------------------------
让你买一块4090显卡的底层逻辑是什么?|咨询师日记 Vol.9
----------------------------------------------
完全不懂代码,要去往全栈开发深耕吗?|咨询师日记 Vol.8
----------------------------------------------
----------------------------------------------
----------------------------------------------
----------------------------------------------
----------------------------------------------
----------------------------------------------
大四即将毕业,该考研还是工作还是搞搞副业?| 咨询师日记 Vol.2
----------------------------------------------
程序员只想搞技术,怎么选择副业方向?| 咨询师日记 Vol.1
❤️福利❤️
目前我致力于AI工具拆解、AI解决方案的咨询、落地以及AIGC培训,如果有相关问题,可以加我备注「公众号」,进行免费咨询,并领取我整理的AI学习资料和常用AI工具集。
部分资料截图:
「雨飞陪你玩赚AI」,知识星球,欢迎来围观,交个朋友。
你的每一个『点赞』,都是鼓励我进步的勇气,点个『在看』,加油吧,一起成长!
声明:文中含有雨飞的广告