正点原子RK3588开发板本地化部署DeepSeek R1 大模型视频教程!


【视频发布】正点原子RK3588 开发板 本地化部署DeepSeek R1 大模型视频系列视频教程来啦!



一、课程内容


承接上一次板端部署DeepSeek R1大模型的文档教程,应粉丝们的要求,本次推出视频教程,手把手教学实现端侧部署,无需依赖云端服务器即可本地化处理数据,功耗更低、成本更优异、数据更安全、自主可控,探索端侧AI应用无限可能!


视频课程目录


第1讲  聊一聊DeepSeek R1大模型


第2讲  部署前期准备


第3讲  Ubuntu下搭建模型转换环境


第4讲  下载DeepSeek R1原生大模型


第5讲  转换1.5B版本大模型


第6讲  部署1.5B版本大模型


第7讲  测试命令介绍


第8讲  转换7B版本大模型


第9讲  部署7B版本大模型


二、配套硬件


       本次实验使用的是正点原子RK3588开发板,RK3588是瑞芯微推出的旗舰级芯片,属于多核异构,其具有高性能八核处理器(四核ARM Cortex-A76 + 四核ARM Cortex-A55),内置高性能GPU,自带6 TOPS算力的NPU,支持8K硬件视频编解码。RK3588凭借其强大的处理能力和低功耗特性,成为嵌入式AI应用平台的理想选择!



       正点原子RK3588开发板对DeepSeek R1蒸馏版本大模型支持情况如下,其中,DDR为4GB版本的开发板只能部署1.5B版本大模型,DDR为8GB和16GB版本的开发板支持部署1.5B和7B版本大模型,DDR为16GB版本的开发板运行性能效果最佳,大家可根据需要进行选购。


请使用浏览器的分享功能分享到微信等