Spring AI + Ollama 快速构建大模型应用程序(含源码)

最近直播超级多,预约保你有收获


1

Spring AI 开发框架介绍

Spring AI 借鉴了 LangChain(Python)的灵感,后者支持与 AI 和多种 LLM 集成。目前 Spring AI 提供了多种大模型和向量数据库供您选择。可以登录官网(https://spring.io/projects/spring-ai)查看 Spring AI 的更详细文档。

今天的 Spring AI 项目中会使用到 Vaadin,Vaadin 是一个基于 Java 和 Kotlin 的 Web 应用开发框架。


2

开始构建大模型应用项目 

第一、需求
开发一款能够汇总股票市场周报的工具。
第二、项目效果
项目效果如下:

第三、架构设计

整体架构设计如下分为3个步骤:

  1. 设置 RAG

  2. 使用 Vaadin 设计 UI 界面

  3. 创建业务流程

步骤一、设置 RAG 检索增强生成

在该项目中,我利用 Apache Tika 来解析位于 /resources 目录中的 PDF 文件。

在大模型应用程序启动过程中,系统会开始读取 PDF 文件,并将数据 Embedding 后存储到向量数据库中。

RAG 将检索增强的前后端进行了分离,如下图所示:

步骤二使用 Vaadin 的 UI

这是一个简易的消息输入界面,用于接收提示信息(尝试构建一个类似 ChatGPT 的用户界面,但采用的是 Vaadin 框架)。

步骤三、创建业务流程

最后但同样重要的一步是,我们将构建一个服务来与大模型进行通信。这包括添加系统提示词,我们将使用 HashMap 进行值的替换,接着利用 SystemPromptTemplate 生成消息,最后将其发送给大语言模型 (LLM)。

第四、项目集成

首先,我们在本地进行手动测试 Ollama。


spring: ai: ollama: base-url: ${AI_OLLAMA_BASE_URL:} chat: options: model: llama3:8b

第五、项目完整代码

项目完整开源代码 Github 地址:

https://github.com/qianniucity/financial-weekly

为了帮助同学们彻底掌握 AI 大模型 Agent 智能体、知识库、向量数据库、 RAG、微调私有大模型的应用开发、部署、生产化,今天我会开场直播和同学们深度剖析,请同学们点击以下预约按钮免费预约

3

领取 AI 大模型学习资料

今天给大家搞到的是一份大厂内部都在用的『AI 大模型学习资源』


▶形式:直播公开课

费用:原价299,本号用户0元白嫖

内容:大模型原理、Agent、LangChain、Spring AI、RAG、向量数据库、知识库、私有大模型、算力评估...

扫码预约报名
?『AI 大模型学习资源』?
堪称资源界的YYDS!
“得此资源,堪比1000G网盘资源”
???

本期名额有限


4

领取《AI 大模型技术知识图谱

这份业界首创知识图谱和学习路线,今天免费送了!
第一步长按扫码以下视频号,你身边需要一个 AI 专家。

第二步:点击"关注按钮",就可关注。

第三步:点击"客服“按钮,回复知识图谱即可领取。


 5

每日精选 AI 大模型知识

END


请使用浏览器的分享功能分享到微信等