如何查询网站的备案信息,热门关键词查询,iis 网站访问权限设置,东南网架公司一、前言 随着人工智能技术的飞速发展#xff0c;大语言模型#xff08;LLM#xff09;在各个领域的应用越来越广泛。DeepSeek 作为一款备受瞩目的国产大语言模型#xff0c;凭借其强大的自然语言处理能力和丰富的知识储备#xff0c;迅速成为业界关注的焦点。无论是文本生…一、前言 随着人工智能技术的飞速发展大语言模型LLM在各个领域的应用越来越广泛。DeepSeek 作为一款备受瞩目的国产大语言模型凭借其强大的自然语言处理能力和丰富的知识储备迅速成为业界关注的焦点。无论是文本生成、代码编写还是智能问答、数据分析DeepSeek 都展现出了巨大的潜力。 为了更好地将 DeepSeek 的强大能力赋能到实际项目中本文将介绍如何利用 Spring AI 和 Ollama 实现 DeepSeek 模型的调用。Spring AI 作为 Spring 生态系统中用于构建 AI 应用的框架提供了便捷的 API 和丰富的功能能够帮助我们快速集成各种 AI 模型。而 Ollama 则是一个轻量级的工具可以方便地在本地运行和管理大型语言模型为开发者提供了更加灵活和高效的模型部署方案。 通过本文的学习您将掌握如何使用 Spring AI 和 Ollama 搭建一个简单的应用并实现对 DeepSeek 模型的调用从而为您的项目注入更强大的 AI 能力。
二、Spring AI介绍 Spring AI 是 Spring 生态系统中的一个新兴项目旨在为开发者提供一套简单、统一的 API 和工具以便更轻松地将人工智能AI能力集成到 Spring 应用中。随着 AI 技术的快速发展越来越多的企业希望将大语言模型LLMs、机器学习模型和其他 AI 功能融入自己的业务系统。Spring AI 应运而生为开发者提供了一个标准化的方式来访问和调用各种 AI 模型和服务。 主要功能
1.大语言模型LLMs集成
支持调用 OpenAI、DeepSeek、Hugging Face 等主流大语言模型。 提供统一的 API 进行文本生成、对话、翻译等任务。
2.向量数据库支持
集成向量数据库如 Pinecone、Weaviate用于存储和检索高维向量数据支持语义搜索和推荐系统。
3.提示词工程Prompt Engineering
提供工具和模板帮助开发者优化与大语言模型的交互提升模型输出的准确性和相关性。
4.数据预处理和后处理
提供数据清洗、格式化等功能确保输入数据符合模型要求并对模型输出进行后处理。
5.可扩展性
支持自定义模型和算法开发者可以根据需求扩展 Spring AI 的功能。
三、Ollama介绍 Ollama 是一个轻量级、开源的工具旨在帮助开发者更轻松地在本地运行和管理大型语言模型LLMs。它专注于简化模型的部署和使用流程使得开发者无需复杂的配置即可快速上手。Ollama 支持多种流行的开源大语言模型如 LLaMA、Mistral、DeepSeek 等并提供了简单易用的命令行工具和 API方便开发者将模型集成到自己的应用中。 关于Ollama本地部署 DeepSeek 模型参考我之前的文章 DeepSeek-R1本地部署详细指南: 《DeepSeek-R1本地部署详细指南(OllamaChatbox AIOpen WebUI)》。
一定要先在本地部署 DeepSeek 模型不然后面项目中无法使用。
四、SpringBoot项目中使用本地DeepSeek模型代码实战
整体版本SpringBoot 版本3.4.2 JDK 17 Ollama版本1.0.0-M6
1. 依赖引入 dependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-ollama-spring-boot-starter/artifactIdversion1.0.0-M6/version/dependency2. 添加配置
spring.ai.ollama.base-urlhttp://localhost:11434spring.ai.ollama.chat.modeldeepseek-r1:14b3. 调用模型测试
SpringBootTest(classes AIdemoApplication.class)
public class OllamaTestDemo {Autowiredprivate OllamaChatModel ollamaChatModel;Testpublic void startOllama() {String prompt hello;System.out.println(开始。。。);String callResult ollamaChatModel.call(prompt);System.out.println(callResult);}
}4. 测试结果
Hello! How can I assist you today?5. 在测试一个问题
SpringBootTest(classes AIdemoApplication.class)
public class OllamaTestDemo {Autowiredprivate OllamaChatModel ollamaChatModel;Testpublic void startOllama() {String prompt 请将下面的文字翻译成英文;String message 今天天气真好。;System.out.println(开始。。。);String callResult ollamaChatModel.call(prompt message);System.out.println(callResult);}
}五、总结 Spring AI作为Spring生态系统中的一个重要组成部分专注于提供人工智能相关的服务和支持为开发者提供了便捷的开发环境和丰富的功能接口。而Ollama工具则以其强大的大型语言模型LLMs支持能力而著称使得用户能够在本地环境中轻松运行各种LLMs并享受其带来的高效和安全性。
