Springboot结合大模型

langChain4j

一、简介

LangChain4j 是 Java 版的 LangChain，专为 Java 开发者设计，支持：

• 多模型调用（OpenAI、Gemini、Ollama 等）

• RAG（检索增强生成）

• 函数调用（让大模型执行 Java 方法）

• 对话记忆管理

二、 环境准备

添加依赖

2.1在知道自己的key的情况下

pom.xml 中添加：

<!-- LangChain4j 核心 -->
<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j</artifactId>
    <version>0.29.0</version>
</dependency>
<!-- OpenAI 适配器（或其他模型适配器） -->
<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-open-ai</artifactId>
    <version>0.29.0</version>
</dependency>
<!-- Spring Boot Starter -->
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-web</artifactId>
</dependency>

2.2在不知道自己的key的情况下，添加本地开源大模型

pom.xml中添加：<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-ollama</artifactId>
    <version>0.29.0</version> <!-- 检查最新版本 -->
</dependency>

三、使用

3.1、在知道自己的key的情况下

package com.example.pfliu.langChain4j;

import dev.langchain4j.model.openai.OpenAiChatModel;

public class TEST {
    public static void main(String[] args) {

        OpenAiChatModel model = OpenAiChatModel.builder()
                .apiKey("your-key")
                .modelName("gpt-3.5-turbo")
                .temperature(0.3)
                .build();
        String response = model.generate("法国的首都是什么？");
        System.out.println(response);  // 输出: 巴黎
    }
}

 3.2、在不知道自己的key的情况下

package com.example.pfliu.langChain4j;

import dev.langchain4j.model.ollama.OllamaChatModel;

public class TEST {
    public static void main(String[] args) {

        // 初始化本地模型（Ollama）
        OllamaChatModel model = OllamaChatModel.builder()
                .baseUrl("http://localhost:11434") // Ollama 默认地址
                .modelName("qwen2.5-coder:14b")               // 本地模型名称（如 llama2、mistral）
                .temperature(0.8)                 // 创造性参数
                .build();

        // 使用模型生成回答
        String answer = model.generate("Java语言的特性");
        System.out.println(answer);
    }
}