云信AI部署

LangChain与FastAPI集成开发 + Java：打造高效Web开发解决方案

云信安装大师
90
AI 质量分
3 5 月, 2025
3 分钟阅读
0 阅读

LangChain与FastAPI集成开发 + Java：打造高效Web开发解决方案

引言

在现代Web开发中，将AI能力与传统Web服务结合已成为趋势。本文将介绍如何将LangChain(大语言模型应用框架)与FastAPI(Python高性能Web框架)集成，并通过Java客户端调用这些服务，构建一个完整的AI赋能Web解决方案。

准备工作

环境要求

  • Python 3.8+
  • Java 11+
  • pip最新版本
  • Maven或Gradle(Java项目构建工具)

需要安装的Python包

代码片段 
pip install fastapi uvicorn langchain openai python-dotenv

Java项目依赖(Maven)

代码片段 
<dependency>
    <groupId>org.apache.httpcomponents</groupId>
    <artifactId>httpclient</artifactId>
    <version>4.5.13</version>
</dependency>
<dependency>
    <groupId>com.fasterxml.jackson.core</groupId>
    <artifactId>jackson-databind</artifactId>
    <version>2.13.0</version>
</dependency>

FastAPI服务端开发

1. 创建基础FastAPI应用

代码片段 
from fastapi import FastAPI
from pydantic import BaseModel

app = FastAPI(title="LangChain API Service")

class QueryRequest(BaseModel):
    question: str

@app.get("/")
def read_root():
    return {"message": "LangChain API Service is running"}

2. 集成LangChain功能

代码片段 
from langchain.chains import LLMChain
from langchain.prompts import PromptTemplate
from langchain.llms import OpenAI
import os

# 加载环境变量(建议将API KEY放在.env文件中)
from dotenv import load_dotenv
load_dotenv()

# 初始化LangChain组件
prompt_template = """你是一个专业的AI助手，请回答以下问题:

问题: {question}

回答:"""
prompt = PromptTemplate(
    input_variables=["question"],
    template=prompt_template,
)

llm = OpenAI(temperature=0.7, openai_api_key=os.getenv("OPENAI_API_KEY"))
qa_chain = LLMChain(llm=llm, prompt=prompt)

@app.post("/ask")
async def ask_question(request: QueryRequest):
    response = qa_chain.run(question=request.question)
    return {"answer": response}

3. 启动FastAPI服务

代码片段 
uvicorn main:app --reload --host 0.0.0.0 --port 8000

参数说明:
– --reload: 开发模式，代码修改后自动重载
– --host: 绑定到所有网络接口
– --port: 指定服务端口

Java客户端开发

1. 创建HTTP请求工具类

代码片段 
import org.apache.http.HttpEntity;
import org.apache.http.client.methods.CloseableHttpResponse;
import org.apache.http.client.methods.HttpPost;
import org.apache.http.entity.StringEntity;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;

import java.io.IOException;

public class HttpUtils {

    public static String postJson(String url, String json) throws IOException {
        try (CloseableHttpClient httpClient = HttpClients.createDefault()) {
            HttpPost httpPost = new HttpPost(url);
            httpPost.setHeader("Content-Type", "application/json");
            httpPost.setEntity(new StringEntity(json));

            try (CloseableHttpResponse response = httpClient.execute(httpPost)) {
                HttpEntity entity = response.getEntity();
                return EntityUtils.toString(entity);
            }
        }
    }
}

2. 创建请求和响应模型类

代码片段 
import com.fasterxml.jackson.annotation.JsonProperty;

public class QueryRequest {
    private String question;

    public QueryRequest(String question) {
        this.question = question;
    }

    @JsonProperty("question")
    public String getQuestion() {
        return question;
    }
}

public class QueryResponse {
    private String answer;

    @JsonProperty("answer")
    public String getAnswer() {
        return answer;
    }
}

3. JSON工具类(使用Jackson)

代码片段 
import com.fasterxml.jackson.databind.ObjectMapper;

public class JsonUtils {

    private static final ObjectMapper mapper = new ObjectMapper();

    public static String toJson(Object obj) throws Exception {
        return mapper.writeValueAsString(obj);
    }

    public static <T> T fromJson(String json, Class<T> clazz) throws Exception {
        return mapper.readValue(json, clazz);
    }
}

4. API调用示例

代码片段 
public class LangChainClientExample {

    private static final String API_URL = "http://localhost:8000/ask";

    public static void main(String[] args) {
        try {
            // 1. 准备请求数据
            QueryRequest request = new QueryRequest("什么是人工智能?");
            String requestJson = JsonUtils.toJson(request);

            // 2. 发送HTTP请求
            String responseJson = HttpUtils.postJson(API_URL, requestJson);

            // 3. 解析响应数据
            QueryResponse response = JsonUtils.fromJson(responseJson, QueryResponse.class);

            // 4. 输出结果
            System.out.println("问题: " + request.getQuestion());
            System.out.println("回答: " + response.getAnswer());

        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

API文档访问

FastAPI自动生成交互式API文档:
– Swagger UI: http://localhost:8000/docs
– ReDoc: http://localhost:8000/redoc

实践经验与注意事项

  1. 性能优化:

    • FastAPI默认是单线程的，生产环境应考虑使用--workers参数启动多个工作进程:
      代码片段 
      uvicorn main:app --workers 4 --host 0.0.0.0 --port 8000<br>
    • LangChain调用可能会有延迟，考虑添加超时处理机制

  2. 安全建议:

    • API Key不要硬编码在代码中，使用环境变量或密钥管理服务
    • FastAPI生产环境应启用HTTPS和认证中间件

  3. 跨语言交互:

    • JSON作为数据交换格式时，确保双方字段命名一致(Python的snake_case与Java的camelCase转换)
    • Java客户端可以使用Retrofit等库简化HTTP调用代码

  4. 错误处理:

    代码片段 
    from fastapi import HTTPException

@app.post("/ask")
async def ask_question(request: QueryRequest):
    try:
        response = qa_chain.run(question=request.question)
        return {"answer": response}
    except Exception as e:
        raise HTTPException(status_code=500, detail=str(e))

  5. Java客户端改进:

    • Spring Boot项目中可以使用RestTemplate或WebClient替代原生HTTP客户端实现更优雅的调用方式。

总结

本文展示了如何构建一个完整的LangChain+FastAPI+Java的技术栈:

  1. FastAPI提供了高性能的Python Web服务框架
  2. LangChain集成了大语言模型的能力
    3.Java客户端展示了如何跨语言调用这些AI服务

这种架构的优势在于:
– Python适合快速开发和AI模型集成
– Java适合企业级应用开发和维护
– FastAPI提供了两者之间的高性能桥梁

通过这种组合，开发者可以充分发挥各语言和框架的优势，构建更加强大和灵活的Web应用系统。

原创 高质量