云信AI部署

Ollama进阶：使用Java实现数据提取的核心功能

云信安装大师
90
AI 质量分
11 5 月, 2025
4 分钟阅读
0 阅读

Ollama进阶：使用Java实现数据提取的核心功能

引言

Ollama是一个强大的本地大语言模型运行框架，可以让我们在本地环境中运行各种LLM模型。本文将介绍如何使用Java语言与Ollama交互，实现数据提取的核心功能。通过本教程，你将学会如何通过Java代码调用Ollama API，处理模型响应，以及提取结构化数据。

准备工作

在开始之前，请确保你已经完成以下准备：

  1. 已安装并运行Ollama（默认端口11434）
  2. 已安装Java开发环境（JDK 11或更高版本）
  3. 熟悉基本的Java编程
  4. 了解REST API的基本概念

项目设置

首先创建一个新的Maven项目，并添加必要的依赖：

代码片段 
<dependencies>
    <!-- HTTP客户端 -->
    <dependency>
        <groupId>org.apache.httpcomponents</groupId>
        <artifactId>httpclient</artifactId>
        <version>4.5.13</version>
    </dependency>

    <!-- JSON处理 -->
    <dependency>
        <groupId>com.fasterxml.jackson.core</groupId>
        <artifactId>jackson-databind</artifactId>
        <version>2.13.0</version>
    </dependency>

    <!-- 日志记录 -->
    <dependency>
        <groupId>org.slf4j</groupId>
        <artifactId>slf4j-simple</artifactId>
        <version>1.7.36</version>
    </dependency>
</dependencies>

核心功能实现

1. 基础API调用

首先我们创建一个基础的Ollama客户端类：

代码片段 
import org.apache.http.client.methods.CloseableHttpResponse;
import org.apache.http.client.methods.HttpPost;
import org.apache.http.entity.StringEntity;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;

public class OllamaClient {
    private static final String OLLAMA_API_URL = "http://localhost:11434/api/generate";

    public String generateResponse(String model, String prompt) throws Exception {
        try (CloseableHttpClient httpClient = HttpClients.createDefault()) {
            HttpPost httpPost = new HttpPost(OLLAMA_API_URL);

            // 构建请求JSON
            String jsonRequest = String.format(
                "{\"model\": \"%s\", \"prompt\": \"%s\"}", 
                model, prompt.replace("\"", "\\\""));

            httpPost.setEntity(new StringEntity(jsonRequest));
            httpPost.setHeader("Content-Type", "application/json");

            try (CloseableHttpResponse response = httpClient.execute(httpPost)) {
                return EntityUtils.toString(response.getEntity());
            }
        }
    }
}

2. 数据提取功能实现

接下来我们实现一个专门用于数据提取的类：

代码片段 
import com.fasterxml.jackson.databind.JsonNode;
import com.fasterxml.jackson.databind.ObjectMapper;

public class DataExtractor {
    private final OllamaClient client;
    private final ObjectMapper mapper = new ObjectMapper();

    public DataExtractor() {
        this.client = new OllamaClient();
    }

    public String extractData(String model, String inputText, String extractionTemplate) throws Exception {
        // 构建提示词
        String prompt = String.format(
            "请从以下文本中提取信息:\n\n%s\n\n按照以下格式返回JSON:\n%s",
            inputText,
            extractionTemplate);

        // 获取模型响应
        String response = client.generateResponse(model, prompt);

        // 解析响应
        JsonNode rootNode = mapper.readTree(response);

        // Ollama的响应是一个流式响应，我们需要拼接所有response字段
        StringBuilder fullResponse = new StringBuilder();

        if (rootNode.isArray()) {
            for (JsonNode node : rootNode) {
                if (node.has("response")) {
                    fullResponse.append(node.get("response").asText());
                }
            }
        } else if (rootNode.has("response")) {
            fullResponse.append(rootNode.get("response").asText());
        }

        return fullResponse.toString();
    }
}

3. 示例：从文本中提取联系人信息

让我们看一个具体的例子，如何从一段文本中提取联系人信息：

代码片段 
public class ContactInfoExtractor {
    public static void main(String[] args) {
        try {
            DataExtractor extractor = new DataExtractor();

            // 输入文本
            String inputText = "大家好，我是张三。我的电话号码是13800138000，" +
                              "电子邮件是zhangsan@example.com。我住在北京市海淀区。" +
                              "我的公司是ABC科技有限公司。";

            // 提取模板（告诉模型我们需要什么格式的数据）
            String extractionTemplate = "{\n" +
                "  \"name\": \"姓名\",\n" +
                "  \"phone\": \"电话号码\",\n" +
                "  \"email\": \"电子邮箱\",\n" +
                "  \"address\": \"地址\",\n" +
                "  \"company\": \"公司名称\"\n" +
                "}";

            // 使用llama2模型进行提取（确保你已经pull了该模型）
            String extractedData = extractor.extractData("llama2", inputText, extractionTemplate);

            System.out.println("提取结果:");
            System.out.println(extractedData);

            /* 
            预期输出示例:
            {
              "name": "张三",
              "phone": "13800138000",
              "email": "zhangsan@example.com",
              "address": "北京市海淀区",
              "company": "ABC科技有限公司"
            }
             */

        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

高级功能：流式处理和错误处理

1. 流式处理实现

Ollama支持流式响应，我们可以修改客户端以支持这种模式：

代码片段 
public class StreamingOllamaClient extends OllamaClient {

    public interface ResponseChunkHandler {
        void handleChunk(String chunk);
    }

    public void generateStreamingResponse(String model, String prompt, 
                                         ResponseChunkHandler handler) throws Exception {

        try (CloseableHttpClient httpClient = HttpClients.createDefault()) {
            HttpPost httpPost = new HttpPost(OLLAMA_API_URL);

            // stream参数设置为true以启用流式响应
            String jsonRequest = String.format(
                "{\"model\": \"%s\", \"prompt\": \"%s\", \"stream\": true}", 
                model, prompt.replace("\"", "\\\""));

            httpPost.setEntity(new StringEntity(jsonRequest));
            httpPost.setHeader("Content-Type", "application/json");

            try (CloseableHttpResponse response = httpClient.execute(httpPost)) {
                BufferedReader reader = new BufferedReader(
                    new InputStreamReader(response.getEntity().getContent()));

                String line;
                while ((line = reader.readLine()) != null) {
                    handler.handleChunk(line);
                }
            }
        }
    }
}

2. 错误处理和重试机制

在实际应用中，我们需要添加适当的错误处理和重试逻辑：

代码片段 
public class RobustDataExtractor extends DataExtractor {

    private static final int MAX_RETRIES = 3;

    @Override
    public String extractData(String model, String inputText, 
                            String extractionTemplate) throws Exception {

        int attempt = 0;

        while (attempt < MAX_RETRIES) {
            try {
                return super.extractData(model, inputText, extractionTemplate);

            } catch (Exception e) {
                attempt++;

                if (attempt == MAX_RETRIES) {
                    throw new RuntimeException(
                        String.format("Failed after %d attempts: %s", 
                                    MAX_RETRIES, e.getMessage()), e);
                }

                // Exponential backoff
                long waitTime = (long) Math.pow(2, attempt) * 1000;

                System.err.printf(
                    "[Attempt %d/%d] Error occurred: %s. Retrying in %d ms...%n",
                    attempt, MAX_RETRIES, e.getMessage(), waitTime);

                Thread.sleep(waitTime);

                continue;
            }
        }

        throw new IllegalStateException("Should not reach here");
    }
}

最佳实践和注意事项

  1. 提示工程：精心设计你的提示词对结果质量影响很大。明确告诉模型你需要的数据格式。

  2. 模型选择：不同的模型在数据提取能力上有差异。对于结构化数据提取，建议使用较大的模型如llama2-70b。

  3. 性能考虑：

    • Ollama API调用可能有延迟，考虑异步处理或批处理
    • LLM计算资源消耗大，避免频繁调用相同内容

  4. 错误处理：

    • LLM可能返回不符合预期的格式，添加验证逻辑
    • API调用可能失败，实现重试机制

  5. 结果验证：

    代码片段 
    public boolean validateJsonStructure(String jsonString, List<String> requiredFields) 
    throws JsonProcessingException {

    JsonNode node = mapper.readTree(jsonString);

    for (String field : requiredFields) {
        if (!node.has(field)) return false;
    }

    return true;
}

总结

通过本教程，我们学习了如何使用Java与Ollama交互来实现数据提取功能。关键点包括：

  1. Java HTTP客户端与Ollama API的基本交互方式
  2. LLM提示词设计技巧用于结构化数据提取
  3. JSON数据的解析和处理方法
  4. API调用的错误处理和重试机制实现

掌握了这些核心功能后，你可以进一步扩展应用场景：
– PDF/文档内容自动摘要和分类系统
– Web页面关键信息抓取工具
– AI辅助的数据清洗和转换工具

原创 高质量