Spring AI教程（十三）：使用Prompt模板与嵌入技术

在前面的文章中，我们讨论了Prompt工程的重要性。这篇文章将进一步探讨如何使用Prompt模板和嵌入技术来优化Spring AI模型的性能和灵活性。

Prompt模板（Prompt Templates）

创建有效的Prompts涉及建立请求的上下文，并用用户输入的特定值替换部分请求。这一过程使用传统的基于文本的模板引擎来创建和管理Prompts。Spring AI使用开源库StringTemplate来实现这一目的。

示例Prompt模板

以下是一个简单的Prompt模板示例：

Tell me a {adjective} joke about {content}.

在Spring AI中，Prompt模板类似于Spring MVC架构中的"视图"。通常提供一个java.util.Map对象来填充模板中的占位符。最终生成的字符串将作为传递给AI模型的Prompt内容。

使用StringTemplate的示例

以下示例展示了如何在Spring AI中使用StringTemplate来创建Prompt模板：

1. 引入StringTemplate依赖

在pom.xml文件中添加StringTemplate依赖：

<dependency>
    <groupId>org.antlr</groupId>
    <artifactId>ST4</artifactId>
    <version>4.3</version>
</dependency>

2. 创建Prompt模板服务

创建一个服务类，用于生成Prompt：

import org.springframework.stereotype.Service;
import org.stringtemplate.v4.ST;

import java.util.Map;

@Service
public class PromptTemplateService {

    public String generatePrompt(String template, Map<String, String> values) {
        ST st = new ST(template);
        values.forEach(st::add);
        return st.render();
    }
}

3. 使用Prompt模板服务

创建一个控制器，使用Prompt模板服务生成Prompt并与AI模型进行交互：

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

import java.util.HashMap;
import java.util.Map;

@RestController
public class JokeController {

    @Autowired
    private PromptTemplateService promptTemplateService;

    @Autowired
    private OpenAiChatService openAiChatService;

    @GetMapping("/tell-joke")
    public String tellJoke(@RequestParam String adjective, @RequestParam String content) {
        String template = "Tell me a {adjective} joke about {content}.";
        Map<String, String> values = new HashMap<>();
        values.put("adjective", adjective);
        values.put("content", content);

        String prompt = promptTemplateService.generatePrompt(template, values);
        return openAiChatService.chat(prompt);
    }
}

嵌入技术（Embeddings）

嵌入技术将文本转换为数值数组或向量，使AI模型能够处理和解释语言数据。这种从文本到数值再到文本的转换，是AI与人类语言互动和理解的关键元素。对于Java开发者来说，理解嵌入的基本概念即可，无需深入掌握其复杂的数学原理。

嵌入的作用

嵌入技术在以下几个方面发挥重要作用：

1. 文本相似性计算：通过计算文本嵌入向量之间的距离，可以判断文本之间的相似性。
2. 语义搜索：将查询和文档转换为嵌入，进行高效的语义搜索。
3. 分类和聚类：使用嵌入向量进行文本分类和聚类分析。

使用嵌入的示例

以下示例展示了如何在Spring AI中使用嵌入技术：

1. 创建嵌入服务

创建一个服务类，用于生成文本的嵌入向量：

import org.springframework.stereotype.Service;
import com.example.springai.OpenAiEmbeddingService;

import java.util.List;

@Service
public class EmbeddingService {

    private final OpenAiEmbeddingService embeddingService;

    public EmbeddingService(OpenAiEmbeddingService embeddingService) {
        this.embeddingService = embeddingService;
    }

    public List<Float> generateEmbedding(String text) {
        return embeddingService.embed(text);
    }
}

2. 使用嵌入服务

创建一个控制器，使用嵌入服务生成文本嵌入并进行相似性计算：

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

import java.util.List;

@RestController
public class SimilarityController {

    @Autowired
    private EmbeddingService embeddingService;

    @GetMapping("/calculate-similarity")
    public double calculateSimilarity(@RequestParam String text1, @RequestParam String text2) {
        List<Float> embedding1 = embeddingService.generateEmbedding(text1);
        List<Float> embedding2 = embeddingService.generateEmbedding(text2);
        return cosineSimilarity(embedding1, embedding2);
    }

    private double cosineSimilarity(List<Float> vectorA, List<Float> vectorB) {
        double dotProduct = 0.0;
        double normA = 0.0;
        double normB = 0.0;
        for (int i = 0; i < vectorA.size(); i++) {
            dotProduct += vectorA.get(i) * vectorB.get(i);
            normA += Math.pow(vectorA.get(i), 2);
            normB += Math.pow(vectorB.get(i), 2);
        }
        return dotProduct / (Math.sqrt(normA) * Math.sqrt(normB));
    }
}

结论

通过使用Prompt模板和嵌入技术，Spring AI能够更好地处理复杂的语言任务，提供更高质量的输出。希望这篇文章能帮助你在实际项目中应用这些技术，并激发你更多的创意。

下一篇文章中，我们将继续探讨更多实际应用场景和高级功能，帮助你进一步掌握这一强大的工具。