Spring AI–快速入门3：上下文记忆持久化

简介

上篇文章： Spring AI–快速入门2：上下文记忆+会话隔离 – 自学精灵 实现了上下文记忆，数据存放在内存。

本文实现的功能：对话记录持久化、打断对话、删除对话记录。

数据库依赖

添加数据库依赖，关键依赖是：

<!--会话记忆-->
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-chat-memory-repository-jdbc</artifactId>
    <version>1.1.0</version>
</dependency>
<!-- MySQL 驱动 -->
<dependency>
    <groupId>mysql</groupId>
    <artifactId>mysql-connector-java</artifactId>
    <version>8.0.32</version>
</dependency>

整个pom.xml如下：

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>3.5.7</version>
        <relativePath/> <!-- lookup parent from repository -->
    </parent>

    <groupId>com.knife</groupId>
    <artifactId>3_chat_memory_jdbc</artifactId>
    <version>0.0.1-SNAPSHOT</version>
    <name>3_chat_memory_jdbc</name>
    <description>Demo project for Spring Ai</description>

    <properties>
        <java.version>21</java.version>
        <spring-ai.version>1.1.0</spring-ai.version>
    </properties>

    <dependencyManagement>
        <dependencies>
            <!-- 统一管理 SpringAI 相关依赖的版本 -->
            <dependency>
                <groupId>org.springframework.ai</groupId>
                <artifactId>spring-ai-bom</artifactId>
                <version>${spring-ai.version}</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

        <!-- OpenAI 模型依赖 -->
        <dependency>
            <groupId>org.springframework.ai</groupId>
            <artifactId>spring-ai-starter-model-openai</artifactId>
        </dependency>

        <!--spring3.x版本建议加上此依赖，否则会有启动的提示-->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-validation</artifactId>
        </dependency>

        <!--会话记忆-->
        <dependency>
            <groupId>org.springframework.ai</groupId>
            <artifactId>spring-ai-starter-model-chat-memory-repository-jdbc</artifactId>
            <version>1.1.0</version>
        </dependency>
        <!-- MySQL 驱动 -->
        <dependency>
            <groupId>mysql</groupId>
            <artifactId>mysql-connector-java</artifactId>
            <version>8.0.32</version>
        </dependency>

        <dependency>
            <groupId>com.github.xiaoymin</groupId>
            <artifactId>knife4j-openapi3-jakarta-spring-boot-starter</artifactId>
            <version>4.5.0</version>
        </dependency>

        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <scope>provided</scope>
        </dependency>
    </dependencies>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>

            <plugin>
                <groupId>org.apache.maven.plugins</groupId>
                <artifactId>maven-compiler-plugin</artifactId>
                <!-- 指定maven编译的jdk版本。对于JDK8，写成8或者1.8都可以 -->
                <configuration>
                    <source>${java.version}</source>
                    <target>${java.version}</target>
                </configuration>
            </plugin>
        </plugins>
    </build>

</project>

数据库配置

1.创建数据库

CREATE DATABASE `spring-ai` CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci;

2.配置SQL脚本

新建sql建表文件，放到此路径：resources/sql/schema-mysql.sql

CREATE TABLE IF NOT EXISTS SPRING_AI_CHAT_MEMORY
(
    conversation_id VARCHAR(36) NOT NULL,
    content         TEXT        NOT NULL,
    type            VARCHAR(10) NOT NULL,
    `timestamp`     TIMESTAMP   NOT NULL,
    CONSTRAINT TYPE_CHECK CHECK (type IN ('USER', 'ASSISTANT', 'SYSTEM', 'TOOL'))
);

3.application.yml

需要配置数据库信息、配置使用jdbc作为持久化方式（并指定建表sql文件）。

关键配置是：

spring:
  ai:
    chat:
      memory:
        repository:
          jdbc:
            initialize-schema: always
            schema: classpath:sql/schema-mysql.sql
  
  datasource:
    url: jdbc:mysql://192.168.80.193:3306/spring-ai?characterEncoding=UTF-8&serverTimezone=Asia/Shanghai
    username: root
    password: 222333
    driver-class-name: com.mysql.cj.jdbc.Driver

整个application.yml配置如下：

spring:
  application:
    name: 1_spring_ai_alibaba
  ai:
    openai:
      # URL前缀
      base-url: https://dashscope.aliyuncs.com/compatible-mode
      api-key: sk-82e1084be1194e218f0794af9c861e39
      chat:
        # URL后缀，默认为：/v1/chat/completions。spring ai会自动将spring.ai.openai拼接到前边。
        completions-path: /v1/chat/completions
        options:
          model: qwen-plus
          temperature: 0.8
          top-p: 0.7
    chat:
      memory:
        repository:
          jdbc:
            initialize-schema: always
            schema: classpath:sql/schema-mysql.sql
  datasource:
    url: jdbc:mysql://192.168.80.193:3306/spring-ai?characterEncoding=UTF-8&serverTimezone=Asia/Shanghai
    username: root
    password: 222333
    driver-class-name: com.mysql.cj.jdbc.Driver
    
logging:
  level:
    org.springframework.ai.chat.client.advisor: debug

# knife4j的增强配置，不需要增强可以不配
knife4j:
  enable: true
  setting:
    language: zh_cn

实战1：对话持久化

启动

启动后会发现，数据库里自动生成了表：

测试

访问：http://localhost:8080/doc.html

第一次对话

页面操作

后台日志

数据库（插入了两条对话id为chat1的数据）

第二次对话

页面操作（可见：有记忆功能）

后台日志（可见：把前边的问题和答案给附带上了）

数据库结果（可见：插入了两条新数据）

实战2：打断对话

有时AI说得太多，我们需要让它适时地“闭嘴”。

程序调用AI大模型获得内容的过程中无法中断，只能是打断后端给前端的输出流。即：即使人为打断，大模型依然会输出，依然会产生费用。

基于上面的原理，我们就需要控制Flux流的输出即可。

代码

import io.swagger.v3.oas.annotations.Operation;
import io.swagger.v3.oas.annotations.Parameter;
import io.swagger.v3.oas.annotations.tags.Tag;
import lombok.extern.slf4j.Slf4j;
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.chat.memory.ChatMemory;
import org.springframework.ai.chat.messages.AssistantMessage;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.MediaType;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import reactor.core.publisher.Flux;

import java.util.Optional;
import java.util.Set;
import java.util.concurrent.ConcurrentHashMap;

@Slf4j
@Tag(name = "对话")
@RequestMapping("chat")
@RestController
public class ChatController {
    @Autowired
    private ChatClient chatClient;

    @Autowired
    private ChatMemory chatMemory;

    // 存储活跃的会话。如果考虑分布式环境的话，可以用redis实现
    private static final Set<String> ACTIVE_CHAT = ConcurrentHashMap.newKeySet();

    @Operation(summary = "停止输出")
    @GetMapping("stop")
    public String stop(@Parameter(description = "会话ID") String chatId) {
        ACTIVE_CHAT.remove(chatId);
        return "success";
    }

    /**
     * 可以用apifox测试
     */
    @Operation(summary = "流式输出_支持停止")
    @GetMapping(value = "streamWithStop", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
    public Flux<String> streamWithStop(@Parameter(description = "消息") String message,
                                       @Parameter(description = "会话ID") String chatId) {

        // 大模型输出内容的缓存器，用于在输出中断后的数据存储
        StringBuilder outputBuilder = new StringBuilder();

        return chatClient.prompt(message)
                .advisors(a -> a.param(ChatMemory.CONVERSATION_ID, chatId))
                .stream()
                .chatResponse()
                // 输出开始，标记正在输出
                .doFirst(() -> ACTIVE_CHAT.add(chatId))
                // 输出结束，清除标记
                .doOnComplete(() -> ACTIVE_CHAT.remove(chatId))
                // 错误时清除标记
                .doOnError(throwable -> ACTIVE_CHAT.remove(chatId))
                .doOnCancel(() -> {
                    // 输出被取消时，保存输出的内容。若不加此行，则中断后不会保存
                    chatMemory.add(chatId, new AssistantMessage(outputBuilder.toString()));
                })
                // 输出过程中，判断是否正在输出，如果正在输出，则继续输出，否则结束输出
                .takeWhile(s -> Optional.of(ACTIVE_CHAT.contains(chatId)).orElse(false))
                .map(chatResponse -> {
                    // 获取大模型的输出的内容
                    String text = chatResponse.getResult().getOutput().getText();
                    // 追加到输出内容中
                    outputBuilder.append(text);
                    return text;
                })
                .concatWith(Flux.just("结束"));
    }
}

测试

开始对话：（可以发现：AI在持续的输出）

停止对话：（可以发现：输出被打断，而且输出了我们自定义的结束内容：“结束”）

查看数据库对话记录

实战3：删除对话记录

上边对话记录，都是自动添加的，那如何删除对话记录呢？

之前说过，ChatMemory控制增删改查，只需调用它的方法就可以。

ChatMemory的方法如下：

删除对话记录对应的就是：clear方法。

代码

@Slf4j
@Tag(name = "对话")
@RequestMapping("chat")
@RestController
public class ChatController {
    @Autowired
    private ChatClient chatClient;

    @Autowired
    private ChatMemory chatMemory;

    @Operation(summary = "deleteChatMemory")
    @GetMapping("deleteChatMemory")
    public String deleteChatMemory(@Parameter(description = "会话ID") String chatId) {
        chatMemory.clear(chatId);
        return "success";
    }
}

测试

删除之前：

开始删除：

删除之后：（数据库相应的对话记录就没有了）