此版本仍在开发中，尚未被视为稳定版。如需最新的快照版本，请使用 Spring AI 1.1.3！spring-doc.cadn.net.cn

OCI GenAI Cohere Chat

OCI GenAI服务 提供按需模型的生成式AI聊天，或专用AI集群。spring-doc.cadn.net.cn

The OCI聊天模型页面和OCI生成式AI游乐场提供了在OCI上使用和托管聊天模型的详细信息。spring-doc.cadn.net.cn

前置条件

您需要一个活跃的Oracle云基础设施（OCI）账号才能使用OCI GenAI Cohere Chat客户端。该客户端提供了四种不同的连接方式，包括使用用户和私钥进行简单的身份验证、工作负载身份、实例主身份或OCI配置文件身份验证。spring-doc.cadn.net.cn

添加仓库和BOM

Spring AI 构件发布在 Maven 中央仓库和 Spring Snapshot 仓库中。 请参阅 构件仓库 部分，将这些仓库添加到您的构建系统中。spring-doc.cadn.net.cn

为了帮助进行依赖管理，Spring AI 提供了一个 BOM（物料清单），以确保整个项目中使用的是相同的 Spring AI 版本。请参阅 依赖管理 部分，将 Spring AI BOM 添加到您的构建系统中。spring-doc.cadn.net.cn

Auto-configuration

Spring AI自动配置和starter模块的artifact名称有了重大变化。 请参阅升级说明获取更多信息。spring-doc.cadn.net.cn

Spring AI 提供了对 OCI GenAI Cohere Chat 客户端的 Spring Boot 自动配置。 要启用它，请将以下依赖项添加到您项目的 Maven pom.xml 文件中:spring-doc.cadn.net.cn

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-oci-genai</artifactId>
</dependency>

请将以下内容添加到您的Gradle build.gradle 构建文件中。spring-doc.cadn.net.cn

dependencies {
    implementation 'org.springframework.ai:spring-ai-starter-model-oci-genai'
}
请参阅依赖管理部分，将Spring AI BOM添加到您的构建文件中。

聊天属性

连接属性

The prefix spring.ai.oci.genai 是配置连接到 OCI GenAI 的属性前缀。spring-doc.cadn.net.cn

<property> </property> <description> </description> 默认

spring.ai.oci.genai.authenticationTypespring-doc.cadn.net.cn

当向OCI进行身份验证时要使用的认证类型。可能的值为file、instance-principal、workload-identity或simple。spring-doc.cadn.net.cn

filespring-doc.cadn.net.cn

spring.ai.oci.genai.regionspring-doc.cadn.net.cn

OCI服务区域。spring-doc.cadn.net.cn

us-chicago-1spring-doc.cadn.net.cn

spring.ai.oci.genai.tenantIdspring-doc.cadn.net.cn

当使用simple认证时使用的OC域租户OCID。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.userIdspring-doc.cadn.net.cn

OCI用户OCID，用于使用simple认证进行身份验证。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.fingerprintspring-doc.cadn.net.cn

私钥指纹，在使用simple认证时用于身份验证。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.privateKeyspring-doc.cadn.net.cn

私钥内容，在使用simple认证时进行身份验证。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.passPhrasespring-doc.cadn.net.cn

使用simple认证和带密码保护的私钥时，可选的私钥密码短语。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.filespring-doc.cadn.net.cn

OCI配置文件路径。用于使用file认证进行身份验证。spring-doc.cadn.net.cn

<user’s home directory>/.oci/configspring-doc.cadn.net.cn

spring.ai.oci.genai.profilespring-doc.cadn.net.cn

OCI配置文件名称。在使用file身份验证进行认证时使用。spring-doc.cadn.net.cn

默认spring-doc.cadn.net.cn

spring.ai.oci.genai.endpointspring-doc.cadn.net.cn

可选的OCI GenAI 端点。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

配置属性

现在，聊天自动配置的启用和禁用是通过带有前缀spring.ai.model.chat的顶级属性进行配置的。 要启用，请设置 spring.ai.model.chat=oci-genai（默认已启用） 要禁用，请设置 spring.ai.model.chat=none（或与 oci-genai 不匹配的任何值） 此更改是为了允许配置多个模型。spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat 前缀是配置 OCI GenAI Cohere Chat 实现的属性前缀。spring-doc.cadn.net.cn

<property> </property> <description> </description> 默认

spring.ai.model.chatspring-doc.cadn.net.cn

启用OCI GenAI Cohere聊天模型。spring-doc.cadn.net.cn

oci-genaispring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.enabled (不再有效)spring-doc.cadn.net.cn

启用OCI GenAI Cohere聊天模型。spring-doc.cadn.net.cn

truespring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.modelspring-doc.cadn.net.cn

模型OCID或端点spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.compartmentspring-doc.cadn.net.cn

模型隔间OCID。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.servingModespring-doc.cadn.net.cn

要使用的模型服务模式。可能为on-demand，或dedicated。spring-doc.cadn.net.cn

on-demandspring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.preambleOverridespring-doc.cadn.net.cn

覆盖聊天模型的提示前缀spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.temperaturespring-doc.cadn.net.cn

推理温度spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.topPspring-doc.cadn.net.cn

Top P参数spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.topKspring-doc.cadn.net.cn

Top K 参数spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.frequencyPenaltyspring-doc.cadn.net.cn

更高的数值会减少重复的标记，并使输出更加随机。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.presencePenaltyspring-doc.cadn.net.cn

更高的值会鼓励生成未使用的词汇Tokens。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.stopspring-doc.cadn.net.cn

列出将结束生成完成项的文字序列。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.ai.oci.genai.cohere.chat.options.documentsspring-doc.cadn.net.cn

使用在聊天上下文中的一份文档列表。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn
所有以spring.ai.oci.genai.cohere.chat.options开头的属性可以在运行时通过向Prompt调用添加请求特定的运行时选项来覆盖。

运行时选项

The OCICohereChatOptions.java 提供了模型配置，例如要使用的模型、温度、频率惩罚等。spring-doc.cadn.net.cn

启动时，可以使用OCICohereChatModel(api, options)构造函数或spring.ai.oci.genai.cohere.chat.options.*属性来配置默认选项。spring-doc.cadn.net.cn

在运行时，您可以覆盖默认选项并通过向Prompt调用添加新的、针对请求的选项来实现。例如，要为特定请求覆盖默认模型和温度：spring-doc.cadn.net.cn

ChatResponse response = chatModel.call(
    new Prompt(
        "Generate the names of 5 famous pirates.",
        OCICohereChatOptions.builder()
            .model("my-model-ocid")
            .compartment("my-compartment-ocid")
            .temperature(0.5)
        .build()
    ));

样本控制器

创建一个新的Spring Boot项目，并在pom（或gradle）依赖中添加spring-ai-starter-model-oci-genai。spring-doc.cadn.net.cn

在src/main/resources目录下添加一个application.properties文件，以启用并配置OCI GenAI Cohere聊天模型：spring-doc.cadn.net.cn

spring.ai.oci.genai.authenticationType=file
spring.ai.oci.genai.file=/path/to/oci/config/file
spring.ai.oci.genai.cohere.chat.options.compartment=my-compartment-ocid
spring.ai.oci.genai.cohere.chat.options.servingMode=on-demand
spring.ai.oci.genai.cohere.chat.options.model=my-chat-model-ocid
替换file、compartment和model为您OCI账户中的值。

这将创建一个OCICohereChatModel实现，你可以在你的类中注入。 以下是一个使用聊天模型进行文本生成的简单@Controller类示例。spring-doc.cadn.net.cn

@RestController
public class ChatController {

    private final OCICohereChatModel chatModel;

    @Autowired
    public ChatController(OCICohereChatModel chatModel) {
        this.chatModel = chatModel;
    }

    @GetMapping("/ai/generate")
    public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        return Map.of("generation", chatModel.call(message));
    }

    @GetMapping("/ai/generateStream")
	public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        var prompt = new Prompt(new UserMessage(message));
        return chatModel.stream(prompt);
    }
}

手动配置

The OCICohereChatModel 实现了 ChatModel 并使用 OCI Java SDK 连接到 OCI 生成式人工智能服务。spring-doc.cadn.net.cn

将如下的spring-ai-oci-genai依赖添加到项目中Maven的pom.xml文件中：spring-doc.cadn.net.cn

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-oci-genai</artifactId>
</dependency>

请将以下内容添加到您的Gradle build.gradle 构建文件中。spring-doc.cadn.net.cn

dependencies {
    implementation 'org.springframework.ai:spring-ai-oci-genai'
}
请参阅依赖管理部分，将Spring AI BOM添加到您的构建文件中。

接下来，创建一个OCICohereChatModel 并用于文本生成：spring-doc.cadn.net.cn

var CONFIG_FILE = Paths.get(System.getProperty("user.home"), ".oci", "config").toString();
var COMPARTMENT_ID = System.getenv("OCI_COMPARTMENT_ID");
var MODEL_ID = System.getenv("OCI_CHAT_MODEL_ID");

ConfigFileAuthenticationDetailsProvider authProvider = new ConfigFileAuthenticationDetailsProvider(
        CONFIG_FILE,
        "DEFAULT"
);
var genAi = GenerativeAiInferenceClient.builder()
        .region(Region.valueOf("us-chicago-1"))
        .build(authProvider);

var chatModel = new OCICohereChatModel(genAi, OCICohereChatOptions.builder()
        .model(MODEL_ID)
        .compartment(COMPARTMENT_ID)
        .servingMode("on-demand")
        .build());

ChatResponse response = chatModel.call(
        new Prompt("Generate the names of 5 famous pirates."));

The OCICohereChatOptions 提供了聊天请求的配置信息。 The OCICohereChatOptions.Builder 是流畅选项构建器。spring-doc.cadn.net.cn