在 Amazon Bedrock 中使用 Anthropic Claude 模型
本指南详细介绍了如何在 Amazon Bedrock 中调用 Anthropic Claude 系列模型。您将了解到进行模型推理所需的请求参数、响应字段,以及如何通过 InvokeModel(同步)和 InvokeModelWithResponseStream(流式)操作与模型交互。 准备工作:获取模型关键信息 在调用模型进行推理之前,您需要获取模型的 ID。此外,了解模型的具体能力和限制也至关重要。您可以在 Amazon Bedrock 的官方文档中查阅以下信息: 支持的基础模型列表与模型 ID:获取调用特定模型所需的唯一标识符。 支持的模态:了解模型支持的输入和输出类型(如文本、图像)。 支持的 Bedrock 功能:确认模型是否支持您想使用的特定 Bedrock 功能。 可用的 AWS 区域:查看模型在哪些 AWS 区域提供服务。 Converse API 支持情况:部分 Claude 模型也支持通过 Converse API 进行调用,可简化多轮对话的开发。 Prompt 设计指南 高质量的 Prompt 是充分发挥模型能力的关键。 通用原则与技巧 关于通用的 Prompt 设计方法,请参考 Amazon Bedrock 的 Prompt 工程概念文档。针对 Claude 模型的特性,建议查阅 Anthropic 官方的 Prompt 工程指南以获得最佳效果。 使用 XML 标签构建结构化 Prompt Claude 模型支持使用 XML 标签来组织和分隔 Prompt 的不同部分,从而提高模型对上下文的理解能力。例如,您可以使用 <examples> 标签包裹示例,使用 <document> 标签包裹待处理的文档。建议使用具有描述性的标签名以获得最佳效果。 ...