Bedrock Runtime: InvokeModelWithResponseStream, https response error StatusCode:...

错误翻译

原文：ValidationException: ***.***.***.***.type: Expected `thinking` or `redacted_thinking`, but found `text`. When `thinking` is enabled, a final `assistant` message must start with a thinking block (preceeding the lastmost set of `tool_use` and `tool_result` blocks). We recommend you include thinking blocks from previous turns. To avoid this requirement, disable `thinking`.
译文：验证异常：期望消息类型为 `thinking` 或 `redacted_thinking`，但发现的是 `text`。当启用了 `thinking` 功能时，模型最终的 `assistant` 消息必须以一个思考块开始（位于最后一组 `tool_use` 和 `tool_result` 块之前）。我们建议您包含先前轮次的思考块。若要避免此要求，请禁用 `thinking` 功能。

原因分析

解决方案
您需要检查并修改构造Bedrock API请求体的逻辑，特别是最后一条 assistant 消息的结构。

1. 修复请求体结构示例（以Python boto3 为例）：

问题可能出在您将最终的思考输出包装成了 text 块，但启用了 thinking 功能时，模型要求以 thinking 块开始。

# 原请求体（可能导致错误的结构）
messages = [
    {"role": "user", "content": [{"type": "text", "text": "你好"}]},
    # ... 可能还有其他轮次的消息
    {
        "role": "assistant",
        "content": [
            # ❌ 错误：启用了thinking，但最后一条assistant消息的第一个块是 `text`。
            # {"type": "text", "text": "这是思考过程的结果..."}
        ]
    }
]

# ✅ 修复后的请求体（启用了thinking时的正确结构）
messages = [
    {"role": "user", "content": [{"type": "text", "text": "你好"}]},
    # 假设这是与模型的对话历史...
    {
        "role": "assistant",
        "content": [
            # ✅ 正确：启用thinking时，最后一条assistant消息的第一个块必须是 `thinking` (或 `redacted_thinking`)。
            {"type": "thinking", "text": "用户向我问好...（这里是模型的内部思考）"},
            # 后面可以跟随 `tool_use` 和 `tool_result` 等块。
            # 最后才是回复给用户的 `text` 块。
            {"type": "text", "text": "你好！我是AI助手。"}
        ]
    }
]

# 调用Bedrock API
response = bedrock_runtime.invoke_model_with_response_stream(
    modelId='your-model-id', # 例如 `anthropic.claude-3-sonnet-20240229-v1:0`
    body=json.dumps({
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 1000,
        "messages": messages, # 使用修复后的消息列表
        # 确保thinking设置正确
        "thinking": {
            "type": "enabled", # 或 "enabled_with_redaction"
            "budget_tokens": 1024
        }
    })
)

2. 最简单的解决方案（如果不需要思维链功能）：
在API请求中，直接禁用 thinking 功能。

body = json.dumps({
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 1000,
    "messages": messages, # 您的常规消息列表，无需包含 `thinking` 块
    "thinking": { # 或者完全不传入这个键
        "type": "disabled"
    }
})

️ 预防措施