Web Playground 非常适合演示。你只需粘贴一段文本，看着模型生成一份整洁的摘要，然后关闭标签页即可。但这不叫工程化。生产环境意味着 API、错误处理以及在你睡觉时也能持续运行的代码。如果你需要按计划处理会议记录、支持工单或研究论文，你需要的是一个流水线（pipeline）。

本指南将带你构建这样一个系统：一个使用 Python、AWS SDK for Python (boto3) 和 Amazon Bedrock 构建的轻量级、自动化的文档摘要脚本。我们将使用 Anthropic 的 Claude 3 Haiku，该模型在文本摘要任务中达到了速度与成本的最佳平衡点。

Why Bedrock and Claude 3 Haiku?

Amazon Bedrock 是一项托管服务，通过一套统一的 AWS API 提供基础模型。你无需拼凑外部端点，也无需应对复杂的计费和安全模型，只需使用标准的 IAM 控制调用 AWS 端点即可。你的数据将保留在你的 AWS 环境中。

Claude 3 Haiku 是 Anthropic Claude 3 系列中最精简的模型。它专为响应速度和低成本而设计，非常适合处理高吞吐量的摘要任务，让你在无需为简单阅读任务支付大型模型高昂算力成本的同时，获得可预测的输出。

What You Need

在编写任何代码之前，请确保已准备好以下内容：

  • 一个活跃的 AWS 账户。
  • 本地已安装 Python 3.9 或更高版本。
  • 已配置 AWS CLI，且凭证具有调用 Bedrock 模型的权限。如果你尚未运行 aws configure，请立即执行。如果稍后遇到权限错误，你可能需要为你的 IAM 用户或角色附加适当的 Bedrock 调用权限。
  • 已在 AWS Bedrock 控制台中专门为 Anthropic Claude 3 Haiku 启用了模型访问权限。AWS 要求你在调用每个模型提供商之前必须显式选择加入（opt in）。

Step 1: Enable Model Access

Bedrock 默认并不允许你直接调用模型。你必须先在控制台中开启开关。

  1. 登录 AWS 管理控制台。
  2. 使用搜索栏找到 Amazon Bedrock。
  3. 在左侧导航面板中，选择 Model access。
  4. 点击 Modify model access。
  5. 勾选 Anthropic (Claude 3 Haiku) 并提交请求。

一旦状态变为 "Access granted"，你就可以通过代码调用该模型了。

Step 2: Set Up Your Environment

一个干净的 Python 环境可以保持依赖项的隔离和可复现性。打开终端并运行以下命令：

mkdir bedrock-summarizer && cd bedrock-summarizer
python3 -m venv venv
source venv/bin/activate
pip install boto3

Windows 用户应将激活命令替换为 venv\Scripts\activate。在 pip install boto3 完成后，你就拥有了与 AWS API 通信所需的一切。

Step 3: Write the Script

创建一个名为 summarize.py 的文件。目标是从磁盘读取文档，将其交给 Bedrock Converse API，然后打印出简洁的摘要。

以下是一个完整的、可运行的实现。我们使用 Converse API，因为它抽象掉了不同模型提供商所要求的原始 JSON 格式。你只需传递消息列表和推理设置即可。

import boto3

def summarize_document(text: str) -> str:
    client = boto3.client("bedrock-runtime")
    
    model_id = "anthropic.claude-3-haiku-20240307-v1:0"
    
    messages = [
        {
            "role": "user",
            "content": [
                {
                    "text": (
                        "Provide a concise summary of the following document. "
                        "Focus on the main points and avoid unnecessary detail:\n\n"
                        f"{text}"
                    )
                }
            ]
        }
    ]
    
    response = client.converse(
        modelId=model_id,
        messages=messages,
        inferenceConfig={
            "temperature": 0.3,
            "maxTokens": 512
        }
    )
    
    summary = response["output"]["message"]["content"][0]["text"]
    return summary.strip()


if __name__ == "__main__":
    with open("document.txt", "r", encoding="utf-8") as f:
        document_text = f.read()
    
    result = summarize_document(document_text)
    print("\n--- Summary ---\n")
    print(result)

这里有几个值得注意的实践细节：

  • boto3.client("bedrock-runtime") 指向处理推理的运行时端点。请确保你在 ~/.aws/config 中的 AWS 区域支持 Bedrock，并且你在该区域启用了 Haiku。
  • Model ID anthropic.claude-3-haiku-20240307-v1:0 是 Bedrock 要求的精确标识符。请务必准确复制。
  • Temperature 设置为 0.3 可以保持输出的稳健性。对于摘要任务，你需要的是一致性和对原文的忠实度，而不是创造性的润色。如果你将 Temperature 提高到 1.0 左右，模型就会开始在措辞上放飞自我，偶尔还会捏造细节。
  • Prompt（提示词）本身非常具体。我们没有直接把原始文本丢给模型并说一句模糊的“总结一下”，而是明确要求提取要点并指示其跳过废话。这种清晰度决定了输出结果是不可用的垃圾，还是真正可以投入使用的内容。

将任何你想摘要的文本文件放在同一目录下，并将其命名为 document.txt。

Step 4: Run It

在激活虚拟环境的状态下，执行：

python summarize.py

如果你的凭证和模型访问权限正确，你应该会在几秒钟内看到终端打印出整洁的摘要。如果你遇到访问错误，请仔细检查你的 IAM 权限，并确认你已在控制台中启用了 Claude 3 Haiku。

不止于脚本

This pipeline is intentionally simple, but it is the foundation for real automation. Here is how you can extend it without adding bloat.

Batch processing. Swap the single file read for a loop over a directory. Drop fifty PDFs or text files into an input folder, iterate through them, and write the summaries to an output folder. If you want to ingest PDFs directly, you will need a preprocessing step with a library like PyPDF2 or pdfplumber to extract raw text before it hits Bedrock.

Chunking strategy. Very long documents may exceed the model’s context limit. When that happens, split the text into logical chunks by paragraph or section, summarize each chunk individually, and then pass the intermediate summaries back through the model for a final synthesis. This two-stage approach keeps you under token limits while preserving coverage of the full document.

Error handling. Production code should catch boto3.exceptions.ClientError specifically. AWS may throttle your requests if you call the API too aggressively. Wrap your converse call in a retry loop with exponential backoff, or use a library like tenacity to handle rate limits gracefully.

Prompt engineering. The difference between a mediocre summary and a useful one often comes down to the prompt. Ask for bullet points if you need scanability. Ask for a one-paragraph executive summary if the audience is senior leadership. You can even pass formatting constraints, such as "Limit the summary to three sentences" or "Return the output as JSON with keys for topic, key_points, and action_items."

The Real Takeaway

Moving from a chat playground to a working script is the inflection point where AI becomes infrastructure. Once this pipeline runs locally, you can lift it into an AWS Lambda function triggered by S3 uploads, schedule it on ECS Fargate, or hook it into an existing data workflow. The API call is the easy part. The engineering value comes from wrapping that call in logic that handles files, errors, and formatting so you never have to copy and paste text into a browser again.

For additional context and variations on this setup, see the original walkthrough on Dev.to. If you want to discuss AWS architectures, LLM pipelines, or prompt engineering with a community of builders, join the conversation over at [GyaanSetu AI on Telegram](https://t.me/GyaanSet