自1月30日起,DeepSeek-R1模型已在Amazon Bedrock上正式推出,至今已有数千客户在上面部署了该模型。目前完全托管的DeepSeek-R1模型可以在Amazon Bedrock上全面可用,本文将详细介绍如何在Amazon Bedrock中配置、测试和应用DeepSeek-R1模型。
一、Amazon Bedrock是什么
Amazon Bedrock是亚马逊云科技推出的一项完全托管的云服务,专注于AI生成的图像和文本。为用户提供了一个安全、便捷的途径,访问市场上全面、高性能的基础模型(FM),帮助企业快速构建和部署AI应用。
亚马逊云科技官网:点击访问(新客注册立享100+免费云产品)
以下是Amazon Bedrock的核心特点与优势:
1、数据隐私与加密
Amazon Bedrock提供了企业级的安全、监控和成本控制功能,所有用户输入和模型输出均不与任何模型提供商共享。与DeepSeek-R1等模型通信时,默认启用了数据静态及传输加密、细粒度访问控制、安全连接选项等关键安全功能。同时Amazon Bedrock还通过了多项合规认证,满足企业级安全需求。
2、Guardrails防护机制
通过Amazon Bedrock Guardrails,用户可以根据应用程序需求和负责任的AI策略,实施内容过滤、敏感信息识别等安全措施。Guardrails还支持基于上下文和自动推理的定制安全控制,有效预防生成式AI模型产生的“幻觉”问题,确保输出内容的准确性和合规性。
3、模型评估
Amazon Bedrock提供了模型评估工具,用户可以通过自动或人工方式对DeepSeek-R1等模型进行评估和比较。自动评估支持预定义指标(如准确性、鲁棒性、毒性),而人工评估则适用于主观或自定义指标(如相关性、风格、品牌声音一致性)。
二、在Amazon Bedrock中使用DeepSeek-R1模型首次使用DeepSeek-R1时,需要登录Amazon Bedrock控制台。在左侧导航栏中找到“配置管理”模块,选择“模型访问”,然后申请DeepSeek-R1的使用权限。审核通过后,即可在Amazon Bedrock中使用该模型。
在控制台的“Playgrounds”下选择“聊天/文本”选项,然后点击“选择模型”,指定DeepSeek类别及DeepSeek-R1模型。点击“应用”后,即可开始测试模型的功能。
以下是一个示例提示,用于测试DeepSeek-R1的复杂思维链和精确推理能力:
示例问题:
A family has $5,000 to save for their vacation next year. They can place the money in a savings account earning 2% interest annually or in a certificate of deposit earning 4% interest annually but with no access to the funds until the vacation. If they need $1,000 for emergency expenses during the year, how should they divide their money between the two options to maximize their vacation fund?
(翻译:一个家庭有5000美元用于明年假期的储蓄。他们可以将这笔钱存入年利率2%的储蓄账户,或者存入年利率4%但无法提前支取的定期存款。如果他们在一年内需要1000美元用于紧急支出,应该如何分配这笔钱以最大化假期基金?)
1、使用AWS CLI调用模型
以下是一个通过AWS CLI调用DeepSeek-R1的示例命令:
aws bedrock-runtime invoke-model \
–model-id us.deepseek-r1-v1:0 \
–body “{\”messages\”:[{\”role\”:\”user\”,\”content\”:[{\”type\”:\”text\”,\”text\”:\”[n\”}]}],max_tokens\”:2000,\”temperature\”:0.6,\”top_k\”:250,\”top_p\”:0.9,\”stop_sequences\”:[\”\\n\\nHuman:\”]}” \
–cli-binary-format raw-in-base64-out \
–region us-west-2 \
invoke-model-output.txt
2、使用Python SDK调用模型
以下是一个通过Python SDK调用DeepSeek-R1的示例代码:
五、配置Guardrails防护机制import boto3
from botocore.exceptions import ClientError# Create a Bedrock Runtime client in the AWS Region you want to use.
client = boto3.client(“bedrock-runtime”, region_name=”us-west-2″)# Set the model ID, e.g., Llama 3 8b Instruct.
model_id = “us.deepseek.r1-v1:0”# Start a conversation with the user message.
user_message = “Describe the purpose of a ‘hello world’ program in one line.”
conversation = [
{
“role”: “user”,
“content”: [{“text”: user_message}],
}
]try:
# Send the message to the model, using a basic inference configuration.
response = client.converse(
modelId=model_id,
messages=conversation,
inferenceConfig={“maxTokens”: 2000, “temperature”: 0.6, “topP”: 0.9},
)# Extract and print the response text.
response_text = response[“output”][“message”][“content”][0][“text”]
print(response_text)except (ClientError, Exception) as e:
print(f”ERROR: Can’t invoke ‘{model_id}’. Reason: {e}”)
exit(1)
为了确保模型输出的安全性和合规性,可以为DeepSeek-R1启用Amazon Bedrock Guardrails。具体步骤如下:
- 在控制台的“Safeguards”下选择“Guardrails”;
- 配置内容过滤器,包括禁止主题、敏感词识别和拦截提示模板;
- 通过测试不同输入,评估防护性能,并根据需求调整规则。
DeepSeek-R1现已在亚马逊云科技美国东部(弗吉尼亚北部)、美国东部(俄亥俄)和美国西部(俄勒冈)区域提供服务,支持跨区域推理。未来将逐步扩展至更多区域。
Amazon Bedrock提供来自领先AI提供商 [如 Anthropic、Meta、Mistral AI 和 Amazon)] 的精选基础模型(FM),用于批量推理,价格比按需推理定价低 50%。根据不同实例定价如下表:
1、AI21 Labs
2、Amazon
3、Anthropic
4、Cohere
5、Luma Al
更多定价可访问亚马逊云科技官网:点击访问
相关推荐:
《Amazon SageMaker AI结合DeepSeek构建AI Agents教程》
《Amazon EC2部署DeepSeek-R1蒸馏模型教程》
(本文由美国主机侦探原创,转载请注明出处“美国主机侦探”和原文地址!)

微信扫码加好友进群
主机优惠码及时掌握

QQ群号:938255063
主机优惠发布与交流