亚马逊云科技

广告

安信SSL证书

广告

Amazon Bedrock深度集成DeepSeek-R1模型实操指南

美国云服务器推荐

自1月30日起,DeepSeek-R1模型已在Amazon Bedrock上正式推出,至今已有数千客户在上面部署了该模型。目前完全托管的DeepSeek-R1模型可以在Amazon Bedrock上全面可用,本文将详细介绍如何在Amazon Bedrock中配置、测试和应用DeepSeek-R1模型。

一、Amazon Bedrock是什么

Amazon Bedrock是亚马逊云科技推出的一项完全托管的云服务,专注于AI生成的图像和文本。为用户提供了一个安全、便捷的途径,访问市场上全面、高性能的基础模型(FM),帮助企业快速构建和部署AI应用。

亚马逊云科技官网:点击访问新客注册立享100+免费云产品

以下是Amazon Bedrock的核心特点与优势:

1、数据隐私与加密

Amazon Bedrock提供了企业级的安全、监控和成本控制功能,所有用户输入和模型输出均不与任何模型提供商共享。与DeepSeek-R1等模型通信时,默认启用了数据静态及传输加密、细粒度访问控制、安全连接选项等关键安全功能。同时Amazon Bedrock还通过了多项合规认证,满足企业级安全需求。

2、Guardrails防护机制

通过Amazon Bedrock Guardrails,用户可以根据应用程序需求和负责任的AI策略,实施内容过滤、敏感信息识别等安全措施。Guardrails还支持基于上下文和自动推理的定制安全控制,有效预防生成式AI模型产生的“幻觉”问题,确保输出内容的准确性和合规性。

3、模型评估

Amazon Bedrock提供了模型评估工具,用户可以通过自动或人工方式对DeepSeek-R1等模型进行评估和比较。自动评估支持预定义指标(如准确性、鲁棒性、毒性),而人工评估则适用于主观或自定义指标(如相关性、风格、品牌声音一致性)。

二、在Amazon Bedrock中使用DeepSeek-R1模型

首次使用DeepSeek-R1时,需要登录Amazon Bedrock控制台。在左侧导航栏中找到“配置管理”模块,选择“模型访问”,然后申请DeepSeek-R1的使用权限。审核通过后,即可在Amazon Bedrock中使用该模型。

配置Guardrails防护机制

在控制台的“Playgrounds”下选择“聊天/文本”选项,然后点击“选择模型”,指定DeepSeek类别及DeepSeek-R1模型。点击“应用”后,即可开始测试模型的功能。

测试DeepSeek-R1的推理能力

三、测试DeepSeek-R1的推理能力

以下是一个示例提示,用于测试DeepSeek-R1的复杂思维链和精确推理能力:

示例问题:

A family has $5,000 to save for their vacation next year. They can place the money in a savings account earning 2% interest annually or in a certificate of deposit earning 4% interest annually but with no access to the funds until the vacation. If they need $1,000 for emergency expenses during the year, how should they divide their money between the two options to maximize their vacation fund?

(翻译:一个家庭有5000美元用于明年假期的储蓄。他们可以将这笔钱存入年利率2%的储蓄账户,或者存入年利率4%但无法提前支取的定期存款。如果他们在一年内需要1000美元用于紧急支出,应该如何分配这笔钱以最大化假期基金?)

指定DeepSeek类别及DeepSeek-R1模型

四、通过API调用DeepSeek-R1

1、使用AWS CLI调用模型

以下是一个通过AWS CLI调用DeepSeek-R1的示例命令:

aws bedrock-runtime invoke-model \
–model-id us.deepseek-r1-v1:0 \
–body “{\”messages\”:[{\”role\”:\”user\”,\”content\”:[{\”type\”:\”text\”,\”text\”:\”[n\”}]}],max_tokens\”:2000,\”temperature\”:0.6,\”top_k\”:250,\”top_p\”:0.9,\”stop_sequences\”:[\”\\n\\nHuman:\”]}” \
–cli-binary-format raw-in-base64-out \
–region us-west-2 \
invoke-model-output.txt

2、使用Python SDK调用模型

以下是一个通过Python SDK调用DeepSeek-R1的示例代码:

import boto3
from botocore.exceptions import ClientError

# Create a Bedrock Runtime client in the AWS Region you want to use.
client = boto3.client(“bedrock-runtime”, region_name=”us-west-2″)

# Set the model ID, e.g., Llama 3 8b Instruct.
model_id = “us.deepseek.r1-v1:0”

# Start a conversation with the user message.
user_message = “Describe the purpose of a ‘hello world’ program in one line.”
conversation = [
{
“role”: “user”,
“content”: [{“text”: user_message}],
}
]

try:
# Send the message to the model, using a basic inference configuration.
response = client.converse(
modelId=model_id,
messages=conversation,
inferenceConfig={“maxTokens”: 2000, “temperature”: 0.6, “topP”: 0.9},
)

# Extract and print the response text.
response_text = response[“output”][“message”][“content”][0][“text”]
print(response_text)

except (ClientError, Exception) as e:
print(f”ERROR: Can’t invoke ‘{model_id}’. Reason: {e}”)
exit(1)

五、配置Guardrails防护机制

为了确保模型输出的安全性和合规性,可以为DeepSeek-R1启用Amazon Bedrock Guardrails。具体步骤如下:

  • 在控制台的“Safeguards”下选择“Guardrails”;
  • 配置内容过滤器,包括禁止主题、敏感词识别和拦截提示模板;
  • 通过测试不同输入,评估防护性能,并根据需求调整规则。

登录Amazon Bedrock控制台

六、DeepSeek-R1区域可用性与定价

DeepSeek-R1现已在亚马逊云科技美国东部(弗吉尼亚北部)、美国东部(俄亥俄)和美国西部(俄勒冈)区域提供服务,支持跨区域推理。未来将逐步扩展至更多区域。

Amazon Bedrock提供来自领先AI提供商 [如 Anthropic、Meta、Mistral AI 和 Amazon)] 的精选基础模型(FM),用于批量推理,价格比按需推理定价低 50%。根据不同实例定价如下表:

1、AI21 Labs

AI21 Labs

2、Amazon

Amazon

3、Anthropic

Anthropic

4、Cohere

Cohere

5、Luma Al

Luma Al

更多定价可访问亚马逊云科技官网:点击访问

相关推荐:

重磅!AWS提供完全托管的DeepSeek-R1模型

Amazon SageMaker AI结合DeepSeek构建AI Agents教程

Amazon EC2部署DeepSeek-R1蒸馏模型教程

(本文由美国主机侦探原创,转载请注明出处“美国主机侦探”和原文地址!)

主机侦探企业微信

微信扫码加好友进群

主机优惠码及时掌握

主机侦探QQ群

QQ群号:938255063

主机优惠发布与交流

温馨提示:

1、本站部分图片来源于互联网,如有侵权请联系删除。邮箱:2942802716#qq.com(#改为@)

2、本文评论没有专人回复,如果您有问题请到美国主机侦探论坛提问!

3、美国主机侦探免费为您提供美国主机购买咨询。

RAKsmart美国服务器
返回顶部