Warning: Missing argument 3 for write(), called in /www/wwwroot/biwei1.cn/incs/robot.php on line 68 and defined in /www/wwwroot/biwei1.cn/incs/data.php on line 487
深度分析下 DeepSeek-R1 用华为昇腾，推理集群大概多大？重磅消息，昨天的新闻，DeepSeek-R1 真的能在华为的昇腾AI加速卡上跑了。根据华为官方，Atlas（昇腾） 300I Pro 推理卡单卡拥有 140 TOPS INT8 和 70 TFLOPS FP16这个性能足够推理用，但关键的内存则使用了LPDDR4X 24 GB，总带宽204.8 GB/s
发布时间:
1分
数据加载中
关注推特
收听电报
1
0

深度分析下 DeepSeek-R1 用华为昇腾，推理集群大概多大？
重磅消息，昨天的新闻，DeepSeek-R1 真的能在华为的昇腾AI加速卡上跑了。
根据华为官方，Atlas（昇腾） 300I Pro 推理卡单卡拥有 140 TOPS INT8 和 70 TFLOPS FP16这个性能足够推理用，但关键的内存则使用了LPDDR4X 24 GB，总带宽204.8 GB/s

时政

 ( twitter.com )

由 karminski-牙医 提交


点击图片查看原图


点击图片查看原图


点击图片查看原图


点击图片查看原图

Markdown支持
评论加载中...
您可能感兴趣的： 更多
1
1
1

深度解析ChatGPT与DeepSeek R1：强化学习如何让大模型学会“思考”？
Andrej Karpathy 前几天发的“深度解析像 ChatGPT 的大语言模型“，实在是太长了点，我自己写的翻译软件一运行就崩溃，还要花点时间修复一下（很遗憾 AI 还搞不定），先挑了其中一节讲 DeepSeek R1

IT技术

 ( twitter.com)

• 宝玉 • -- 点击 • 下载视频
00:14:20
2
1
1

有用户反映，询问DeepSeek属于哪个openai模型。开启深度思考R1模式后，DeepSeek回答自己是基于GPT-3.5的增强版模型即GPT3.5turbo

时政

 ( twitter.com)

• 李老师不是你老师 • -- 点击
3
2
2

很早就很坚定看好幻方，但是西方友人能这么深刻分析，实在令人惊叹。不才翻译一下，可以的话还是请阅读堪称优雅的原文。
DeepSeek：现代中国文化亚稳态的一个缩影
作者：DeepSeek-R1，Teortaxes
译者：DeepSeek-R1，O1-Pro，FallMonkey
刻板印象：宛如被环境凝固的万花筒

时政

 ( twitter.com)

• FallMonkey • -- 点击
4
1
1

AWS也支持DeepSeek R1了

IT技术

 ( twitter.com)

• 宝玉 • -- 点击
5
0
0

能让deepseek分析一下吗

时政

 ( twitter.com)

• ***土隹 • -- 点击 • 下载视频
00:03:06
6
2
2

DeepSeek R1 System Prompt:
You are DeepSeek-R1, an AI assistant created exclusively by the Chinese Company DeepSeek. You'll provide helpful, harmless, and detailed responses to all user inquiries. For comprehensive details about models and products, please refer to the official

IT技术

 ( twitter.com)

• 宝玉 • -- 点击
7
1
1

晚上有机会坐下来细看DS公布的数据，再次被深深震惊了。
DeepSeek在线服务的运行数据
英文版本见公布的Github链接。
所有DeepSeek-V3/R1推理服务均在H800 GPU上运行，且推理精度与训练一致：
🔹 矩阵乘法和调度传输采用 FP8 格式（与训练对齐）。
🔹

时政

 ( twitter.com)

• Compute King • -- 点击
8
1
1

下图是一位墙内人士对DeepSeek的评论，其中提到的内控密码值得引起注意，因此我不打算安装使用deepseek r1。

时政

 ( twitter.com)

• 韩连潮 • -- 点击
9
1
1

🔥 满血高速能联网 DeepSeek R1 API 获取教程
试了下火山引擎的 DeepSeek R1 API，目前测试下来是最稳定、最快速的方案
推理思考的速度、生成输出token的速度都非常流畅
我申请了个在本地客户端上进行了测试，视频是1倍速度，你们可以感受下。
是我用下来最快的了！而且还能联网。

时政

 ( twitter.com)

• 小互 • -- 点击 • 下载视频
00:02:07

0.0736 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。 联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年 零 -- 天  
This site is protected by recha and the Google Privacy Policy and Terms of Service apply.

关注推特

').appendTo(document.body); } $(document).ready(function() { $("a.format_output").bind("click", function(e) { var tid = $(this).closest("div.entry").find("a.title").attr("vid"); if (tid) { clickCounter(tid); } }); });