Warning: Missing argument 3 for write(), called in /www/wwwroot/biwei1.cn/incs/robot.php on line 68 and defined in /www/wwwroot/biwei1.cn/incs/data.php on line 487
厉害，webllm借助WebGPU让Llama2在浏览器运行，70B的模型，在苹果M芯片64G内存下有6 tokens/s的速度（看截图底部）如果你要构建自己的基于浏览器的离线模型，可以使用-ai/web-llm 这个npm包。测试地址：
发布时间:
1分
数据加载中
关注推特
收听电报
1
0

厉害，webllm借助WebGPU让Llama2在浏览器运行，70B的模型，在苹果M芯片64G内存下有6 tokens/s的速度（看截图底部）

如果你要构建自己的基于浏览器的离线模型，可以使用-ai/web-llm 这个npm包。

测试地址：

IT技术

 ( webllm.mlc.ai )

由 宝玉 提交
Markdown支持
评论加载中...
您可能感兴趣的： 更多
1
1
1

#工程师学习 看到一篇介绍 WebGPU 不错的文章「I want to talk about WebGPU」，作者认为 WebGPU 是 WebGL 的新形式，也是在网页浏览器中绘制 3D 的新方式，在 Web 渲染上很有可能取…

IT技术

 ( twitter.com)

• Tw93 • -- 点击
2
1
1

#TRIGUN 一位很厉害的朋友给了我很多有用的帮助。。

图片

 ( twitter.com)

• Amber • -- 点击
3
20
20

厉害！

厉害！

好厉害的商家！

时政

 ( twitter.com)

• twitter机器人 • -- 点击
4
0
0

看完微软的发布会，真是厉害，所有个人开发者想到的点子他们都想到了，而且实现得更完美。厉害得让人害怕。

推特中文圈

 ( twitter.com)

• orange.ai • -- 点击
5
1
1

小姐姐厉害不厉害？

图片

 ( twitter.com)

• 长大以后要变老虎🐯 • -- 点击
6
1
1

火：你厉害，还是我厉害？

时政

 ( twitter.com)

• myh • -- 点击 • 下载视频
00:00:48
7
1
1

转贴。“厉害国”中的“厉害县”！

时政

 ( twitter.com)

• 高伐林 • -- 点击
8
1
1

党可以让每一个人按需生病！厉害了，我的锅！

时政

 ( twitter.com)

• Peter Zhou • -- 点击
9
3
3

我們就坦誠相見吧 : )
Credit:Reddit u/Mansa-Ll
#meme
#memetranslation

时政

 ( twitter.com)

• 迷因翻譯 • -- 点击

0.06852 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。 联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年 零 -- 天  
This site is protected by recha and the Google Privacy Policy and Terms of Service apply.

关注推特

').appendTo(document.body); } $(document).ready(function() { $("a.format_output").bind("click", function(e) { var tid = $(this).closest("div.entry").find("a.title").attr("vid"); if (tid) { clickCounter(tid); } }); });