新的研究展示了所有主要AI语言模型的政治偏见：- OpenAI的ChatGPT和GPT-4被认定为最左翼的自由主义者。- Meta的LLaMA被认为是最右翼的权威主义者。通过询问模型关于各种主题（如女权主义、民主）的观点，然后在政治指南针上进行绘图。…

Warning: Missing argument 3 for write(), called in /www/wwwroot/biwei1.cn/incs/robot.php on line 68 and defined in /www/wwwroot/biwei1.cn/incs/data.php on line 487

site stats

新的研究展示了所有主要AI语言模型的政治偏见：- OpenAI的ChatGPT和GPT-4被认定为最左翼的自由主义者。- Meta的LLaMA被认为是最右翼的权威主义者。通过询问模型关于各种主题（如女权主义、民主）的观点，然后在政治指南针上进行绘图。…

发布时间: 2023-08-09 01:10:51

1分

数据加载中

关注推特

收听电报

2

1

0

新的研究展示了所有主要AI语言模型的政治偏见：

- OpenAI的ChatGPT和GPT-4被认定为最左翼的自由主义者。

- Meta的LLaMA被认为是最右翼的权威主义者。

通过询问模型关于各种主题（如女权主义、民主）的观点，然后在政治指南针上进行绘图。…
IT技术
( twitter.com )

1年前由 GPTDAOCN 提交

新的研究展示了所有主要AI语言模型的政治偏见：

- OpenAI的ChatGPT和GPT-4被认定为最左翼的自由主义者。

- Meta的LLaMA被认为是最右翼的权威主义者。

通过询问模型关于各种主题（如女权主义、民主）的观点，然后在政治指南针上进行绘图。

OpenAI的立场：该公司因潜在的自由派偏见受到批评。他们强调中立方法，称任何出现的偏见为"bug，而不是特点"。

博士研究员的观点：Chan Park认为没有任何语言模型能够完全摆脱政治偏见。

模型如何获得偏见：研究员们检查了模型开发的三个阶段。首先，他们使用政治敏感的声明查询模型以识别偏见。来自Google的BERT模型比OpenAI的GPT模型显示出更多的社会保守主义。该论文推测这可能是因为BERT在更保守的书籍上进行了训练，而较新的GPT模型在自由派的互联网文本上进行了训练。Meta澄清了在其LLaMA模型中减少偏见的步骤。（Google没有评论）

实际的训练放大了现有的偏见：左倾模型变得更加左倾，反之亦然。培训数据的政治取向影响模型对"仇恨言论和错误信息"的检测。

透明度问题：科技公司通常不分享培训数据/方法的详细信息。

他们应该被要求公开培训数据吗？

关键是，如果AI最终传播与人类交换的大部分信息，它可以引导意见。我们不能完全消除偏见，但人们应该意识到它的存在。

如果你对阅读完整的研究论文感兴趣，请查看图片的ALT文本中的链接。这是一篇很好的文章，只有大约10页（不包括参考文献）。

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

1

2

1

1

特斯拉CEO马斯克日前带头号召人工智能研究机构暂停ChatGPT那样的大语言模型发展，反映出不少人对于AI发展速度失控的担忧甚至恐慌。但这一倡议并未引起多数中国AI业者的兴趣。批评者说，美国AI研究机构若主动放慢AI发展，将给中国…
时政
( twitter.com)

2年前 • 美国之音中文网 • -- 点击 0 评论

2

2

1

1

Google刚刚发布了开源大语言模型 Gemma，这是对标 LLAMA 2 的开源大语言模型。
Gemma是一系列基于创建Gemini模型所使用的相同技术与研究的、在其领域内技术领先的轻量级开源模型。…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

3

2

1

1

一篇有意思的论文：《战争与和平 (WarAgent): 基于大语言模型的多智能体世界大战模拟》
论文展示了如何利用大语言模型 (LLM) 模拟复杂的人类行为
大语言模型在模拟人类冲突和细腻行为方面展现出了令人着迷的应用潜力，特别是通过多智能体 AI 系统实现。
我们可以通过对 LLM…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

4

2

1

1

如何让小型语言模型高效工作。Yejin Choi在2024年数据与AI峰会上发表演讲（双语字幕）
演讲者：Yejin Choi，华盛顿大学教授、麦克阿瑟奖学金获得者，同时也是AI2常识AI的高级研究主任
这个演讲是将如何优化小模型的，他们训练了一个 0.5B 参数的小模型做文档摘要任务，超过了GPT-3.5。
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:17:51

5

1

0

0

【Meta 开发了实时翻译闽南语的 AI】该模型目前仍在开发中，并且只适用于那类具有中间语言可以桥接两个不同语言的语言，如果两个语言之类没有密切相似的可桥接语言的话，将无法使用这个新模型，但该模型仍然为通用翻译开辟了更多的新语言。
大陆资讯
( www.oschina.net)

2年前 • 你妹的溢达 • -- 点击 0 评论

6

2

1

1

【Sora模型争议背后，什么是杨力昆的世界模型？】一直在研究世界模型的AI科学家、图灵奖获得者杨力昆（Yann LeCun）认为，Sora的生成式技术与世界模型的因果预测完全不同，Sora不仅成本高昂，而且对于世界模型完全没有意义。杨力昆表示，现在的大语言模型是新一轮的炒作，目的都是为了创业公司融资。
大陆资讯
( www.jiemian.com)

1年前 • 观光团 • -- 点击 0 评论

7

1

0

0

大型语言模型与生成式AI——介绍LLM和生成式AI项目的生命周期7——用Transformer生成文本

#大型语言模型与生成式AI… …
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

8

1

0

0

语言模型悄悄偷懒？研究发现：上下文太长，模型会略过中间不看
大陆资讯
( www.jiqizhixin.com)

1年前 • rabbit • -- 点击 0 评论

9

2

1

1

昨晚open ai那篇文章更通俗的解释：

OpenAI 的新研究使用 gpt4 来标记 gpt2 中的所有 307,200 个神经元，并用简单的英语描述每个神经元在模型中所扮演的角色。

这为 AI 的可解释性和对齐开辟了一个新…
IT技术
( twitter.com)

2年前 • 歸藏 • -- 点击 0 评论

0.12006 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by recha and the Google Privacy Policy and Terms of Service apply.

关注推特

').appendTo(document.body); } $(document).ready(function() { $("a.format_output").bind("click", function(e) { var tid = $(this).closest("div.entry").find("a.title").attr("vid"); if (tid) { clickCounter(tid); } }); });