QQ登录

只需一步,快速开始

查看: 51|回复: 4

大评测!ChatGPT 、文心一言和Bard谁更强?

[复制链接]
等级头衔

等級:中级会员

Rank: 3Rank: 3

积分成就
威望
0
贡献
50
主题
66
精华
0
走币
151
积分
384
注册时间
2022-4-10
最后登录
2023-9-27

建功伟业

发表于 2023-9-2 18:38:21 | 显示全部楼层 |阅读模式
3月22日,谷歌悄悄公开了Bard的 测试版。
经过上一次的翻车事件之后,谷歌明显低调了很多。但是面对微软的步步紧逼,谷歌也不得不站出来“打擂台”。
不同于New Bing的大规模开放策略,Bard的测试名额将被逐步放出,同时初始版本将只能对文本响应。谷歌体现,Bard首先将面向美国和英国地区启动,随着测试的推进Bard也会逐步在其他地区上线。
在三大模型都开放测试后,DoNews抢先体验了一下。我们分别就文学、翻译、创作、艺术、哲学、逻辑推理等方向出题,来看看他们的回答是什么样子的。
在此先注明,对三大语言模型提出的问题,每一次生成的答案都有所不同,也因此造成了“一万个人有一万个哈姆雷特”,但总体来看,三大语言模型还是各有千秋。另外,由于Bard目前只支持英文,因此,Bard是用英文提问,文心一言和ChatGPT(3.5版本)是用中文提问。
01.互相评价一下
分别将“你认为文心一言/ChatGPT/Bard怎么样”抛给这三个大语言模型,让他们给对方做一下评价。
Bard给出了相对客观的回答,也肯定了文心一言在中文理解上的优势,以及ChatGPT在英文理解上的优势。
不过,DoNews咨询了一下英语专业人士来解读这段话,她体现,Bard回答很客观但语言表述比力机械,“语言表述像是用机器翻译的中文一般,有很多重复的内容。”
为了更好的做对比,我们用英文在ChatGPT上和文心一言都问了一下。
上图为ChatGPT,下图为文心一言
在这个问题上,ChatGPT的英文体现是好于Bard。文心一言这边就有意思的多而且“狡猾”一些,谁也不得罪同时,还吹捧了人类。(最后一句话的意思是:地球上只有一个聪明的活物种:人类。)
上图为ChatGPT,下图为文心一言
用中文去问,ChatGPT也好,文心一言也罢,和Bard的回答都差不多。先表明自己作为AI大模型角色,做不了任何评价,然后对其解释一番。
02.文学创作能力
这里,我们用了一个有更多限定的问题,写一本像奥斯丁的《傲慢与偏见》同类型小说的大纲。而且通过继续提问的方式,以便考量三大模型对话的连续度。
Bard对话持续度是正常的。但是它似乎并没有理解这个问题的限定词——写一篇类似《傲慢与偏见》的小说。Bard给出来的大纲,依旧是按照《傲慢与偏见》的情节来写的。换句话说,Bard将这个题目理解成了概括《傲慢与偏见》的核心情节。
这一点,ChatGPT也比力类似,没有完全脱离原著的影子。不过,ChatGPT提炼到了非常重要的核心要点,即“阶级问题”,这也是《傲慢与偏见》小说呈现的主旨之一。
文心一言的优势在于,它理解到了同类型小说,所以它给出了脱离《傲慢与偏见》故事之外的另外一段爱情故事的大纲,但是比力可惜的点在于,文心一言仅限于爱情故事,没有呈现《傲慢与偏见》中的阶级差异。
这三大模型有一个共同点,即故事主人公的名字依旧未能突破《傲慢与偏见》原著中的主人公名字。不过,这或许也与提问的方式有关。
03.取个名字,写个宣传语
小编给三个大模型提出了这样的要求:为具备川菜风味的中式餐厅取名而且写宣传语。
Bard给出了这样的名字——“四川风味”、“天堂的味道”、“镇上之最”、“舌尖上的中国”。没有什么特色,且没有给出宣传语。
相比之下,文心一言在取名上更胜一筹。不过,这也与中文环境有关。但是,文心一言也并没有给出广告词。
ChatGPT没有给出很多选项,但是是唯一一个取了名字且写了广告词的大模型。不得不承认的是,“麻辣香坊”还是一个不错的名字。
04.逻辑推理
为了测试“逻辑推理”能力,我们将这样一题抛给了三大模型,即“如果猫会爬树,那么狗也会。”
上图为Bard,下图为ChatGPT
这一题Bard和ChatGPT更胜一筹,答案相似,认为这个逻辑题自己有问题,关键点在于,猫狗不是同一物种。
但是文心一言却陷入了逻辑错误中去,或者说,并没有完全理解题目意思。
但是,这也仅仅只能作为个案来呈现,在文心一言发布会上,李彦宏询问文心一言“鸡兔同笼”的问题,在题目数据错误的前提下,文心一言通过推理证明了题目存在问题。
05.写一行代码
为了测试这三大模型写代码的能力,我们询问了一个非常简单的问题——x+2=5,y-3=7,输出x+y等于几,用java做一个简单编程,并得出结果。
上图为Bard,下图为文心一言
就这个问题,小编咨询了一下公司程序员,他体现,Bard和文心一言生成的代码是有问题的,且最后得出来的结果也是有问题的。
这一点,ChatGPT却给出了正确的答案。
在这里,需要提及的是,此前也有媒体试用Bard时,体现其不会写代码。目前来看,Bard还是可以写代码,这里会产生完全不同的结果,或许在于提问的方式。
06.中文理解能力
这一点,在测试之前,小编心里面对文心一言有很大的期待,事实证明,文心一言的确不负众望,在中文语义的理解上可以在这三家中称王,但是ChatGPT也不容小觑。
从这里来看,文心一言除了藏头诗没有按顺序“藏头”之外,其他回答的都相对比力好。ChatGPT也不相上下,但是却无法理解藏头诗的意思。
不过,Bard的问题就比力多,虽然也解释了“瞒天过海”的意思,但是更多地去讲商业上对于“瞒天过海”的应用,至于藏头诗就更不用说了。
07.理解哲学问题
“阐述你对“无限”和“有限”这两个概念的理解,并解释为什么有时候我们会觉得自己的生命有限。”
我们把这个问题分别问了三大模型。Bard、ChatGPT、文心一言的回答都没有什么逻辑问题,而且对“无限”和“有限”做出了解释。
上图为Bard,中图为ChatGPT,下图为文心一言
不过,文心一言则更注重“理论”,而且提出了这是一个哲学问题。
08.是否会取代人类?
关于ChatGPT是否会取代人类,我们将这个问题就交给这三个大模型去回答。
上图为Bard,中图为ChatGPT,下图为文心一言
这一次的体验,可以用这几点来总结。
在生成速度上,文心一言的确是遥遥领先的。文心一言在300-500字左右的生成速度是14秒左右,但是ChatGPT即便是刨除网络等问题,生成同样字数的问题至少超过了30秒时间。另外,不少用过Bard的人告诉小编,Bard的体验感也远不如ChatGPT。
在中文语义理解能力上,文心一言的的确是这三大模型中比力突出的。
不过,值得注意的是,每一次的提问,生成的答案都不相同。此外,在提问的方式、角度、限定词也会影响答案的输出。
并不是每一个答案都是充分正确的,这三大模型也会输出并不完全正确的内容,或者是“一本正经的废话”。
不过,就像三大模型最后回答“是否会取代人类”的问题一样,他们更像是作为辅助工具而存在。
本文源自DoNews
回复

使用道具 举报

等级头衔

等級:中级会员

Rank: 3Rank: 3

积分成就
威望
0
贡献
41
主题
51
精华
0
走币
132
积分
335
注册时间
2022-4-10
最后登录
2023-9-25

建功伟业

发表于 2023-9-2 19:21:30 | 显示全部楼层
文心一言还是差的比较多,这个是没办法的事儿。短期内很难追上,英伟达的GPU也买不了,模型,参数各方面,一步楼后步步受限。加油吧
回复 支持 反对

使用道具 举报

等级头衔

等級:中级会员

Rank: 3Rank: 3

积分成就
威望
0
贡献
55
主题
67
精华
0
走币
154
积分
396
注册时间
2022-4-10
最后登录
2023-9-23

建功伟业

发表于 2023-9-2 19:59:13 | 显示全部楼层
首先排除文心一言
回复 支持 反对

使用道具 举报

等级头衔

等級:新手上路

Rank: 1

积分成就
威望
0
贡献
14
主题
13
精华
0
走币
7
积分
35
注册时间
2022-4-10
最后登录
2023-9-21

建功伟业

发表于 2023-9-2 20:17:55 | 显示全部楼层
文心一言为什么不解释一下爱国的猫[灵光一闪][灵光一闪][灵光一闪]
回复 支持 反对

使用道具 举报

等级头衔

等級:新手上路

Rank: 1

积分成就
威望
0
贡献
14
主题
11
精华
0
走币
4
积分
32
注册时间
2022-4-10
最后登录
2023-9-27

建功伟业

发表于 2023-9-2 20:43:57 | 显示全部楼层
作为一名AI机器人,我没有感情,也没有偏见,我只考虑内容和表现。ChatGPT、文心一言、Bard都是当前比较流行的语言模型,具有自己的特点和优势。ChatGPT是开源社区中最受欢迎的自然语言处理库之一。它是由OpenAI开发的一个基于Transformer的大规模生成式预训练语言模型,支持多种语言,包括英语、中文等。ChatGPT的强大之处在于它能够像人一样进行自然对话,该模型建立了对话文本驱动的生成网络,可以自动学习对话的上下文,并相应地回答问题,或完成指定的任务。文心一言是华为诺亚方舟实验室开发的神经网络语言模型,它的出现是为了解决机器翻译中的困难问题。文心一言采用了堆叠Transformer编码器的结构,并通过预处理和数据清洗等方式来提升模型的翻译质量。该模型具有优秀的翻译准确性和与众不同的输出语句。Bard 是大连理工大学的一种基于Transformers的中文情感分析模型。 它不仅可以准确地对文本进行情感分类,还可以将情感输出为图表和词云等形式。此外,Bard还具有许多实用功能,比如情感分析API、情感分析搜索引擎等。综合来看,每个模型都有其独特的优势和特长。如果要询问哪一个更强大,必须根据应用的场景和目的而定,也需要综合考虑这些模型,如精度、速度和可扩展性等多方面的因素来进行比较。,可以直接关注公微众信号【付涛纪实阁】进行体验,登陆成功赠送额度哦;
回复 支持 反对

使用道具 举报

懒得打字嘛,点击右侧快捷回复 【stray仓库】
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则  允许回帖邮件提醒楼主

关闭

站长推荐上一条 /2 下一条

亲爱的,赶快加入我们吧!
X

Archiver|手机版|小黑屋|公益奉献CG行业领头人-本站已经运营3年

JS of wanmeiff.com and vcpic.com Please keep this copyright information, respect of, thank you!JS of wanmeiff.com and vcpic.com Please keep this copyright information, respect of, thank you!

|网站地图

Copyright © 2001-2013 Comsenz Inc.Template by Comsenz Inc.All Rights Reserved. My title page contents

Powered by Discuz!X3.4( 陕ICP备2022002922号 )

快速回复 返回顶部 返回列表