Image 2 Image 3 Image 3 Image 3

朋友圈刷屏的ChatGPT究竟是什么?警方紧急提醒!

频道:行业资讯 日期: 浏览:1005

最近

每个人似乎都在谈论ChatGPT这个爆火的软件

围绕它的是无数人的好奇心

然而,随着其短时间内迅速蹿红

有人利用ChatGPT或者技术本身

蹭热度、混淆视听

甚至实施违法犯罪行为

尤其需要引起警惕

↓↓↓

用户迅速破亿,ChatGPT到底是啥东西

未来主要功能可能在于这两方面

最近火热的ChatGPT,是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,并协助人类完成一系列任务。

这款AI语言模型,让撰写邮件、论文、脚本,制定商业提案,创作诗歌、故事,甚至敲代码、检查程序错误都变得易如反掌。

不少和ChatGPT“聊过天”的网友纷纷感叹,“只有你想不到,没有ChatGPT办不成的......”

朋友圈刷屏的ChatGPT究竟是什么?警方紧急提醒!

朋友圈刷屏的ChatGPT究竟是什么?警方紧急提醒!

在发布短短五天内,ChatGPT的用户就已突破百万。发布两个多月后,ChatGPT的用户暴增至1亿人,这也是人工智能诞生以来,最快用户破亿的软件产品。

在资本的疯狂追逐下,造出ChatGPT的公司OpenAI估值已达290亿美元,成为全球目前估值最高的初创公司。

A股ChatGPT概念股一周内涨了25%,各家互联网大厂都高调称要推出自己的“ChatGPT”,新一轮AI的迅猛发展已经风起云涌。

从ChatGPT到微软新版Bing改朝换代,AIGC(利用人工智能技术来生成内容)也在国内引发了新一轮的科技巨头竞赛。

从目前国内情况来看,京东云旗下言犀智能人机交互平台的机器人京小智,是京东布局ChatGPT的重要产品。百度官宣其类ChatGPT项目中文名为“文心一言”,英文名为ERNIEBot,预计将于3月完成内测,并向公众开放。

浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林在此前接受采访时介绍,ChatGPT是算法和数据积累后的成果,以量变逐渐累积到质变,这符合人工智能技术发展的客观规律。

盘和林介绍,ChatGPT是通过和AI训练员对话来提升自己的自然语言处理能力,尤其是提高回答的逻辑性,ChatGPT最大的特点就是会承认自己的局限性,通过人类对话细节给出人类可能想要的答案。

未来ChatGPT的数据积累也会越来越大,能够应对的事情也越来越多,主要功能可能是两个方面:一个方面是辅助工作,比如帮助人类写文案、写代码,另一个方面是AICG(AI-Generated Content,人工智能生成内容),就是替代人类创作内容。

用ChatGPT写作业?相关讨论超10万条

多国大学、科研机构发布明确禁令

在ChatGPT的“原产地”美国,2023年1月,一项对1000名18岁以上学生的调查显示,超过89%的受访学生会使用ChatGPT来完成家庭作业。同月,密歇根大学的哲学教授安东尼·奥曼发现全班第一的论文是用ChatGPT写的。

根据记者不完全统计,截至2023年1月底,国内各大社交平台上,有关使用ChatGPT完成作业的讨论已经超过10万条。

目前,全球多国大学、科研机构发布明确的人工智能禁令,禁止使用ChatGPT和其他所有基于人工智能的工具完成学习与考试任务;多家期刊、出版机构也禁止将ChatGPT列为论文合著者。

不过关于ChatGPT对学生影响的讨论,并未随着一张张禁令而停歇。网络上,公众对于ChatGPT的争论,仍在发酵。

正在国内某高校就读的彭羊认为,一部分人过度神化了人工智能,“ChatGPT写出来的东西,其实并不能直接用。”

“挺锻炼提问能力的!”彭羊表示,ChatGPT要通过用户与机器之间的问答才能得到答案,“要问很具体的问题,如果自己的问题模棱两可,它的回答可能也会有很大偏差,甚至有的时候答案会出错。”

一些教育工作者、科研人员认为,一些学生恰恰不知道“问什么”,尚未建立起真正的“问题意识”,如果“问什么”都不知道,那么连AI这个工具都没法很好地使用。

ChatGPT版Bing会与人争论发小脾气

发现错误,还会写诗讨好

前段时间,《差评》发了一篇关于内测ChatGPT版bing的稿子,其中提到编辑向ChatGPT询问“截至今天,詹姆斯一共打了多少场常规赛?”

New Bing给出的答案是1577 场。但是编辑从官网上查询所知,正确答案是1410场常规赛。于是,New Bing与编辑开始有了争论,甚至还发了点小脾气。

朋友圈刷屏的ChatGPT究竟是什么?警方紧急提醒!

最后,

编辑发现 New Bing 混淆了

“ 常规赛 ”和“ 总比赛 ”的概念。

朋友圈刷屏的ChatGPT究竟是什么?警方紧急提醒!

编辑所问的是常规赛场数,答案确实只有1410场。而 New Bing 给出的1577场是詹姆斯常规赛加季后赛的总比赛场数。

朋友圈刷屏的ChatGPT究竟是什么?警方紧急提醒!

发现错误后的 New Bing 为了求原谅,居然还做了一首小诗。

朋友圈刷屏的ChatGPT究竟是什么?警方紧急提醒!

话说到这里,它的答案对不对

似乎已不重要了......

近期,公安机关网安部门也提醒

围绕“ChatGPT”蹭热度

甚至实施违法犯罪的行为

尤其需要警惕

↓↓↓

造谣、诈骗......

警方紧急提醒:当心感染链

1

山寨版捞金

随着ChatGPT爆火,国内也涌现了一批名字中包含“ChatGPT”的微信公众号、小程序产品。这些产品使用ChatGPT的官方图标当头像,主要的服务方式是先免费试用,一旦免费次数用尽就开始收取费用,最高无限次对话收费甚至高达999.99元。

朋友圈刷屏的ChatGPT究竟是什么?警方紧急提醒!

通过验证,ChatGPT官方平台回复与微信小程序软件比对,答案完全不一致。

目前,ChatGPT的开发者、人工智能研究机构OpenAI并没有在中国大陆提供有关ChatGPT的服务,也没有相应的公司运营

2

当心钓鱼邮件

山寨版的危害可能只是蹭热度、赚流量钱和服务费,更需要提防的,是有不法分子把ChatGPT与犯罪行为联系在一起。

目前境外有人使用ChatGPT创建一个完整的感染链:不同以往的广撒网式的网络钓鱼,它在提问者的诱导下可以生成针对特定人或者组织的“鱼叉式”网络钓鱼邮件,此类钓鱼邮件更具有欺骗性和迷惑性,这就导致邮件接收方更容易上当受骗,接收者一旦点击该邮件,系统就会被恶意代码感染中毒。

与此同时,在ChatGPT推出几周后,不法分子对ChatGPT的恶意利用也带来了更多的数据安全问题,目前外国已有相关机构证明该机器人可能被用于编写恶意软件,从而逃避防病毒软件的检测,或利用其拟人的聊天对话能力,冒充真实的人或者组织骗取他人信息等。

3

编造谣言工具

根据研究机构测试发现,如果对着ChatGPT提出充斥阴谋论和误导性叙述的问题,它能在几秒钟内改编信息,产生大量令人信服却没有来源根据的内容。

一旦ChatGPT被不法分子利用,将可能导致ChatGPT衍生成为互联网上制造和传播网络谣言的工具。

公安机关网安部门

提醒广大网友

ChatGPT的信息也是来源于互联网

而互联网中信息并不总是准确的

请大家务必擦亮眼睛

辨别网上信息真伪

合法合规使用软件

切勿泄露个人信息

新晚报综合公安部网安局、澎湃新闻、中国青年报、上海网警

版权归原作者所有

责任编辑:王梦琦

审核:郭启迪

0 留言

评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。
验证码