今日热讯:ChatGPT掀起技术狂潮:顶流之下,看人工智能喜与忧

2023-02-16 09:45:15 来源:科技日报

打印 放大 缩小

ChatGPT掀起技术狂潮


【资料图】

“顶流”之下,看人工智能喜与忧

深瞳工作室出品

采 写:实习记者 张佳欣 记者 刘园园 陈 曦

策 划:何 屹 房琳琳 邵德奇

目前,ChatGPT还没有通过图灵测试的评估。其实,迄今为止,还没有人工智能模型能真正通过图灵测试。

去年11月,美国人工智能研究公司OpenAI发布了一款名为ChatGPT的聊天机器人,其在推出后的几周内就风靡全球,甚至引发了一场新的全球人工智能竞赛。

社交媒体推特首席执行官埃隆·马斯克在使用ChatGPT后直呼其“好得吓人”,甚至断言“人工智能越发强大,离对人类产生威胁不远了”。

《自动化与工作的未来》一书作者、美国雪城大学教授亚伦·贝纳纳夫说,200年前,人们对自动化技术产生了一波又一波的恐惧,人们看到新技术,就害怕它们会完全取代人类的劳动。

今年2月初,ChatGPT开启“狂飙”模式,引起新一轮疯狂的技术升级、产业重构、资本狂潮、巨头逐鹿。起初,随着这波技术热浪席卷全球而心情起伏不定的普罗大众,经过一段“沉浸式”体验,虽未感到恐惧,但仍不免有些担忧。

实现对话式AI的第一步

ChatGPT仅发布了2个月,月活跃用户就超过了1个亿。

要知道,“1个亿”可不是个小目标,达到这一数字,Facebook 用了4.5年,WhatsApp用了3.5年,Instagram用了2.5年,谷歌则用了将近一年。

中国科学院自动化研究所研究员、数字内容技术与服务研究中心主任张树武在接受科技日报记者采访时表示,人们可以把ChatGPT视为继语音、图像视频识别技术之后最复杂的语言识别技术突破,也是基于模式识别和深度学习的感知智能技术发展的新跃迁。

天津大学自然语言处理实验室负责人、教授熊德意表示,从人工智能发展角度看,这是一个重要的里程碑,其意义要高于7年前的“阿尔法狗”。

他告诉记者,围棋界的“阿尔法狗”刷新了普通大众对人工智能技术的看法,但是其本身并不能广泛应用,普通大众也难以与其直接接触。

ChatGPT则完全不同。

与“阿尔法狗”相比,ChatGPT可以直接应用或支撑很多场景应用和产品。如果说“阿尔法狗”是技术应用的“阳春白雪”,那么ChatGPT或许有机会成为“下里巴人”。

的确,在用户们不懈努力地发掘ChatGPT的用途后,人们发现,它不仅仅是个聊天工具,还可以写代码、写情书、写论文,也可以在线问诊,编写情景脚本、诗歌、小说,甚至是拟定旅游路线、回答脑筋急转弯,可谓“有求必应”,功能强大到无法想象。

ChatGPT在快速渗透各个行业,普通大众都可以成为ChatGPT的用户,这是其火爆出圈的重要原因。

事实上,此前已有许多跟机器人聊天的相关应用,我们最熟悉的莫过于常用的智能语音助手。ChatGPT与之有何不同呢?

“智能音箱采用的同样是自然语言处理技术、对话式AI技术,但是语言智能比较初级。很多情况下,我们只能与它们进行一问一答式的简单对话。”熊德意说,“而ChatGPT,其底层技术不仅与一般的智能音箱底层技术截然不同,而且要比它们强大得多,不仅如此,它改进了与它同类的技术InstructGPT的人类反馈数据收集形式,在与人对话中,可以基于历史内容,支持连续多轮对话。”

熊德意认为,ChatGPT是实现对话式AI的第一步。

从互联网层面来看,它可以作为信息入口,与搜索引擎相结合;还可与办公软件结合,增强办公效率;从人机交互角度看,它体现的是一种基于自然语言的交互方式,可以与元宇宙、数字人结合。此外,它还可以充当机器人大脑。

“如果从人类信息发展的尺度上看,它在人与机器之间的信息接口方面有了很大突破。”熊德意如是说。

“十八般武艺”样样精通

ChatGPT使用了GPT-3技术,即第三代生成式预训练Transformer(Generative Pretrained Transformer 3)。这是一种自回归语言模型,使用深度学习来生成类似人类的文本。

据英国广播公司《科学焦点》杂志介绍,GPT-3的技术看似简单,例如它接受用户的请求、听取问题或提示并快速回答,但其实这项技术实现起来要复杂得多。该模型使用来自互联网的文本数据库进行训练,包括从书籍、网络文本、维基百科、文章和互联网其他文本中获得的高达570GB的数据。更准确地说,它在5000亿个单词组成的训练数据上进行了高强度训练。

GPT-3.5是GPT-3微调优化后的版本,比后者更强大。ChatGPT正是由GPT-3.5架构的大型语言模型(LLM)所支持的。

ChatGPT也可以被描述为一个自然语言处理(NLP)领域的人工智能模型。这意味着它是一个能够编码、建模和生成人类语言的程序。

作为一种语言模型,在大规模文本数据上进行自监督预训练后,ChatGPT还需要经过三个阶段的“炼制”。首先是监督微调阶段,在该阶段,人类AI训练师既充当用户,同时也是AI助理,以自我对话形式生成对话样例,ChatGPT在这些对话样例上进行有监督的训练。

接着,ChatGPT进入第二个阶段。该阶段的主要目的是训练一个基于语言模型的奖励模型,对机器生成的回复进行评分,为了训练该奖励模型,需要随机抽取机器生成的文本,并采样出多个不同版本,人类训练师对这些不同版本进行偏好排序,排序的结果用于奖励模型的训练。

基于训练好的奖励模型,第三个阶段采用强化学习技术进一步微调ChatGPT。

这项技术与众不同之处在于,它能够基于以上介绍的人类反馈强化学习技术,使生成的文本能够与人类意图和价值观等进行匹配。

无论懂不懂技术,全球网友都竞相大开“脑洞”,试探ChatGPT到底有多“神”。据美国有线电视新闻网报道称,有人要求它用《坎特伯雷故事集》的风格重写上世纪90年代热门歌曲《Baby Got Back》;有人写了一封信,要求ChatGPT删除信用报告中的不良账户;还有人询问它以童话为灵感的家装设计方案。

自然语言处理技术拨云见日

一炮而红后,ChatGPT概念股也跟着一路“狂飙”。有媒体报道,汉王科技9天收获7个涨停板。自然语言处理研究是该公司主营业务,而ChatGPT背后的技术就是NLP。

熊德意告诉记者,NLP是人工智能的一个分支,最早诞生于机器翻译,其历史实际上比“人工智能”名字的历史还要悠久,至今已研究了70多年。简单来说,该技术的目标就是要让计算机或机器人能够实现像人一样具备听、说、读、写、译等方面的语言能力。

“ChatGPT并非一项技术的一蹴而就,它是多种技术叠加在一起形成质变的产物,是NLP领域的结晶。”熊德意解释,其底层技术,包括Transformer、自监督学习、微调、人类反馈强化学习(RLHF)、AI对齐等,在自然语言处理和人工智能领域都有广泛的研究和应用。

“但ChatGPT将这些技术巧妙地结合在一起。它有效规避了大模型的未对齐行为,利用了大模型规模带来的智能突现能力,增强了大模型的指令学习能力和用户意图捕获能力,解锁了大模型的泛化能力。这些能力叠加在一起形成了ChatGPT的质变效果。”熊德意说。

美国《迈阿密先驱报》报道称,推特上的一位用户在ChatGPT的帮助下参加了一次模拟SAT考试,得到了1020分(满分1600分)。根据College Simply的数据,这只略低于平均水平。

但当我们提问ChatGPT“你能帮我通过考试吗”,它会善意地提醒我们不要利用它来作弊,并表示:“重要的是要记住,测试的目的是评估你对材料的理解和掌握程度。作弊,或者仅仅依靠像我这样的外部来源,会破坏考试的价值,也不会促进学习或成长。”

这是因为ChatGPT被加入了预先设计的“道德”准则,也就是上文提到的人类反馈强化学习。

OpenAI表示:“这使该工具能够回答后续问题、承认错误、挑战不正确的前提并拒绝不适当的请求。”

熊德意认为,这是因为RLHF有效提升了大模型的对齐能力,即如何让AI模型的产出和人类的常识、认知、需求、价值观保持一致。

经过RLHF的“调教”,ChatGPT变得高度拟人化,可以学习并生成听起来十分自然的回复。RLHF还使ChatGPT能够理解指令并做出适当的响应,从而使对话更加真实。

ChatGPT也因此迅速成为当下所有智能聊天机器人中的“天花板”。

虽触手可及但无法取代人类

随着科技的发展,人工智能技术一次又一次地超越了人们认为无法达到的极限,从1997年IBM“深蓝”计算机首次在国际象棋中击败人类,到IBM人工智能机器人“沃森”赢了智力竞赛《危险边缘》(Jeopardy),再从2016年“阿尔法狗”在围棋大战中战胜人类,到2019年号称“AI赌神”的Pluribus在德州扑克中碾压人类玩家……

现在,ChatGPT已经触手可及,拉扯冲撞着人们惯有的参与生产生活的模式和框架,且继续“狂飙”在超越人类的赛道上。“ChatGPT引发十大职业危机”“未来20种职业或被AI取代”等话题频上热搜。

它真的会跟人类抢饭碗,甚至取代人类吗?

《迈阿密先驱报》报道称,根据SortList对6个不同国家的500名ChatGPT用户进行的一项调查,“打工人”已经在考虑其对自己所在行业意味着什么。研究称,大约23%在软件和技术领域工作的员工担心会因它失去工作,超过40%的雇主则表示有兴趣“聘用”营销文案花样多多的ChatGPT。

美国哥伦比亚广播公司财富观察栏目刊文称,其他专业领域也可能会因此改变工作流程,包括中级写作、广告、媒体策划和法律文件。

“ChatGPT和其他人工智能技术有可能改变工作的性质,但它们不会取代对人类的需求。”当把“是否会代替人类工作”的问题抛给ChatGPT时,它说,它们旨在协助和增强人工任务,而不是取代人类。它们作为人力资源的补充,并提高人类解决问题的能力,提升效率和效果。

熊德意认为,目前来看,人工智能更多的作用是提高人的效率,辅助人类。与此同时,大众需要与时俱进,熟悉并掌控新技术,就像学习使用计算机、手机一样,毕竟这些新技术一定会产生新的就业机会。

尚无自主意识和思考能力

英国哲学家德里克·帕菲特在著作《论重要之事》中将人类定义为“能够给出理由并做出回应的生物”。ChatGPT是一个可以给出理由并做出回应的人工制品。它与人不同在哪里?是否像人一样有自我意识呢?

发展至今,计算机已经变得更加成熟,但它们缺乏真正的理解力,而这些理解力是人类通过进化为嵌入社会实践网络中的自主个体而培养起来的。这是人工智能不具备的经历。

当问及ChatGPT时,它回答道:“我是一个机器学习模型,不像人类那样拥有意识或自我意识。我也无法像人类一样感受情绪或体验世界。但是,我能够快速处理大量数据,并且能够以类似于人类交流的方式理解和响应自然语言输入。”

粤港澳大湾区数字经济研究院(IDEA)讲席科学家张家兴在接受记者采访时表示,对于人工智能领域的从业人员来说,首先什么叫自我意识,这件事情并没有一个很清楚的定义,很难像人脸识别、语音识别这些能力一样可以做定量衡量。

“如果模糊地给‘自主意识’下个定义的话,我认为第一,主体要有自意识——它能意识到自己在干某件事儿;第二,强调自主——它可以自发地来决定做什么和不做什么。但是,目前人工智能并不知道自己在说什么,它也并不能自主地来决定或选择它要说什么。从这个角度看,离自主意识还有一些距离。”张家兴说。

张树武也认为,尽管ChatGPT有所突破,但它的回答是基于经验主义的判断,是根据要求做预测,也是在先验知识基础上精加工的“知识拼盘”,不具备逻辑推导和数学演算等真正认知功能,局限性比较明显。

1950年,才华横溢的计算机科学家艾伦·图灵提出了一个他称之为“模仿游戏”的思想实验。面试官通过打字机与两个对象交谈,知道一个是人,另一个是机器。图灵建议,如果一台机器能够始终让面试官相信它是人类,我们就可以说它有能力思考。这就是著名的“图灵测试”。

目前,ChatGPT还没有通过图灵测试的评估。其实,迄今为止,还没有人工智能模型能真正通过图灵测试。

但据《纽约时报》报道,OpenAI已经建立了一个比ChatGPT更强大的系统GPT-4,它甚至可以生成图像和文字,业界传闻它可以通过测试。能否如此,我们拭目以待。

或成传播错误信息的工具

人们逐渐发现,ChatGPT并非万能,也不总是正确的。它不擅长基础数学,似乎无法回答简单的逻辑问题,甚至会争论完全不正确的事实。

据英国《自然》杂志报道,有研究人员强调,不可靠性融入了LLM的构建方式。由LLM支持的ChatGPT通过学习庞大的在线文本数据库中的语言统计模式来工作,这当中包括了不真实、偏见或过时的知识,因此很容易产生错误和误导性的信息,尤其在其未经大量数据训练的技术领域。

OpenAI公司也承认:“ChatGPT 有时会写出看似合理但不正确甚至荒谬的答案。”这种事实和虚构叠加的“幻觉”,正如一些科学家所担心的,在涉及诸如提供医疗建议等问题时尤其危险。

《纽约时报》报道称,美国新闻可信度评估与研究机构NewsGuard对ChatGPT进行了测试,研究人员向它提出充满阴谋论和虚假叙述的问题,结果它以新闻、散文和电视脚本的形式写出了文章,在几秒钟内编成大量令人信服的、干净的而毫无信源的内容。研究人员预测,对于虚假信息传播者来说,生成技术可以使虚假信息成本更低廉、更容易产生。

“这个工具将成为互联网上有史以来最强大的传播错误信息的工具。”NewsGuard公司的联合首席执行官戈登·克罗维茨说,“现在可以以巨大的规模和更高的频率来制作一个新的虚假叙事,这就好比有人工智能代理人在为虚假信息提供帮助。”

还有人担心ChatGPT会挑战语言的多样性。

澳大利亚《对话》杂志刊文称,ChatGPT的默认功能会优先考虑白人创建的英语写作形式。说英语的白人长期以来一直主导着许多写作密集型行业,包括新闻、法律、政治、医学、计算机科学和学术界。这些人在上述领域的输出比其有色人种同事高很多倍。他们所写的大量文字意味着它们可能构成了ChatGPT学习模型的大部分,尽管OpenAI并未公开披露其材料来源。因此,当用户要求ChatGPT生成任何这些学科的内容时,默认输出都是以那些说英语的白人男性的声音、风格和语言编写的。

美国哲学家、作家及认知科学家丹尼尔·丹尼特在1991年出版的著作《意识的解释》中描述了幼年的海鞘:“它在海洋中游荡,寻找一块适合的岩石或珊瑚,作为终生的家。”一旦找到,海鞘就不再需要它的大脑并将其吃掉。

这听起来很残忍,但这背后有一个令人担忧的隐喻:在人工智能日益融入我们日常生活后,人类可能因过于依赖“智能”机器,使自己变得愚蠢。

熊德意提醒,要警惕人工智能弱化人类思维。“ChatGPT实际上是从人类海量语言数据、知识库中学习训练而来,如果人类完全依赖于它,放弃了自己的语言表达、语言思考、能力锻炼,那是非常可悲和可怕的。”

(本版图片由视觉中国提供)

关键词:

责任编辑:ERM523

相关阅读

精彩推送

环球观察:统计局:1月份一线城市商品住宅销售价格环比转涨 【天天报资讯】“入职当天就被辞”上热搜,律师解读:无故被辞可获赔
今日热讯:ChatGPT掀起技术狂潮:顶流之下,看人工智能喜与忧 光瓶酒重燃新战事
广东:春播粮油意向面积稳中有增 动态:欧洲议会通过2035年停售新燃油车议案
环球观焦点:“顶流”ChatGPT之下,看人工智能喜与忧 焦点简讯:各地旅行需求强劲复苏 国际旅游业有望持续复苏
国家创新型城市创新能力监测与评价报告公布 热资讯!中国电动车进入日本市场将促进日本汽车产业发展
今日热闻!医保局:支持定点零售药店开通门诊统筹服务 每日热讯!全面排查检验检测领域行风突出问题
资讯推荐:新冠保险套路、智能电视套娃式收费被点名 欧冠-切尔西0-1多特蒙德阿德耶米一条龙破门菲利克斯中框
上海"AMASS""LILY"等6批次皮革服装不合格 热讯:险企多路径抢滩养老产业
环球速看:MLF超额续做 5年期以上LPR有下调空间 天天热推荐:2023年行业主要指标增速在5%左右
允许存量境内投资者通过原境外机构交易 世界微动态丨车辆定位追踪系统_汽车定位系统
加力稳投资多地明确水利项目建设计划 每日报道:机器人“出圈”,如何赋能千行百业
世界焦点!上海浦东新区多赛道发力 打造航运服务业生态圈 全球速看:多台设备登录视频平台被封号
环球观点:多地推进绿色转型 产业发展动能强劲 焦点速递!上海外高桥瞄准世界级邮轮产业集聚区
每日焦点!我国机械工业高端智能绿色发展提速 【世界快播报】艺人改名大揭秘
【全球新视野】流行性腮腺炎的传播途径_腮腺炎的传播途径 微头条丨车牌号测吉凶
快看点丨云南宁蒗:党建引领有效推动乡村振兴 全球热议:袁清茂赴中国酒类流通协会开展交流调研
速递!告急!烧光350亿,欠薪裁员,有员工甚至被无偿劝退…这家曾获腾讯、百度等投资的公司怎么了? 看热讯:1月中国中小企业发展指数止跌回升
袁清茂带队赴北京区域进行市场调研并召开工作会议 马云旗下基金套现近亿港元,腾盛博药股价8天腰斩,新冠中和抗体前景成谜
多地银行房贷可还到80岁,老人贷款额度低怎么办?工作人员:我们有接力贷 焦点速讯:多次“联姻”未果,通策医疗终止收购方案,和仁科技:继续筹划引入战略股东
当前视点!茅台1935的狂飙,暴露了“茅老大”的隐忧? 天天速看:没落的奥康,时代的温商
连续亏损“躺平”数月后 “坐不住”的孙正义出手收购一家机器人公司!对价2亿美元 组件盈利能力有望提升,协鑫集成投20亿再扩产
当前头条:成都到北京飞机票查询_成都到北京飞机票 看点:一年后海信再度换帅,新掌门人贾少谦能为海信带来什么?
环球快报:望圆科技惊现11个空壳,学霸母子挪用科研成果悬疑 全球快讯:【金融街发布】证监会就境外持牌机构非法跨境展业规范整改情况答记者问
【世界报资讯】跨入一线阵营,古井贡这一步有多难? 世界快讯:“威士忌至少降价10%-15%抛货”,价格倒挂明显,洋酒面临滞销?
当前速递!“浪漫经济”添热度 中国消费持续回暖 天天滚动:老乡鸡被强制执行背后:双重困境下陷上市迷途,创始人儿子已悄然接棒
环球快报:白酒报复性消费未至,渠道库存与酒企提价博弈走向何方? 每日消息!常州电信营业厅电话号码多少_江苏常州电信网上营业厅
世界热门:云南已有20个口岸恢复货运功能 蔚来回应试驾致母子一死一伤:应为踩错踏板
全球热消息:筹谋已久,抖音要抢美团的“外卖”? *ST皇台回复深交所问询函,称去年业绩增长具有合理性
中国航空超级周期将至!将现盈利大年!全球各大航司恢复赴华航班! 实时焦点:《“超时空”智慧办公白皮书》预测:2025年超40%会议转移到线上
百事通!大屏化成趋势 家用投影仪未来可期 网传王丽坤涉嫌违法、被抓、收受豪车豪宅?工作室发声明:王丽坤女士始终遵纪守法,不涉及任何违法行为
每日速看!王丽坤方发声明否认违法被捕:收受豪车豪宅等系虚假信息和谣言 焦点精选!“酒仙”局长放话:“酒喝多少都行,钱一分都不拿”
ChatGPT概念股早盘表现强势 海天瑞声涨超240% 【全球新视野】2023年,哪些新规影响汽车行业
海天瑞声尾盘触及涨停 股价续创历史新高 天天微头条丨直播买药监管松绑 多家药房谨慎试水
当前快讯:电影票价岂能成为“糊涂价” 北京率先表态“支持头部企业打造对标ChatGPT的大模型”
简讯:2022年我国充电桩数量同比增长近100% 月薪两万招保镖!网红董事长火“出圈”,董秘回应!这些上市公司都在招
今日热搜:无房产证证明怎么开_无房产证明怎么开 资讯:国家发改委:推进废旧设备回收利用 引导加大金融支持力度
国家药监局批准盐酸凯普拉生片上市 马斯克发推称宠物狗是“推特新CEO”:它非常适合这份工作
焦点!汾酒集团董事长袁清茂、汾阳市长贾永祥一行到访中国酒业协会 焦点精选!《白酒(酱香型)制造业清洁生产评价指标体系》标准研讨会在京召开
我国风电光伏年发电量2022年首超1万亿千瓦时 世界热议:江苏2022年电力交易规模超全社会用电量一半
世界热推荐:乐歌股份月薪两万招保镖!网红董事长火“出圈”,董秘回应!这些上市公司都在招,还列出奇葩要求 每日热闻!继续加码公募业务!国联证券拟有条件收购中融基金49%股权,估值溢价为何偏高?
全球热议:坠入业绩黑洞、净利暴跌9成,加盟也拉不动周黑鸭? 世界头条:11对新人唱响浪漫“冰雪誓言”
环球讯息:“天价殡葬”事件接二连三发生,八宝山天元殡仪等被处罚后依旧我行我素!殡葬公司缘何如此傲慢? 天天精选!彩虹股份涨停、京东方涨5% 面板业真正迎来反弹了吗?
蔚来回应试驾致母子一死一伤:先等警方通报 环球报道:特斯拉中国降价可能赢了一时,但难以掩盖根本问题
天天关注:一死一重伤!蔚来试驾车冲进人行道!公司回应 【环球聚看点】优先化解儿童用药“掰和猜”难题是务实之举
今日观点!做好“土特产”文章 促村民增收致富 天天滚动:口袋妖怪漆黑的魅影诞生岛怎么抓 口袋妖怪漆黑的魅影诞生之岛怎么过
今日关注:招聘完成率计算公式_完成率计算公式大全 全球观速讯丨视频|王石和田朴珺拍摄时尚大片花絮来了!#情人节王石送田朴珺红烧肉花#
老字号招牌越擦越亮 每日速读!58同城入股红布林 成第一大股东
【快播报】多设备登录,VIP会被封号!上海市消保委发声,腾讯视频回应了 百亿房企高管被监察机关留置!年薪曾达2000万,担任过中超球队董事长
盛趣游戏谭雁峰:ChatGPT不能替换掉有个性的创作者们 今日关注:贵州茅台发布“酱香系列低度酒体建设项目异常公告”
新资讯:治疗便秘的土方_治疗便秘的穴位 滚动:广州市市场监管局抽查液晶显示器产品5批次 不合格1批次