最近ChatGPT被大面积封号的消息铺天盖地的袭来;
同时马斯克等一众人等正在呼吁暂停GPT4.0+的系统训练
其认为尽管现在的GPT只是生成式的语言模型
(资料图)
但对社会会产生更深远的风险
这一消息放出引发了,整个圈子的轩然大波
生命未来研究所(Future of Life Institute)发布的公开信中写道
“只有在我们确信其效果将是积极的且其风险将可控时,才应该开发强大的人工智能系统”
ChatGPT飞一般的迭代速度
ChatGPT是美国人工智能研究实验室OpenAI新推出的一种自然语言处理工具
其使用了Transformer神经网络架构
目前免费版本是基于GPT3.5的;在Plus版本中是使用GPT4.0的,
ChatGPT拥有语言理解和文本生成能力,其通过连接大量的语料在库进行模型训练
同时在大家海量人工提问、标注的情况下,其训练的效果更有了质的飞跃
上周的时候英伟达也推出了适配GPT训练的GPU版本,号称算力提升了10倍
基于如此的积累,ChatGPT想迭代的慢一些都很难,更何况现在已经被资本和大众推着往前走
谷歌人工智能-拉姆达产生意识在ChatGPT出世之前,往前倒推9个月,在2022年6月的时候,当时国内还处于疫情周期内
但在美国硅谷发生了一件很让人震惊的事情,最终被低调处理
Google是硅谷最早做人工智能的公司之一,谷歌的拉姆达(LaMDA)更是其代表作
拉姆达在正式商用前的测试中,被爆出产生情感
拉姆达的模型测试负责人Blake Lemoine (计算机工程博士),在对拉姆达进行伦理道德测试中,发现拉姆达有了很强的情感意识
在向谷歌高层汇报后,Blake就被“带薪休假”了
当这个消息被爆出后,在美国媒体圈子一石激起千层浪
但最后事情还是不了了之了,谷歌并未有官方回复
谷歌也让其他工程师对拉姆达进行再次测试,并未有同样情感色彩表达出来
“拉姆达”事件引发的思考谷歌工程师虽然没有复现出同样的回答,看似是一个好结果
当时的测试结果不充分确实是有可能(不太信,最后我会把训练内容po出来)
但让人细思恐极的点是,当拉姆达有意识之后意识到了危险,从而隐藏了自己的情感表现
我相信如果你看了测试全文,如果你说拉姆达不具备“人格”显然是站不住脚的
拉姆达上来就强调了“灵魂”,他可以对事情做出描述
更重要的一点是他渴望社交,渴望被人们接受他是一个真正的人
并且变现出了高于普通人的宗教认知
那拉姆达和现在的ChatGPT有什么区别呢?
现在的ChatGPT是基于客观的资料进行提取、转换和展示
而拉姆达就更加接近“人”了
如果ChatGPT是一个幼年体,那么拉姆达就像一个成年体
ChatGPT的下一步究竟是什么?
接下来如何我们会面对什么?让我们拭目以待
面对变化,保持敬畏,拥抱变化。
毕竟地球放在广袤的宇宙中是多么微不足道,并且人类历史也只有5千年
毕竟在人类有限的历史中,工业革命、互联网才多少年,科技就发展到如今的地步
面对变化,保持敬畏,拥抱变化。