2023年度高峰论坛

AI安全风险挑战全球治理

叶胜舟:AI成为新的大规模杀伤性武器只是一个时间问题。一个更危险的潘多拉魔盒已经打开,人类能否主宰自身命运,取决于现在的觉醒和协作。

地球会有第三次世界大战吗?会在本世纪爆发吗?还是人类之间的战争吗?人类战败后会被机器奴役吗?

笔者喜欢看科幻片,尤其偏爱上世纪末、本世纪初《黑客帝国》三部曲,其中第一部标志性的“子弹时间”已风靡全球。影片的背景就是人类欺压机器人,机器人反抗并在人机大战中完胜,成为真实世界与虚拟世界的绝对霸主,人类被圈养,只为机器发电。这个场景未来某天会成真吗?

AI“心智”迭代迅速

区块链、元宇宙的概念先后被资本热炒,不久就冷场。扎克伯格提出野心勃勃的元宇宙计划,甚至将Facebook改名为Meta,结果严重亏损,300多亿美元投资打水漂。2023年能否开启人工智能(AI)新纪元有待未来复盘考证,但近一年的大事接二连三。

一、去年11月30日,ChatGPT-3.5公布,可生成编程代码、电子邮件、论文、小说、诗歌等各类文本,随即出圈风靡世界,今年1月就迅速拥有1亿用户。OpenAI华丽转身全球最顶尖、最有实力、最有前途的AI创业公司,成为无数资本的宠儿。

二、今年3月15日,ChatGPT-4.0发行,迭代很快,不仅能阅读文本,还能识别图像。GPT-3.5模型司法考试排名倒数10%、SAT数学考试590分、生物奥林匹克竞赛排名前69%,但GPT-4.0模型司法考试排名前10%、SAT数学考试700分、生物奥林匹克竞赛排名前1%。表明短短四个月,它迅速“聪明”与“成熟”了。

三、11月17日,OpenAI董事会宣布,罢免CEO奥尔特曼和董事长布罗克曼,这两位都是公司的联合创始人。11月21日,OpenAI宣布达成新协议,奥尔特曼回炉担任CEO,罢免他的董事会彻底改组,首席科学家苏茨克维离开董事会。

斯坦福大学商学院副教授科辛斯基2月发布论文,声称原本认为是人类独有的心智,竟出现在了AI模型上,GPT-3.0模型相当于7岁儿童,GPT-3.5模型相当于9岁的儿童。还好只是“相当”,未必“自主”。按照这种速度迭代,GPT-4.0模型相当于10岁+儿童,正在研究的GPT-5.0模型或许相当于13-14岁青少年。总有一天AI自主心智会达到并超过人类,越来越多的有识之士为AI安全风险捏把汗。

您已阅读25%(890字),剩余75%(2671字)包含更多重要信息,订阅以继续探索完整内容,并享受更多专属服务。
版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。
设置字号×
最小
较小
默认
较大
最大
分享×