C114门户论坛百科APPEN| 举报 切换到宽版

亚星游戏官网

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索

军衔等级:

亚星游戏官网-yaxin222  少尉

注册:2015-11-142
发表于 2024-10-14 12:07:06 |显示全部楼层

昨日,Anthropic CEO Dario Amodei发表了一篇长文,不仅给出了AGI到来的时间表,而且详细展望了AGI对人类的影响。

亚星游戏官网-yaxin222


作为AI和生物学的双料专家,Dario详细描述了AI对生命科学的应用价值。无论你是科技投资人、AI从业者、还是对AI感兴趣的朋友,都值得一读。

亚星游戏官网-yaxin222


我给大家解读一下这篇长文的精华内容,报告链接放在文末,欢迎感兴趣的朋友去看原文。

文章的主要结论包括:


  • Powerful AI(AGI)将于2026年实现,其智力水平将在绝大多数领域超越人类诺奖得主水平。
  • 鉴于物理世界的运行速度受限,即使AGI明天到来,也不会瞬间转化为先进的生产力。
  • AGI的诞生有望带来“压缩的21世纪”,使得人类10倍加速生命科学领域的研究进展。
  • 在未来的7-12年,AGI有望帮助人类治愈绝大多数癌症,并将现存人类平均寿命从75岁延长至150岁。

(1)预测AGI将在2026年实现,具备6大重要特征

Dario用“Powerful AI”取代“AGI”,认为其将于2026年实现,并给出了Powerful AI应当满足的6大特征。

首先,其裸智能水平(Pure Intelligence)应当在绝大部分领域超越人类诺奖得主水平,这意味着它能够证明未解的数据定理、写出优秀的小说、从零编写高质量代码库等。

第二,Powerful AI应当具备人类虚拟工作所需的一切交互界面。具体而言,它能够理解包括文本、图片、视频、音频等多模态资料,并接受人类的指令。与此同时,它可以直接控制鼠标、键盘,访问互联网,完成诸如下达采购指令、引导科学实验、制作并发布视频等复杂任务。

第三,Powerful AI没有物理实体,但可以通过计算机控制物理工具、机器人或实验设备。它应该有能力设计全新的物理设备供自己使用。

第四,Powerful AI不是被动的回答人类提出的问题,而应当能主动思考。它可以被要求解决需要几天或几周才能完成的任务,然后像一个聪明的员工一样自主思考,循序渐进完成任务。

第五,Powerful AI应当能够以比人类快10-100X的速度吸取信息并生成行动。

第六,Powerful AI能够轻松扩展实例,它们可以像人类一样协同工作,其中不同的子群体可以被微调来处理特殊类型的任务。

总结来说,Dario将Powerful AI比作:住在数据中心中的天才国家。

亚星游戏官网-yaxin222


(2)即使AGI明天到来,世界也不会立即改变

Dario反驳了“奇点”理论,认为即使AGI很快到来,世界也不会立即发生巨大改变,因为还存在着物理和现实层面的限制。

Dario提出了“Marginal Returns to Intelligence”的概念,用以衡量智能水平提升带来的边际回报,试图发现阻碍智能转化为先进生产力的因素。

经过分析,Dario认为主要包括以下5点障碍:

第一,物理世界的运行速度限制。AI Agent需要与外部世界互动以完成任务,但物理世界的运行速度是有限的。例如,生物实验需要一定的时间来培养细菌或细胞,化学反应也需要时间来发生,这些过程往往无法加速。

第二,重要数据的匮乏。在某些场景下,如果缺乏必要的原始数据,即使智能水平再高也无法解决问题。例如,粒子物理学家的实验数据过于匮乏,导致他们无法在理论之间做出选择,仍然停留在假说阶段。

亚星游戏官网-yaxin222


图:ATLAS内部视图


第三,内在复杂性(Intrinsic complexity)。有些问题本质上是不可预测或混沌的(如三体问题),即使非常强大的AI也无法比现有的人类或计算机更有效地解开这些问题。

第四,人类社会的隐性约束。许多任务无法在保障不违法、不伤害人类、不破坏社会的前提下完成。人类社会结构存在很多低效甚至有害的特征,但很难改变,比如针对临床试验严苛的法律要求、人类不良习惯的成瘾性、政府的行为模式等。

第五,自然界的物理法则。自然界的物理法则是无法改变的,比如无法超过光速旅行,混合物无法自行分离,芯片的晶体管密度存在物理极限等。

当然,某些短期内的硬约束,在中长期来看可能会被AI改变甚至突破。比如AI可能会设计出全新的生物实验范式,即使绕开繁琐耗时的活体实验也能有效收集数据。

因此,Dario提出以下思维框架:AGI最初会受到其他生产要素的严重限制,无法很快对社会经济产生重大影响。但随着时间的推移,AGI能够越来越多地绕过其他要素,带来社会变革。

(3)AGI × Bio:21世纪最有潜力的领域

在创办Anthropic之前,Dario本身是生物领域的科学家,他结合自身经验深入探讨了AGI将对生物医药以及人类健康带来的重大影响。

Dario认为,生命科学可能是21世纪最有潜力的学科,它的进步往往能够给人类生活质量带来显著提升。

上个世纪,一些古老的人类疾病(如天花)终于被消灭,但现今仍然存在着诸多疾病给人类带来痛苦。

亚星游戏官网-yaxin222


图:1980年天花被彻底消灭


运用上面提到的“限制因素”框架进行思考,大家发现将AGI应用于生命科学的主要障碍在于:实验数据的匮乏、物理世界的运行速度、生命体的内在复杂性、以及后期临床试验中的社会因素。

生物学实验往往涉及细菌或细胞的培养,需要等待化学反应的发生,这些实验往往需要几天或者几周的时间,而且没有什么有效的方法来加速。

如果涉及动物实验,那么时间就更久了,往往需要数月,而人体实验通常需要数年甚至数十年的时间。

这就导致生物学实验往往缺乏海量数据的支撑,阻碍了生命科学的创新进程。

另一方面,生命体是一个高度复杂、纠缠关联的混沌体,很难将你关心的生物学反应从其他同时正在发生的10000个反应中分离出来,或者对指定过程进行因果干预。即使是大量的定量分子数据,比如Dario在研究质谱技术时收集的蛋白质组学数据,也是嘈杂的,并且会遗漏很多重要信息。

这就导致生物实验数据的数量严重不足,而且质量也往往难以得到保障。

亚星游戏官网-yaxin222


图:人体代谢途径图示(生物体的内在复杂度)


因为这些限制,许多生物学家长期以来对于AI的价值持怀疑态度。即使AlphaFold、AlphaProteo等重大革命已经出现,不少生物学家仍然持有AI无用论,认为“AI确实能帮助你更好的分析数据,但无法生成优质的实验数据,Garbage in, Garbage out”。

但事实果真如此吗?

(4)AGI不是一种数据分析方法,而是虚拟诺奖级生物学家

Dario认为这种悲观的观点是对AI的误解。人们不应该把AI当做一种更高效的数据分析方法,而应该将其视作一个虚拟的诺奖级别的生物学家。

它能够实行生物学家所做的所有任务,包括在现实世界中设计和运行实验(通过控制实验室机器人或引导人类分析师)、发明新的生物学方法或测量技术等。

纵观过去,生命科学中绝大多数的重大进步来源于极少数的科学发现,比如:


  • CRISPR:一种允许实时编辑生物体内任何基因的技术(用任何其他任意序列替换任何基因序列)。
  • 光学显微镜、原子力显微镜:用于精确观察正在发生的微观事件。
  • 基因组测序和合成的成本在过去的几十年里已经下降了几个数量级。
  • 光遗传学技术(Optogenetic):人们可以通过照射特定波长的光来激活神经元。
  • mRNA疫苗:理论上看,mRNA疫苗可以被设计成针对任何一种疾病的疫苗,并快速适应,即“万能疫苗”。
  • CAR-T等细胞疗法允许将免疫细胞从体内取出并“重新编程”以攻击任何对象。
  • 还有一些有启发性的概念性见解,诸如疾病的细菌理论、免疫系统和癌症之间的关系等。

亚星游戏官网-yaxin222


图:光遗传学的应用


Dario认为,在生命科学领域中,“Marginal Returns to Intelligence”是很高的。

这是因为绝大部分的生命科学进展来自于极少数才华横溢的科学家,而且往往是同一个人经过反复研究得出的。这说明优秀的科研成果需要深入的技巧和灵感,而非漫无目的的随机搜索。

其次,这些重大科研成果通常可以被更早发现。例如CRISPR是细菌免疫系统中自然产生的,在80年代就为人所知,但是人们又花了25年时间才意识到它有用于基因编辑的潜在价值。mRNA的发明也经历了类似的故事。

亚星游戏官网-yaxin222


第三,成功的科研项目在早期往往是非常潦草的,因为很少有人能够判断其中的价值,而很多重金投入的项目通常无功而终。这说明推动生命科学发展的不仅仅是大量资源的集中投入,更多的是依靠创造力

第四,生命科学属于典型的“研发难,落地易”的领域。一个新药一旦完成研发并证明有用,它的推广销售往往不是难题。

综上所述,Dario做出了自己的预测,认为AGI的诞生将使得人类生物学家能够把原计划在未来50-100年内取得的进展压缩到5-10年内,Dario称此为“压缩的21世纪”。

(5)未来10年的目标:治愈癌症,倍增寿命

如果AGI能够如Dario所言,带来“压缩的21世纪”,它究竟会给人类带来怎样的好处呢?Dario给出了自己的预测。

第一,有效预防及治疗所有自然传染病。人类在20世纪已经在传染病的防治方面取得重大进展,大家有望在21世纪彻底完成这项工作。mRNA及类似技术已经指明了“万能疫苗”的方向。

也许当大家的孩子长大后,它们听到任何一种传染病时,就像大家自己听到坏血病、天花或者鼠疫一样,只是一个存在于历史课本上的名字。

亚星游戏官网-yaxin222


图:mRNA疫苗的运作原理


第二,治愈绝大多数的癌症。过去几十年中,癌症死亡率每年下降约2%,目前一些亚型癌症已经基本治愈(如使用 CAR-T 疗法可以治愈某些类型的白血病)。AGI也许能够加速研发针对早期癌症并阻止其生长的靶向药物。

AGI还将使治疗方案能够非常精细地适应癌症的个性化基因组。目前这些方案已经可以实现,但需要耗费大量的人力物力,而AGI能够让大家将其规模化。

尽管如此,癌症的种类极其多样且适应性强,可能是所有疾病中最难彻底消灭的一种。即使有AGI的帮助,某些罕见的恶性肿瘤仍将持续存在。

第三,有效预防及治疗遗传性疾病。AGI将极大提升胚胎早筛的能力,使得遗传疾病的预防成为可能。另一方面,更安全可靠的新一代CRISPR技术有望通过基因编辑技术,治愈现有人群中的绝大多数遗传性疾病。比较难处理的是那些影响全身细胞的遗传病。

第四,预防阿尔茨海默病。大家一直很难弄清楚阿尔茨海默病的成因,它似乎与β-淀粉样蛋白存在某种关系,但细节非常复杂。为了搞清楚其中的机理,人们需要更好的测量工具来隔离生物效应进行精确分析,这恰恰是AI比较擅长的领域。一旦大家真正了解其发病原理,就会有相对简单的干预措施来预防它。

话虽如此,对于已经身患阿尔茨海默病的人们来说,遭受的损伤是很难逆转的,AGI也帮不上忙。

第五,改善绝大部分其他疾病的治疗。这里的“其他疾病”包括心脏病、糖尿病、肥胖症、自身免疫性疾病等。这些疾病比癌症和阿尔茨海默病更容易解决,并且近年来死亡率已经大幅下降。比如近年来心脏病导致的死亡率已经下降了50%以上,而GLP-1激动剂已经在对抗肥胖症和糖尿病方面取得了重大进展。

第六,取得生物自由(Biological freedom)。在不久的将来,人类将有能力完全控制包括体重、外貌、生殖等生物过程,每个人都有权选择自己想要成为的人,并选择自己最喜欢的生活方式。

第七,人类寿命有望翻倍。纵观20世纪,人类的寿命几乎增加了1倍,从~40年增长到~75年,其主要的驱动力是预防人类(主要是儿童)因疾病而过早死亡。

21世纪人类寿命增长的主要驱动因素将是通过药物延缓每时每刻都在发生的衰老进程。

具体而言,目前已经存在药物可以让老鼠的寿命延长25-50%,且副作用有限,而有些动物(例如某些乌龟)已经可以活到200岁,因此人类寿命显然没有达到理论上限。

Dario认为AGI有望帮助人类发现某种可靠的人类衰老生物标记物,并在此基础上进行快速迭代和临床试验。一旦人类寿命达到150岁,可能有望达到逃逸速度,为当前大多数活着的人类争取到足够的时间。

亚星游戏官网-yaxin222


Dario预测这份清单上的内容有望在7-12年内陆续实现,世界将会变得不一样。

此外,文章还涉及“经济发展”、“地缘政治”、“国际关系”等领域,内容较为敏感,就不写在笔记中了,感兴趣的朋友可以去看原文,我把链接放在下面。

亚星游戏官网-yaxin222



来源:36kr

举报本楼

您需要登录后才可以回帖 登录 | 注册 |

手机版|C114 ( 沪ICP备12002291号-1 )|联系大家 |网站地图  

GMT+8, 2024-12-24 00:30 , Processed in 0.245877 second(s), 16 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部
XML 地图 | Sitemap 地图