AI前哨|AI正在吃掉世界?著名投资人发文痛批:末日论者是邪教
来源:凤凰网     时间:2023-06-07 11:45:33

安德森认为AI会拯救世界

凤凰网科技讯《AI前哨》北京时间6月7日消息,硅谷著名风险投资人马克·安德森(Marc Andreessen)周二发文,驳斥了近期出现的“AI末日论”。他表示,人们不应该担心AI,AI会拯救世界,只管继续推进AI的开发,那些鼓吹“AI末日论”的人是邪教,他们才是真正的威胁。


【资料图】

2011年,安德森曾发表过一个著名的论断,即“软件正在吃掉世界”。他的这一观点旨在凸显软件在未来的重要性,并表明自己的投资方向,也就是投资以软件为核心的公司。但是现在,人们开始担心“AI正在吃掉世界”。对此,安德森发文痛批AI末日论鼓吹者。

周二,安德森发表了一篇题为《为什么AI会拯救世界》的近7000字长文,阐述了自己对AI的看法、AI构成的风险,以及他认为AI需要什么样的监管。为了反驳最近所有关于“AI末日论”的言论,他提出了一种可能被视为过于理想主义的观点。

安德森发表《为什么AI会拯救世界》文章

“AI的时代已经到来,人们都吓坏了。幸运的是,我在这里带来了好消息:AI不会毁灭世界,实际上它可能会拯救世界。”安德森开篇是这么写的。

AI不会“杀人”

安德森首先对AI或机器学习进行了准确的解读,称其为“数学和软件代码的应用,旨在教会计算机如何以与人类相似的方式理解、综合和生成知识”。

他说,AI没有感知能力,尽管它模仿人类语言的能力会让一些人误以为他具有感知能力。它接受了人类语言的训练,并从这些数据中找到高级模式。

“AI没有欲望,没有目标,也不想杀死你,因为它没有生命,”安德森写道,“AI是一种机器,它不会比你的烤面包机更加活灵活现。”

接着,他开始讨论目前行业对于AI的担忧。安德森写道,目前AI领域存在着一堵“散布恐惧和末日论的墙”(阻碍AI发展)。虽然没有指名道姓,但他很可能指的是一些知名科技领袖最近提出的说法,即AI对人类的生存构成了威胁。

上周,微软创始人比尔·盖茨(Bill Gates)、OpenAI CEO萨姆·阿尔特曼(Sam Altman)、DeepMind CEO德米斯·哈萨比斯(Demis Hassabis)等人签署了一封来自AI安全中心的公开信,声称人类面临“AI灭绝风险”。

阿尔特曼称人类面临“AI灭绝风险”

安德森对此表示,科技公司的CEO们之所以有动机宣扬这种世界末日观点,是因为“如果行业能够建立起监管壁垒,形成一个由政府支持、AI供应商组成的卡特尔联盟(垄断组织),保护它们免受新型创业公司和开源竞争的影响,那么他们就能赚到更多的钱”。

其实,许多AI研究人员和伦理学家也批评了这种世界末日论。其中一个论点是,过分关注AI不断增长的力量和未来威胁,会使人们忽视一些算法当前对边缘化社区造成的真实伤害,不应该把焦点转移到未来某个不确定的时期。

安德森认为,AI安全专家、伦理学家和风险研究员等职位的人“是被人花钱雇来做末日论者的,他们的理论应该得到适当处理”。

AI风险鼓吹者是“邪教”

尽管AI在疫苗开发和聊天机器人服务等许多领域取得了重大进展,但它已经被记录在案的危害使得许多专家得出结论称,对于某些应用,AI不应该被使用。

安德森将这些恐惧描述为非理性的“道德恐慌”。他还提倡恢复科技行业过去“快速行动、打破常规”的做法,认为大型AI公司和创业公司“应该被允许尽可能快速、积极地构建AI”,“如果我们允许的话,这项技术将从这里迅速加速发展”。

他还把AI末日论鼓吹者与邪教组织相提并论。他表示,加州以成千上万的邪教而闻名,从EST到人民圣殿教,从天堂之门到曼森家族,“AI风险论”已经发展成了一个邪教,它突然成为全球媒体关注和公众讨论的焦点。安德森称,这个邪教不仅吸引了一些边缘人物,还吸引了一些真正的行业专家和不少富有的捐赠者,其中包括已被逮捕的加密货币交易所FTX创始人山姆·班克曼-弗里德(Sam Bankman-Fried),它已经形成了一整套邪教的行为和信仰。

安德森称,正是因为这个邪教,才有了一些观点听起来很极端的“AI风险末日论者”,他们并不是真的掌握了秘密知识,能够让他们的极端主义合乎逻辑,而是他们自己煽动起了狂热情绪,超级极端。

如何监管?

安德森曾表示“软件会吃掉世界”。但是现在,人们担心的是AI正在吃掉世界。安德森表示,除了努力消除这些担忧之外,还有一些工作要做。他鼓励通过争议性地使用AI本身,来保护人们免受AI偏见和伤害的影响。

“政府应与私营部门合作,积极参与每一个存在潜在风险的领域,利用AI最大限度地提高社会的防御能力。”他写道。

在安德森自己畅想的理想化未来,“每个孩子都将有一个无比耐心、无比富有同情心、无比知识渊博、无比乐于助人的AI导师”。安德森认为,AI可以成为每个人的伙伴和合作者,包括科学家、教师、CEO、政府领导人,甚至是军事指挥官。凤凰网科技《AI前哨》对此将持续关注。(作者/箫雨)

关键词: