机械社区

 找回密码
 注册会员

QQ登录

只需一步,快速开始

搜索
查看: 1763|回复: 20

细思极恐,当科学成为新“上帝”

[复制链接]
发表于 2021-1-6 11:02:56 | 显示全部楼层 |阅读模式
本帖最后由 张麻子 于 2021-1-6 11:17 编辑

斯塔尔夫人是法国大革命时期的自由主义思想者,她的言论曾让拿破仑恐惧:“没有哪个女人比她更邪恶”。然而,比这更著名的,是她那句“自由是古老的,专制才是现代的”名言。不过,直至今天,恐怕也没有人意识到,这句在当时惊世骇俗的话,却成了随后200年的历史预言。

从1789年法国大革命爆发,到1989年柏林墙倒塌整整两百年间,资本主义的发展和科学技术的进步,将人类推上了前所未有的文明巅峰,但随之而来的,是强人对权力集中的渴望,穷人对财富不均的怨恨。结果,乌托邦主义、纳粹主义等自由的敌人粉墨登场,经济崩溃、政治动荡、人伦毁灭、文明倒退交错出现,这些历史,至今仍让人心有余悸。

200年来,有多少罪恶假自由之名大行其道?所幸,灾难换来的,是自由、平等、和平等美好的价值,逐渐成为深入人心的普遍价值。今天,文明与野蛮的冲突仍在继续,但再也没有人会公开反对这些普遍价值。

然而,当普遍价值成为一种信仰时,他们的敌人,已不只是“强制”等显而易见的敌人,更包括“技术”“算法”等非常隐蔽的敌人。长远来看,后者比前者更可怕——不仅因为后者很容易成为前者的利器,更因为当科学成为新的上帝,直接动摇着人类普遍价值的根基。


科学对人脑的革命:
抑郁,不是因为痛苦,而是芯片没电了


自由等普遍价值,之所以能够从历史的残酷竞争中胜出,是因为它的两大基本前提最符合人类的天性:

◎人类拥有自由意志,文明社会必须尊重每个人独一无二的体验,无论市场中,还是政治生活中,每个人都有自由选择的权利。

◎没有人比他本人更了解自己,只有自己才知道自己想要什么,没有人能替自己做决定。

然而,技术和算法的崛起,正在动摇着这两大基本前提。

在“第一推动丛书”之《皇帝新脑》中,自西班牙科学家卡哈尔发现人脑运行的本质,不过是神经元之间的互相作用以来,科学对人脑的了解越多,就越发认定,人几乎99%的行为模式,与计算机无异,无论是记忆还是外部的刺激,无非就是神经元的电信号和化学反应。


“真实头脑”与“模型头脑”越来越相近



例如,当一个人面对一只老虎时,视觉将影像传递给大脑,而大脑根据基因设定的“生物算法”做出“非常危险!”的判断,再将此信号传递给腿,腿收到信号后立刻开始狂奔。

这一过程接近于计算机程序的运行模式——人类给计算机下达指令,计算机再根据算法,给出人类想要的结果。

整个过程中,人类的思想、观念几乎没有参与的余地——没有人会停下来思考一下,老虎会不会吃我,我需不需要和它谈谈心。

科学家由此得出结论,人脑和计算机在本质上没有区别——人的行为,无非就是各种算法的集合,外界给予什么样的刺激,人就会做出什么样的反应。他们甚至认为,所谓意识、观念、思想不过是一个额外的副产品。

那么,我们日常的很多行为和各种欲望,到底是我们想做的,还是“生物算法”根据外界刺激给我们下达的指令?我们究竟能否选择自己的欲望?我们究竟是否拥有“自由意志”?

科学实验给出的答案是否定的。尤瓦尔·赫拉利在《未来简史》等书中,介绍了著名的“机器人老鼠”实验,并分析了科技进步对文明的挑战。

该实验是由美国纽约州立大学的吉夫·塔瓦尔教授主持完成的。实验开始,只要在老鼠大脑中插入三个电极,就可以遥控指挥——让它直行、爬梯子、绕着垃圾堆转圈,怎么都行。科学家控制的其实是老鼠的“自由意志”!遥控器指向哪里,老鼠并不是被迫走向那里,而是老鼠“想要”走向那里。我们看到的是老鼠被遥控了,而老鼠自己的感觉是,自己想去哪就去哪,它很“自由”。

由于伦理限制,这样的实验当然不能在人的身上进行,但是以色列科学家仍然打了一个擦边球。为了治疗抑郁症,他们在患者脑中植入一个芯片,结果患者果然恢复了快乐。

有一次患者问,为什么这几天我反而更抑郁了?科学家打开他的大脑一看,原来是芯片没电了。

在大脑中植入芯片,就能控制人的体验。因此,在科学家看来,机器人老鼠”实验的结论同样适用人脑。——科学技术可以控制人、甚至直接消解人的自由意志。“人类拥有自由意志”——普遍价值的第一个前提,就这样被新的技术撼动了。


“机器人老鼠”实验


更可怕的是,技术对“自由意志”的操控,已经走出实验室,正在被迅速商品化——

◎美军研发了一种头盔,它可以通过电极对大脑的某些部位施加影响,戴上它,士兵不再感到恐惧与紧张,还能让士兵注意力更加集中、反应更快、作战更有效率。这项技术还被越来越多的人用于工作、游戏中。

◎据美国媒体调查显示,早在2015年,全美大学生中有1/3的人使用“聪明药”——这种药能让人在一段时间内集中注意力。根据科学研究,人脑每时每刻都会有各种欲望和想法。吃下“聪明药”,可以清空人脑中的“杂念”,帮助人们专注于一件事,从而达到“忘我”的状态。

据说,类似的“聪明药”,乔布斯吃过,美国许多顶尖工程师、数学家都吃过了。CNN的一位专家表示,他所认识的几乎所有亿万富翁都靠吃“聪明药”来提升思维能力。

目前,对这类现象讨论的焦点是,服用“聪明药”算不算公平竞争?但实际上,这一现象的意义远远超出我们的想象。

在过去,毒品上瘾以最为直接的方式刺激多巴胺的分泌,使人享受到前所未有的快感。其实,毒瘾不仅腐蚀人的身体,而且还剥夺了人的自由意志——瘾君子无法选择不吸毒。因此,贩卖毒品被视为违背人类伦理的罪行。

但现在,如果任由“聪明药”,或者“脑中的芯片”发展下去,人类也将像对毒品的依赖一样,依赖这些控制感官和自由意志的技术,总有一天,“快乐”“希望”“自信”“爱情”等各种体验,也将明码标价,堂而皇之地被放在货架上贩卖。那时,人类社会将进入“礼崩乐坏”的黑暗时代。


人的“自由意志”成了科技的收割场


经常听人开玩笑说,有钱人的快乐我们不懂,但未来,很可能是:有钱人的快乐跟穷人的快乐都一样,只不过穷人没钱买而已。

过去,专制对人们自由的剥夺是显而易见的;未来,技术对人们自由的剥夺却悄无声息。


▍算法与大数据:
从“算命先生”到“人类的新上帝”

日常生活中,我们都会冲动消费,经常买回一堆用不着的东西;在公共生活中,可能会选出一个坏总统,等等。然而,这些还不是最坏的结果。最坏的结果,是我们的选择权被剥夺,由别人代替选择。从父母包办婚姻、包办工作,到由少部分人代替我们选择获取什么样的信息,学习什么样的知识,施行什么样的政策,等等。

这是基于人类普遍价值的第二个基本前提:没有人比自己更了解自己,只有自己才知道自己想要什么。所以,自由选择,而非强制,是一项不证自明的基本权利。但是,如果技术和算法比自己更了解自己呢?

美国曾发生过这样一件事:一名男子愤怒地投诉塔吉特超市,说“你们居然向我上高中的女儿推销孕妇试用品!你们想鼓励她怀孕吗?”可一周后,这位父亲却道歉了,因为他女儿真的怀孕了。原来这家超市通过大数据分析,认为该女孩有怀孕的可能,于是向她推送了相关商品。

在这个真实的故事中,冷冰冰的大数据,竟然比朝夕相处的父亲更了解自己的女儿。

大数据已经改变了世界,但技术更新迭代的步伐,根本就停不下来。据报道,谷歌等科技巨头正在开发一个强大的超级系统——可以实时监控人体的各种指标,结合每个人的基因,随时随地给人们提供各种健康建议。什么时候起床,什么时候吃饭,什么时候健身,什么时候工作,什么时候睡觉。

谷歌还开发了一个类似于“虚拟人生”的助手系统——它将在面临人生抉择时,给出重要的参考意见。无论是上大学读什么专业,选什么工作,去哪里生活,还是和谁结婚,要不要孩子等问题,它都能根据大数据,给出具体的建议。

当遇事不决时,谷歌助手会告诉我们说:“我从你出生那天就认识你了,你DNA的完整资料,读过的书,说过的话,你最喜欢的电影,甚至是你约会时候的心跳......我比你更了解你自己,明年,你应该和XX结婚,他/她更适合你。”

如此科学、精准,而又贴心的服务,谁能拒绝呢?

当然,人是可以逆向操作,通过改变大数据来驯服人工智能的。但是,这需要耗费大量的时间和心智,而且必须常态化。否则,刚刚被驯服的新数据,很快就会变成人工智能的老数据。到最后,我们不得不承认,最划算的做法,就是在大数据面前俯首称臣。

今天,越来越多的人习惯于记录、上传、分享自己的数据,人们在不知不觉中成为数据流的一部分,所谓“个人”,正在成为大数据时代一个不足道哉的“电极管”。最终,科学算法与人类的关系,大概会分三步走:

·算法相当于我们身边的“算命先生”,有问题问他一下,但人依然拥有决策权。
·算法是我们的代理人,我们告诉它该做什么,让它去执行。
·算法最后成为了我们的君主,我们主动交出决定权,什么都只能听它的了。

在不远的未来,科学将无所不能,它俨然成为了人类的“新上帝”。

相比之下,当下被广泛讨论的“人脸识别技术侵犯个人隐私”“手机APP上传个人数据”等热门话题,可能都微不足道。

人类社会历经数千年形成的关于自由等价值的基本逻辑和伦理,竟然被技术和算法在短短几十年就动摇了,人们从不情不愿,到主动自愿地成为数据和算法的奴仆。我们购物、健身听助手的,去哪里生活、和谁结婚也要听助手的,甚至连投票等公共生活也要听助手的,曾经不证自明的“自由选择”,还剩下什么呢?

当算法工程师成为最能影响我们决策的人,当科学家、技术专家可以不断给人脑打“补丁”时,当科技巨头和政治强人掌握核心算法时,一切的强制,看起来都是那么的“自由”。当他们联盟,又会怎样呢?细思极恐!

奥威尔在《1984》中所写的“战争即和平,自由即奴役,无知即力量”,以前看是政治寓言,现在看原来是预言。


▍科学与理性:
人类文明之光,但常被滥用为历史之殇

“自然与自然的法则在黑夜中隐藏。上帝说,让牛顿出世!于是,世界一片光明。”这是英国诗人亚历山大·蒲柏为牛顿所题写的墓志铭。

18世纪,牛顿力学的诞生掀起了科学革命;工业革命将大英帝国推向了前所未有的文明巅峰;20世纪,爱因斯坦相对论的问世,再次引发了一场科学崇拜的狂潮。新技术的大规模应用,不仅让经济出现了井喷式的增长,也彻底改变了人类的生活方式......

科学的兴起,是人类理性的产物,但科学思维很快就被滥用到社会领域。比如,社会达尔文主义者试图用“科学方法”控制人类进化路径,结果造成二战期间的纳粹种族大屠杀;乌托邦主义者试图用“科学思维”规划、改造人类社会,结果却灾难遍地。用科学思维改造人类社会,是20世纪主要灾难的源头。

然而,与今天相比,20世纪科学的滥用,最多也就小巫见大巫。近些年,移动互联网、人工智能、生物科技的发展,已经在直接改变人脑本身,改变人的意义。在技术和算法面前,所有人都“自愿”地奔向奴役。

科学似乎无所不能,这一趋势看似不可逆转。对此,哈耶克在《科学的反革命》一书中写到:

那些试图用科学方法,把每个人当做毫无生命的原子,致力于操控人类“自由意志”的“唯科学主义者”,恰恰忽略了科学的基本前提……当科学试图干涉人类伦理问题时,就会追求价值中立,消解伦理道德,驱逐价值判断,最终必然将人类社会引向奴役之路。

哈耶克当年在写罢本书后,曾作出异常悲观的预言:人类天然具有崇尚理性和乌托邦的冲动,我们将无法摆脱滥用科学对个人自由的永恒诅咒!

然而,无论科学有多么强大,都有它天然的局限性——无论实验室能得出多少数据,能发现什么新结论,它都无法证明谋杀、抢劫等行为是正确的。但是,当科学强大到可以风平浪静地消解掉普遍价值时,我们不能再视而不见,更不能不警惕。(转自:千字文华)

回复

使用道具 举报

发表于 2021-1-6 12:01:25 | 显示全部楼层
科学对人的影响是带有隐蔽性、潜入性,人类或者说高等动物都是这样的,人们总是反对专制,崇尚自由,但现实中因为智力或者经验、眼界的差距造成的人生轨迹的巨大差距也是很多人懊恼的根源,我们自身素质到底是需要向强人看齐还是处于自由状态下被人偶尔的关键性决策确是个很棘手的问题,未来数字鸿沟将会彻底让人分成但六九等,并且无法翻身

评分

参与人数 1威望 +1 收起 理由
张麻子 + 1

查看全部评分

回复 支持 反对

使用道具 举报

发表于 2021-1-6 12:21:03 | 显示全部楼层
不要紧的,有人说我担心的事情不会发生,是我的癔想。我幻听幻视,精神有病

评分

参与人数 1威望 +1 收起 理由
张麻子 + 1

查看全部评分

回复 支持 反对

使用道具 举报

发表于 2021-1-6 14:36:43 | 显示全部楼层
科学教,了解一下

评分

参与人数 1威望 +1 收起 理由
张麻子 + 1

查看全部评分

回复 支持 反对

使用道具 举报

发表于 2021-1-6 16:09:02 | 显示全部楼层
《魔鬼在统治这个世界》,了解一下
回复 支持 反对

使用道具 举报

发表于 2021-1-7 08:58:07 | 显示全部楼层
在强大的算法面前,人的懒惰天性会把自己的选择的自由的权力心甘情愿的让渡给算法,而最终被算法控制。细思极恐,细思极恐啊!!!
回复 支持 反对

使用道具 举报

发表于 2021-1-9 19:58:35 | 显示全部楼层
听音乐,这些事想不清楚,也不敢想。科技是天使也是魔鬼,如果出一个希特勒不知道结果会如何。
回复 支持 反对

使用道具 举报

发表于 2021-1-11 15:15:50 | 显示全部楼层
都说2045年是科学奇异点的到来,那时候可能人类也可能没有存在的必要了
1、劳动力被淘汰,机械化生产代替全部人力,人可以躺着去享受共产主义的福利
2、AI操控人类,人类的意识甚至由AI操控,存在与不存在没有任何意义,身体的所有器官零部件儿都可以用机器代替,留存在世界上的证据只有意识。
3、我们的意识可以跟随5G、6G随时随地穿越到世界任何地方,AI系统会让你的意识有身临其境的快感,就像盗梦空间里做梦的小朋友一样分不清现实与梦境。
4、人类没有了存在的必要
回复 支持 反对

使用道具 举报

发表于 2021-1-12 22:11:32 | 显示全部楼层
楼上说的有理
回复 支持 反对

使用道具 举报

发表于 2021-1-14 09:14:45 | 显示全部楼层
充电器大锤 发表于 2021-1-11 15:15
都说2045年是科学奇异点的到来,那时候可能人类也可能没有存在的必要了
1、劳动力被淘汰,机械化生产代替 ...

人存在的必要是啥?是啥东西发展出来就没有必要了?现在的老鼠存在有必要吗?杠精来了哈哈哈
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册会员

本版积分规则

小黑屋|手机版|Archiver|中国机械社区 ( 京ICP备10217105号,京ICP证050210号,京公网安备11010802010176 )  

GMT+8, 2021-1-27 00:02 , Processed in 0.058142 second(s), 8 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4 Licensed

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表