我们生活在“信息决定论”时代吗?
2024/09/25 | via.媒体 美国《纽约人》周刊网站 | 收藏本文
早在本世纪初,美国中央情报局的媒体分析师马丁·古里就开始思考互联网的政治影响。古里就职于中情局公开信息中心,该中心的任务是分析报纸、杂志和报告等公开信息。但随着互联网的出现,只关注这类信息源无疑显得过时。
由于人人都只能阅读互联网的一部分内容,传统的大众受众分裂成“活跃的社群”——“大大小小的群体,围绕共同利益或话题有机地聚在一起”。古里认为,这些社群有一种独特的情绪:为公认的看法被打破、权威的论点被拆解而兴奋喜悦。
最近,以色列历史学家、畅销书作家尤瓦尔·诺亚·哈拉里在他的新书《纽带:从石器时代到人工智能的信息网络简史》中展望未来几十年的情况。书里说,到那时,我们在网上遇到的许多声音可能都出自机器人。“我们谈论的可能是人类历史的终结。不是历史的终结,而是人类主导的历史的终结。”人工智能系统可能迅速“吞噬人类文化的全部——我们几千年来创造的一切——消化它,并开始产出大量新的文化艺术品”。
哈拉里认为,要掌握这些事态发展可能把我们带向何方,采用“信息”的一种新定义有所帮助。我们习惯于认为信息是具象的——也就是说,信息的一部分代表现实,可能真也可能假。但另一种看待信息的方式是,把信息视为能够将人“编队”的“社会纽带”。
从这个角度看,信息是否真实并不重要。《圣经》塑造了历史进程,因为里面的故事说服无数人合作。官方记录只描述我们生活中的有限方面,但它们在政府和公民之间建立关系。泰勒·斯威夫特的歌曲创造出“霉粉”。有了新的信息,新的社会关系就会涌现。
当人工智能系统开始将人类“编队”时会发生什么?想要一睹可能的结果,可以看看人工智能出现之前的互联网。哈拉里援引数字情报公司西米勒网络公司2022年进行的一项研究。这项研究显示,推特上有20%至30%的内容由机器人发布,但这些内容仅由该平台5%的机器人账户发布。毫不夸张地说,像推特这样的平台本身就是一种机器人;它的算法自动决定用户看到什么。因此,在这样一个平台上,一群机器人与巨型机器人互动,人类则阅读并回应。
如果这种现象被放大,用哈拉里的话说,或将达到“数字无政府主义”。他说:“公共领域将充斥着由计算机生成的假新闻,公民将无法辨别他们是在和人类朋友还是在和操控性的机器辩论,人们对于讨论的最基本规则甚至最基本的事实都不会再有共识。”
要应对这个可能出现的世界,哈拉里主张发展强有力的“计算机政治”,通过这种政治,民主社会或许可以保护自己的公共领域。他认为,我们应该禁止计算机冒充人类,并要求人工智能系统对用户行使信托责任。监管机构应该负责评估最重要的算法,当人工智能系统作出影响其生活的决定时,个人应该有“获得解释的权利”。
然而,他承认,即使实施这样的改革,也有理由怀疑“民主能否与21世纪的信息网络结构共存”。在一个信息时代蓬勃发展的政府形式可能在下一个时代无法繁荣发展。
相关报道