人工沟通与法:算法如何生产社会智能
上QQ阅读APP看书,第一时间看更新

我们可以与不思考的伙伴沟通吗?

如果我们要检验沟通能力,并因此将我们的指称从(人工)智能转向(人工)沟通,我们必须开始提出不同的问题。重点不再是参与者(他们是否是人,以及在数字世界中成为人意味着什么),HAYLES N. K. How We Became Posthuman: Virtual Bodies in Cybernetics, Literature and Informatics [M]. Chicago: University of Chicago Press, 1999.而是产生信息的过程。在与网络上的算法互动时,会发生什么“沟通”,还是我们需要修正这个概念?当不了解正在沟通内容的机器执行数据处理时,谈论沟通仍然有意义吗?网络服务的用户是否在沟通,如果是,在与谁沟通?这些问题的答案取决于我们对“沟通”概念的界定,而且这个概念应该足够强大,也可以涵盖与机器的互动。

大多数“沟通”概念都要求参与者的心理过程集中于一些共同的内容上。根据术语“沟通”(communicatio)的拉丁语词根,假设伙伴有相同的想法,或者至少有一部分想法相同。如果在流程结束时,接收者至少获得了告知者放入通道中的一些信息,则沟通发生。即使考虑编码(解码)、解释和能力方面的噪声和差异,我们的想法是,在成功的沟通中,必须保留信息身份的某些元素。香农和韦弗的沟通的传播模型(transmission model)仍然是大多数社会学和符号学方法的(修订和补充)基础。SHANNON C.E., WEAVER W. The Mathematical Theory of Communication [M]. Urbana: University of Illinois Press, 1949; FISKE J. Introduction to Communication Studies [M]. London: Routledge, 1990; ECO U. Trattato di semiotica generale [M]. Milan: Bompiani, 1975: 65-69.然而,这种方法的问题在于与机器的互动,我们正在处理这样一种情况,沟通中的一个沟通伙伴并不理解内容、含义或解释的算法,它只处理数据。仅作为差异存在的数据在语境化和解释时会变得丰富。关于数据和信息之间的区别,请参见BATESON G. Steps to an Ecology of Mind [M]. San Francisco: Chandler, 1972: 582.因此,用户不与他们的对话者分享任何信息(甚至不是分享部分信息),因为对话者不知道任何信息。我们还能说他们在沟通吗?我们应该认真对待人类和机器人根据现实观点行事的可能性……基本上无法沟通。BORGO S. Ontological Challenges to Cohabitation with Self—Taught Robots [J]. Semantic Web, 2020, 11(3): 161-167.我们是在处理“异常”情况,还是前所未有的沟通方式?符号学意义上的异常解码(aberrant decoding),参见ECO U., FABBRI P. Progetto di ricerca sullutilizzazione dellinformazione ambientale [J]. Problemi dellinformazione, 1978(4): 555-597.

笔者在以下几节中的论点里遵循尼克拉斯·卢曼的社会系统理论及其沟通概念。LUHMANN N. Soziale Systeme. Grundriß einer alllgemeinen Theorie [M]. Frankfurt am Maine: Suhrkamp, 1984; LUHMANN N. Die Gesellschaft der Gesellschaft [M]. Frankfurt am Main: Suhrkamp, 1997.笔者断言,卢曼的方法当前受到批评(并且经常被误解)的原因,正是其特别适合处理数字沟通的新颖方面。卢曼明确拒绝根据有意识的主体来定义沟通。他认为,主体和个体的概念只是作为一个非常复杂现象的空洞公式,这种现象属于心理学的范畴,并不直接引起社会学家或沟通理论家的兴趣。LUHMANN N. Was ist Kommunikation? [M]//LUHMANN N. Soziologische Aufklärung, Opladen: Westdeutscher Verlag, 1995. S.113.社会学的对象不是主体而是沟通,其中参与个人的思想(正在和仍然不可或缺)不是构成要素。因此,卢曼的沟通理论与心理过程及其沟通角色保持距离,从而打破了社会学的这一传统。

在处理不思考的算法时,卢曼的“沟通”概念不是基于心理内容,也不需要参与者之间分享思想,这成为一个很大的优势。卢曼认为,在所有形式的沟通中,每个人的信息都是不同的,而且总是相对于特定的观察者而言。VON FOERSTER H. Notes on an Epistemology for Living Things [R]. BCL Report No.9.3; Biological Computer Laboratory, University of Illinois, 1972: 6.但参与者之间信息的共同身份本身并不是沟通所必需的。

卢曼简单但非常有效的创新是,由接收者而非告知者来界定“沟通”的概念。根据他的想法,沟通不是在某人说了什么时发生,或写作,或标示(indicates),或广播(broadcasts)——不受口头沟通的约束。参见LUHMANN N. Soziale Systeme. Grundriß einer alllgemeinen Theorie [M]. Frankfurt am Maine: Suhrkamp, 1984: 193-201.而是当某人理解对方说了什么时发生。一个人可以写整本书,发表详尽的演讲,但如果没有人阅读、聆听,甚至注意,就没有真正的沟通。然而,如果接收者理解(他们相信)某人说出的信息就会发生沟通——无论这些信息对接收者来说是什么,以及告知者心中有什么(或实际上其并未想到)。笔者不必进入普鲁斯特的头脑中就可以理解他的《追忆似水年华》(la recherche du temps perdu)——笔者可能会在该作品完成100年后,从另一种语言和经验中获得理解。笔者只需要了解他的沟通方式——以笔者的方式,根据笔者的想法。笔者从普鲁斯特的作品中得到的信息不可避免地与普鲁斯特的思想有所不同,这使得沟通成为一个无穷无尽的、令人着迷的发现过程。

由于信息总是相对于观察者而言,接收者总是获得与告知者想法不同的信息。沟通在技术上被定义为三种选择的统一:信息(information)、告知(utterance,mitteilung)和理解(understanding);参见LUHMANN N. Soziale Systeme. Grundriß einer alllgemeinen Theorie [M]. Frankfurt am Maine: Suhrkamp, 1984: 196.确切地说,应该明确指出,包含在沟通定义中的理解与社会相关而非与心理相关:它与接收者的理解和想法不一致,而是指任何可能的沟通参与者都可以使用的潜在意义。参见LUHMANN N. Was ist Kommunikation? [J]. In LUHMANN N. Soziologische Aufklärung, Opladen: Westdeutscher Verlag, 1995(6); LUHMANN N. Die Gesellschaft der Gesellschaft [M]. Frankfurt am Main: Suhrkamp, 1997: 73.由于参与者的想法不是沟通本身的一部分,故导致个体理解的无限多样性。社会学和沟通理论的任务是分析这种理解的多样性如何仍然能够产生协调的形式。关于卢曼的社会理论,请参见他的《社会的社会》(Die Gesellschaft der Gesellschaft)一书。即使没有共同的理解,也不是每一种解释都被社会所接受,明显的误解是例外,而不是规则。

就我们对算法的关注而言,“沟通”概念的基本力量在于这样一个事实,即在不包含参与者思想的情况下,然而,沟通不是由思想构成的,但这并不意味着沟通可以在没有思想的人参与的情况下进行。如果没有人听,也没有人参与,沟通就不会发生。沟通需要有思考的参与者,然而,沟通并不是他们的想法。一个人不需要进入伙伴的思想来理解他或她的沟通,第三方总是会以不同的[但也是合法的(legitimate)]方式理解它。人们只需要理解所说的话。这种概念原则上可以扩展到不思考的参与者(例如算法)。如果我们从接收者的角度出发,重要的是他们是否把某物当做沟通伙伴。然而,由于在沟通中,接收者将获得的信息归于对方,因此伙伴通常是指人。也可能是一种动物,例如当人们声称与他们的狗沟通时。我们一般不与机器进行沟通,故获得的信息不可能来自机器。

然而,这并不意味着机器不能提供信息。我们习惯性地从世界上的物体和机器中收集信息——例如,我们的手表告诉我们现在几点了——但我们不会将信息归因于手表。我们的手表会告诉我们时间,但这只是因为它是由某人制造的,以传达该信息。它不发展自己的时间处理方式,也不决定如何计算时间。所以,我们不与手表沟通。然而,算法正让我们面临前所未有的局面。从算法中我们得到的信息往往不是事先计划好的或者事先可用的,而且程序员自己也不知道。自学习的数字程序自主开发其程序并识别模式,它们用于产生针对我们请求的答案。例如,在与数字个人助理或社交机器人的对话中,我们获得的信息在我们提出请求之前并不存在,而是由机器专门生成以回应该请求。没有人事先知道这些信息,也没有人决定如何生成它——这些信息是算法自己生成的。信息的产生只能归因于互动伙伴,就像在沟通中一样——但在这种情况下,伙伴不是人,而是机器。

那么,当我们与算法互动时,我们会与它们沟通吗?它们在沟通中的作用是否要求我们将它们视为可能的伙伴?这是一件棘手的事情。与机器沟通的问题以及图灵测试的当前相关性取决于这个问题的答案。这里的问题不在于这个人是否意识到与机器打交道,因为现在这样做是每天都会发生的事情,而且这样的问题一般是不相关的。今天,我们的对手通常是在线服务、视频游戏、社交媒体中的机器人,即使我们没有意识到这一点——当我们意识到时,也不会在乎。使用聊天机器人小冰(2015年5月29日)在微信(中国流行的消息应用程序)上进行的测试表明,人们通常不关心他们是在与机器聊天。WANG YONGDONG. Your Next New Best Friend Might Be a Robot: Meet Xiaoice. Shes Empathic, Caring and Always Available——Just Not Human [EB/OL]. [2016-02-04]. http://nautil.us/issue/33/attraction/your-next-new-best-friend-might-be-a-robo.几周之内,小冰就成了微博上活跃度排名第六的名人,与人们进行了数百亿次的对话,主要是关于私事。该实验被认为是历史上最大的图灵测试。重要的是我们从中收集自身信息的互动是否具有与偶联的自主伙伴关系的特征。