我们为什么要关心算法的前世今生？

两年前的秋天，我第一次给卡内基梅隆大学的学生上这门名为“AI社会学”的小课，遇上的第一个问题来自一个刚从业界返回课堂的前谷歌工程师。听了开堂十分钟，他犹疑地举手：所以，到底什么是社会科学 (So, what is social science)？

当时我刚拿到博士学位，虽然勉强可以算是在学术委员会的严刑拷打下摸到各大社会学流派的敲门砖，第一次遇上如此剑走偏锋的问题，也忍不住要倒吸一口冷气。这有点像金庸小说里“什么是道，什么是气，什么又是禅”的终极三问，连令狐聪都要在思过崖上蜕层皮才行。

今年再上这门课，已经是第三年。在这个以计算机和人工智能闻名的学校里，几乎年年都会遇上类似的问题。学生们大多是有着系统数学训练的理工科学生，但对算法和社会科学的交界知之甚少。

我的办公室在Newell Simon Hall，以人工智能两位先驱司马贺（Herbert A. Simon）和艾伦 纽厄尔（Allen Newell）联合命名。司马贺和纽厄尔在1975年分享图灵奖，他们一起设计的计算机程序在上个世纪50年代成功代替人类证明了数学原理，被认为是开启今天为人们熟知的人工智能的时代的高光时刻。但是你很难准确描述他俩的定位。司马贺本人是芝加哥大学的政治学博士，之后又拿到了诺贝尔经济学奖，与此同时还是心理学家、哲学家和社会学家。或许正是因为学科伊始这些曲径通幽的定位，人工智能从一开始就是名副其实的交叉学科，学生们对开设“AI社会学”这样的各大门派一锅乱炖的课程，也并无异议。

这两年里，我们在课堂里讨论外面这个已然由人工智能支配的世界的种种情境。与大部分人想象中奇幻诡异、作为人类文明终结者的人工智能不同，我们讨论的人工智能指广义上被机器学习(machine learning) 赋能的计算机算法 (algorithm) 。从这个层面上来讲，人工智能其实早已渗透进每个人的生活——不仅仅是自动驾驶和面部识别之类的高科技产业，同时也是智能电表和红绿灯。甚至是你每天的工作日程、百度搜索和芝麻信用。

在课堂上，我们将算法情境化、历史化和社会化。与其关心复杂的数学模型，我们更关注算法是如何镶嵌进人类生活的各种复杂权力关系之中的。我们讨论为什么我们要算法之后标注数据的人工，为什么法律系统里预测犯罪率的算法会持之以恒地歧视黑人，为什么机器学习的大拿们每年就公平和正义这样形而上的问题争论不休，为什么当年谷歌有名的图像归类系统会把黑人一致打上大猩猩的标签，为什么用谷歌新闻训练出来的词库里自动与女性匹配的永远是护士，而男性永远是医生，为什么亚马逊的当日快递系统会莫名其妙地绕过波士顿的某个地区，为什么优步会给司机们设计上一个丰富多彩的游戏界面，为什么脸书的算法可以精确地发现抑郁症用户会是一件可怕的事。

当然更重要是这些问题之后的那个大问题—— 关我什么事（Why should we care）？为什么作为一个工程师我们需要关心算法的前世今生？算法，像所有的实证科学一样，难道不应该是中立和客观的吗？难道我们不应该提倡政治的归政治，科技的归科技？

这些年随着科技公司不断发展的势头，人工智能在各大社会领域的狂飙猛进，各种对于技术的反思也逐渐崭露头角。人们发现，把技术这匹野马放进社会丛林本身并不能解决问题，反而会制造新的问题，甚至连技术这匹野马也是在与社会本身的政治经济结构的互动中造就。硅谷里几乎每一家科技公司都在忙于设立道德委员会，积极讨论怎么把所谓的伦理法则融合进产品设计。早年间借由心理学的奇技淫巧拼命发展的所谓“说服式设计”(persuasive design) 也到了开始必须反思自己道德立场的时刻。这里面固然有借由虚无缥缈的道德伦理规避政策监管的考虑，但同时也给了社会学者去介入和推动科技公司改革的机会。

学期结束的时候，我们会有一堂“白镜”的课堂大讨论。这堂课的设计是从著名科幻剧集“黑镜” (Black Mirror) 里借来，让学生们假想自己是黑镜的编剧，自由设想下一季有关算法和人工智能的科幻故事，并辅以“白镜”的批判性反思。我记得有个大三的计算机专业的学生写了一个关于无人车的小故事。他设想在人工智能统治的未来世界里，无人车将成为一切事故的决策者。在意外发生的时候必须经由算法选择应该牺牲哪辆车，哪位乘客。根据历史数据，车辆会自动计算出车的价值和乘客的价值，然后作出决定。学生问，如果两车相撞，一辆是八十岁的老人，一辆是二十岁的年轻人，算法应该选择牺牲谁？这是个伦理学经典的电车难题（trolley problem）在人工智能时代的变奏。学生们各抒己见，吵得不可开交。突然，一个黑人女生问作者：如果故事的主角不是虚拟的、与你毫无关系的数字，而是具体的和你有切身关系的活生生的血肉之躯：一个是你退休之后居住在佛罗里达的爷爷，千里迢迢来给你庆祝生日，车上有他给你的买的新电脑，另一个是你从小到大一起长大的好朋友，开车来城里给你过生日，车里放着你俩高中时最爱的音乐。现在，请你告诉我，作为算法背后的程序员，你会选择牺牲谁？

也许现在应该折回来回答开头提出的终极问题了。我冥思苦想，用米尔斯大人（C. Wright Mills）在《社会学的想象力》(The Sociological Imagination) 里那句著名的话，回答了那位谷歌前工程师，之后每年开课的也都会防患于未然地把这段话大大地写在PPT上：什么是社会科学？为什么我们需要学习社会科学？

“It is the political task of the social scientist – as of any liberal educator – continually to translate personal troubles into public issues, and public issues into the terms of their human meaning for a variety of individuals”.

将个体困扰上升为公共议题，并将公共议题转化成为每一个芸芸众生都能感同身受地理解的个人问题，这就是社会科学的想象力。

从没有一个时刻比现在更需要我们去用这样的想象力去理解算法，理解人类社会，理解算法和人类社会的交汇。

【参考文献】

Mills, C. Wright. The sociological imagination. Oxford University Press, 2000.

-----

作者沈虹，毕业于美国伊利诺伊大学香槟分校传播学系，现任职于美国卡内基梅隆大学。她用社会学的方法研究新兴科技。(本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP)

新闻推荐

画好自画像走好高中路 给即将入学的高一新生们的信

□韦东鹏亲爱的学弟学妹：你们好！再过数月，你们就是一名高中生了。我忆起三年前的自己，中考未竞，再挑灯火读文章；也看到现在的自...