老是买便宜货，算法会认为你比较“穷”算法背后隐藏“歧视”电子科大教授周涛谈人工智能与伦理体系

电子科大教授周涛谈人工智能与伦理体系

电子科技大学教授、成都新经济发展研究院执行院长周涛。

周涛演讲现场火爆。

2018年5月4日，在“新青年新未来——第二届AI+移动媒体大会”上，电子科技大学教授、成都新经济发展研究院执行院长周涛发表了题为《人工智能对社会经济和伦理规范的挑战》的演讲，对近年来蓬勃发展的大数据和人工智能技术对社会带来的问题谈了自己的看法。他认为人工智能和大数据的存在已经开始改变人类的伦理体系。

大数据时代 没人能置身事外

周涛表示，不管大家是否愿意，人类都进入了一个一切都被记录的大数据时代。“人类现在掌握的数据量对于几十年前而言是不可想象的，现在的数据量已经十分庞大，再过8年还会涨十倍。但是掌握了这么多数据，并不意味着我们就能够真正驾驭它们。”周涛说。

在大数据时代，我们面临的第一个挑战是信息的复杂性很高。周涛举了这样一个例子，现在的消费者们，可以从淘宝12亿商品中准确选出自己需要的商品和信息，但其实这庞大的商品和信息绝大部分都是我们没有看过的。

在当今的社会生活中，人们获取信息很大程度上是被动的。在某种程度而言，分发信息的平台，或者说掌管信息分发的算法，可以理解成一种中介，信息中介与我们的关系就像是保姆与婴儿一样，即使我们不知道对方喂过来的食物是否有营养，是否存在有害的成分，我们都吃了下去，因为没有选择。

大数据时代的到来，是人类历史上的跨越式发展，没有人能置身事外。“如果站在信息的角度来看，我们人类开始直立行走，经历了数百万年的进化；但在这之后，人类从一个高度信息贫乏的时代走到现在这样一个眼花缭乱的信息爆炸时代，只用了不到一个世纪。”周涛说。

两个进化阶段的耗时差距如此悬殊，对此周涛坦言，“我们的社会是否真正为我们进入这样一个信息高度丰富的时代做好了准备，是值得思考的。”

个性化推荐 背后隐藏着“歧视”

关于人工智能伦理方面，周涛首先引出了算法的中立性问题。人们认为算法天然就是中立的，但实际上在互联网领域，歧视可能更加隐秘。

周涛发现很多开发者在设计商品推荐系统时，会考虑用户对价格的敏感性。如果一个用户经常在购买商品时都选这个品类中比较便宜的，开发者设计的算法就判定这个用户价格敏感度高、比较“穷”。系统就会优先把一些特别便宜的东西推给他。

“所以说我们在常见的这种个性化广告、个性化推荐中，其实隐藏着“歧视”。我们推给富人和穷人的东西是完全不一样的。”周涛总结道。

如果未来人类自身处理信息的能力进一步减弱，机器会推给我们的信息更多，人类变得更愿意依赖算法和机器。周涛说：“比如说到一个城市去旅游，穷人和富人可能会抵达不同的城市的角落，所以说到人工智能时代，贫穷和富裕之间的差距会增大还是缩小，现在不好说。”

未来真人驾车 可能存在危险

人工智能时代，人类是否可能为一些还没有发生的事情付出代价？这是很多人都在思考的一个问题。

“比如美国就会分析一个乘客的资料来看他是否是恐怖分子，如果危险数据过高他就会被留在机场。尽管这样提升了其他乘客的安全程度，但这样做的代价是有一小部分人作为无辜者在这个系统中遭受到了不公平的待遇。”周涛表示美国的航空业已经有了类似的案例。

到了我们更加熟悉的环境里，周涛列举了酒驾的例子来解释数据时效性的应用。“我们可以想象一下20年以后，大量汽车都使用自动驾驶，绝大部分的交通事故应该都是因为人造成的，如果到了那个时候，真人驾车是不是就是最危险的一种？”周涛说。

除了对酒驾的处理，数据时效性也影响着个人的征信记录。周涛说：“比如你中学的时候打了架，大学的时候借了贷款没有还，这些事情过了一二十年可能会使你很难再次贷款，可能会影响你的婚恋，因为计算机绝对不会忘记数据。这是数据时效性大幅增长以后，人们不得不面对的问题。”

人工智能

已经开始改变伦理体系

面对不同立场，人工智能如何选择？

周涛认为，人工智能和大数据的存在已经开始改变人类的伦理体系。

“去年有一篇很有趣的关于无人驾驶的文章。假如你买了一辆无人驾驶的汽车，坐在副驾驶上，这时如果出现严重的交通意外，我们首先是保护路人的安全还是保护车主的安全？大部分人会选保护车主的安全，但是假设你是一个路人，看到无人车在路上跑，你回答同样的问题，绝大部分人他会认为首先应保护路人的安全，其次是车主的安全。”周涛表示这其实就是立场的问题。

“人的大脑和道德准则本身就是很复杂的。但是现在当我们有了无人车的时候就由不得你了，汽车就会做出判断。所以当机器人、这些设备高度的融入我们的生活时，人类的行为必须通过冷冰冰的代码选择，未来很大一部分的道德可能在机器选择，这个时候我们人类的尊严是否还有价值？”周涛表达了他对人工智能的顾虑。

在“五四”这样一个朝气蓬勃的日子里，周涛也表达了自己对年轻人的建议：以人工智能为牵引的新的科技时代已经到来，希望大家不管从事任何的领域，一定要去拥抱这个新的时代，但凡想要阻挡这个时代到来的人都只会成为旧时代的提灯者。

华西都市报-封面新闻记者蔡世奇

新闻推荐

“春雷”滚滚 1511名“老赖”主动还款2.5亿元

4月16日至27日，成都法院开展了为期12天的“惩治失信打击拒执春雷行动”专项执行行动。昨日，成都中院通报了“春雷行动”的战况：活动期间，成都法院实际出动执行干警8663人次，出动警车2708辆次，通过进一...

成都新闻，弘扬社会正气。除了新闻，我们还传播幸福和美好！因为热爱所以付出，光阴流水，不变的是成都这个家。