你的日常并非自己决定 算法正在统治人类生活

undefined

  10月10日消息,据英国《卫报》报道,科技巨头的算法对人类生活影响越来越大,我们应该怎样应对?在最近在德国柏林举行的国际互联网研究者协会(Association
of Internet Researchers)第17届年度会议上,数位与会的女性学者讨论了这一话题。

  在20世纪70年代初,汉娜·阿伦特(Hannah
Arendt,1906年10月14日—1975年12月4日,20世纪最伟大、最具原创性的思想家、政治理论家之一)对美国五角大楼越战时期的政策进行了严厉批评,她说:“决策者没有判断力,他们只知道计算。”

  如果决策者也玩“概率游戏”,这是发扬一种赌徒而非政治家的精神。他们“计算现实问题时凭借的是完全非理性的信心”,所考虑的范围非常有限,忽略剩余的或潜在的问题。

  微软研究院首席研究员凯特·克劳福德(Kate
Crawford)称:随着人工智能机器学习的发展,科技的影响力越来越大。我们对科技的信心正再次变得非理性。”

  如在对人口水平进行预测时,所采用的算法忽略了那些人和那些事物应该计算在内,包括“那些人是从监狱里释放出来,你在医院时能得到什么样的待遇,你看什么样的新闻”
等。那么,我们如何应对这个“未来50年我们面临的最大挑战”?

  克劳福德及其他三位女性专家参加了国际互联网研究者协会第17届年度会议。让她们产生鸣的一个话题是:随着“机器逻辑计算将人类和非人类的统治者联系在一起”的出现,我们面临一个亟待解决的问题。

  克劳福德认为,最近引起国际公愤的Facebook对一张普利策奖获奖照片的审查,只是这类问题的冰山一角。她说,在数量众多的自动化和半自动化的幕后决策中,这是一个影响巨大的例子,“它们(机器逻辑计算)被植入在后端系统,在多个数据集的接口处发挥作用,没有面向消费者的接口。我们根本不清楚它们如何运作及遵循什么的规则。”

  对于这些担忧,德国锡根大学数字媒体教授卡洛琳·格利茨(Carolin
Gerlitz)也有类似的共鸣。她说,今天的数字公司“允许我们从事某项活动,但是以精准控制、数据化(datified)和预先准备好算法的方式。他们让一项活动可以进行,但又让这项活动可以计算和测量。

  荷兰皇家科学院院长、会议主题发言人何塞·蒂克(José van Dijck)则表示,数据化(Datification)是她所谓“平台型社会(the
platform society)”
的核心逻辑——在“平台型社会”中,公司通过承诺提供更好和更有效的服务,在欺骗公众的同时掩盖自己私利,从而更有效绕过传统机构、标准和法律。

  何塞·蒂克及其同行有一个刚刚萌芽、迫切的想法。她们为这一跨学科研究制定了一个紧迫的日程表——在微软研究院,克劳福德也在领导这一研究。同时,包括新莱弗尔梅未来智能中心(Leverhulme
Centre for the Future of Intelligence)在内的许多研究机构,也在进行这方面的研究。

  这些观点与旧的理论有冲突,旧的理论认为这是消费者有意识的举动,但如果是这样,消费者理论上应该可以退出(该平台)。然而,来自柏林公益组织Tactical
Tech的菲克·简森(Fieke
Jansen)承认,即使是数字权力活动家也必须通过电子邮件进行联系。全球五大高科技公司以及它们背后极为集中的财政资源,在“权力和财富越来越集中的社会中”
走在了最前沿。

  简森问道:“我们怎么让它们领先那么远。”

  克劳福德则认为,高科技公司变得如此强大有非常实际的原因。她说:“我们正试图把大部分责任归结到个人身上,却避而不谈‘邪恶平台’的问题,而在现实中,有很多原因让个人无法承担太多责任。(如果不使用这些平台)人们很可能失去工作、朋友和家庭,这代价是如此之高。”她表示,即使你设法避免使用Facebook、Gmail或iPhone等,我们仍是“广泛跟踪的宇宙”的一分子。

  她说:“我们仍然认为应该有机构对我们在个人层面参与这些过程负责,但我真的不认为我们可以做得更多,或者至少这个意义上来说,我们能做的在非常迅速地减少。”

  如果消费者选择不充分,那么透明度是必要的,但这还不够。克劳福德认为,我们需要寻找政治杠杆,以及能改变信息生态的集体性、共同创建的模型。何塞·蒂克则将其描述为公共价值观的再次激发,主要通过了解、斗争和谈判的方式。菲克·简森对此表示赞同,但强调需要普及对话,特别是通过艺术和文化方面的对话——以及当我们处理的问题无疑是政治性的时候,不再讨厌政治手段。

  在柏林,这些学者如此激烈地揭露高科技巨头所拥有占绝对优势、难以描述的权力,不过是得出了一个长久以来的结论:我们需要解决方案。

(0)
上一篇 2016年10月11日 09:46
下一篇 2016年10月11日 09:50