算法的尽头,规则由谁制定?

算法的尽头,规则由谁制定?

1980 年,麻省理工学院人工智能实验室年轻的程序员理查德・M・斯托曼被一台打印机惹恼了。

打印机是施乐公司捐赠的最新款,可以直接网络打印,属于尚未上市销售的概念款。比起旧打印机,新玩意儿效率高了一个数量级,但也产生了新麻烦:由于联网打印,机器同时服务多人,卡纸问题也比前一代严重。

最开始,这个问题似乎很简单。人工智能实验室聚集着当时全美最优秀的程序员,遇到类似问题,技术极客们一般是进入机器控制程序,直接对内部软件做修改。

事实上,之前那台旧打印机的卡纸问题,就是理查德・M・斯托曼加了几行代码解决的。

这正是施乐公司这样的企业喜欢把产品捐送给实验室的原因,这群极客如同企业外延的研发部门,他们的修修补补,很多时候会成为下一代产品创新调整的方向。

然而这一次,斯托曼想修改打印机软件时碰了一鼻子灰。作为凝结了当时最前沿技术的打印机,施乐公司在这款产品上花费不菲,也对其寄予厚望。为了尽可能保护未来的商业利益,施乐公司封闭了产品源代码。

这个举动惹恼了斯托曼。

在此之前,软件是圈子里的共有资源。极客们把各种软件复制来复制去,如同接受来自天上的雨水一样理所当然。互相复制、修改和使用软件,并不影响其他人,甚至更多时候,是带来创新和进步。整个计算机世界的基石正是在这种共享和复制之中不断建造和发展的。

施乐公司封闭源代码的行为,在斯托曼看来,如同给这个知识自由流动的世界突然筑起了一座大坝,不仅破坏了二战后深植入软件开发中的科学精神,也是对程序员群体的背叛,它让程序员成为 “被雇佣者”,而不再是软件的主人。

打印机事件是斯托曼的人生转折。几年后他发起自由软件运动,并建立自由软件联盟,阻击一切私有软件。

时至今日,虽然斯托曼和自由软件联盟的偏激经常受到质疑,但斯托曼时代构建计算机世界的方式,时刻提醒人们,为什么 “开放” 和 “分享” 应该也必须是互联网的精神内核。

重述这个古早期故事,是因为美团公开部分外卖算法后,有很多这样的跟帖讨论:为什么要公开?

互联网行业的光环真是消失太久了,这个新闻后最需要的疑问本该是:为什么还有公司没有这么做?

除了传统,互联网发展历史一再证明,开放并非仅仅是这个行业散发伦理道德光芒的精神图腾,也是企业竞争中杀伤力极强的武器。

全球知名互联网企业几乎无一不或多或少受益于开放。与开放平台 Linux 关系密切的 Google 自不必说,如今邪恶到面目可憎的 facebook,正是 2006 年宣布开放战略后,迅速将老牌社交网站 MySpace 抛在身后。

《Facebook 效应》作者把扎克伯克做出 “开放” 决定的那一刻,称为 Facebook 的 EurekaMoment。那段时间,Facebook 高级经理戴夫・莫林甚至把托克维尔的《论美国的民主》作为建立新版 Facebook 的理念指引,扎克伯格个人主页上的简介则是:“我正在努力让整个世界变得更加开放”。虽然今天看来无比讽刺。

2008 年,比尔盖茨在退休前一周的高管会议上,突然宣布拥抱开源的决定。尽管后面的继任者史蒂夫・鲍尔默又走了一段弯路,但这个决定缓和了微软与开发者社区的紧张关系,也为之后 Windows Azure 成为微软扭转命运的关键钥匙埋下了希望之种。

大公司拥抱开放的背后蕴含着一个简单事实:一个公司的技术能力和管理半径永远有边界,那么为什么不尽可能借助外部力量呢?借助开放力量,互联网公司往往可以获得更宽广的护城河,甚至形成垄断 —— 既然既符合市场伦理也符合效益逻辑,那么为什么时至今日,公开算法仍然是一个小众选择?

公开算法与互联网公司以往的开放,最大的区别在于:算法时代的人,不再仅仅是技术的使用者和创造者,而是成为技术的一部分,受到算法规则的控制。

在一档关于网约车的音频节目讨论中,司机们对看不见摸不着的算法既愤怒又敬畏,他们不断地总结尝试各种方法反抗、逃避和挑战算法的约束,比如利用醉酒无责取消的平台规则,拒绝掉不划算的短途单,比如把定位一直定在机场,多接机场的单子。

但更多时候,司机们的反抗很无力。由于既无法得到严密的证实,也无法被真正证伪,大多数接单技巧像是玄学,比如把蓝牙关掉再打开,就会有大单出现,多在红绿灯附近徘徊,单子会多,或者打电话跟客服吵一架,平台会立刻派出高质量大单。这些方法如同数字时代的拜神驱邪,魔幻又荒诞。

这一切展示着人类历史的新篇章:人不再是技术的绝对主导者,人的行为、习惯被分解为大数据,成为帮助算法制定规则、构建权力的燃料,然后又成为算法实现目的的工具。

《大西洋月刊》在去年一篇反思硅谷和数字技术的文章中,讽刺硅谷科技巨头 “过去十年中最引人注目的创新之一不是计算机学会开车,而是让计算机学会指挥人开车”。

基辛格则在更早期一篇文章中忧心忡忡的表示:“我们无法完全预测新技术的变革带来的影响,它发展到顶点时,可能会带来一个依赖于资料和演算法驱动的机器、不受伦理或道德规范约束的世界。”

2016 年,威斯康星州一宗汽车盗窃案曾掀起一场关于算法公平的讨论。由于案件量刑时参考了智能数字模型,引发司法界对 “算法中加入性别、种族参数” 是否造成歧视,和 “算法不公开” 是否违反了司法透明的争议。

讨论结果是建议算法不要用在刑事司法、医疗保健、社会福利和教育等公共领域。

但这种搁置和回避只能是暂时的,算法困局早已经蔓延过公共领域,变成了与真实个体之间的矛盾。

2020 年底,4 名被 Uber 解雇的司机,把 Uber 告上了法庭,理由是:没有明确告知解雇原因。司机们坚称自己一直合法运营,却被大数据判定为违规。

这是 2018 年欧盟公布《通用数据保护条例》后出现的首个相关案例。

《通用数据保护条例》是欧洲近几年最重要的数字法案之一,其立法根基是包含了 “反歧视” 和 “数据透明” 在内的 “数据正义”。根据这一法案,个人有权了解个人数据如何被收集和使用。

支持 4 名 Uber 司机的机构之一 App Drivers & Couriers Union 是 2016 年帮助 Uber 司机打赢雇员身份案的组织,其网站声明中明确表示,这个案子将检验《通用数据保护条例》保护个人免受不公平的自动化决策影响的程度。

算法可以设定和寻求到最优效率,但人的世界里,从来不是只有效率。这是人与算法的矛盾,也是解决人与算法矛盾的锚。

我国在今年 9 月份启动为期 3 年的算法监管计划,2 个月后又正式实施《个人信息保护法》,不管美团公布算法的举动是不是受此影响,至少在尝试重新梳理人与算法的道路上,我们也迈出了第一步。

来源:荣大一姐 微信号:laodaorongdayijie2

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论