Selfish Ledger，令人担忧的谷歌版“新黑镜”

谷歌最近并不太平。

最近，谷歌两年前制作的一个仅供内部传发的视频被曝光，视频中提出了“Ledger”概念，Ledger收集用户所有数据，然后根据用户的行为、习惯等信息，引导用户完成一个目标。视频一曝光，引发舆论哗然的同时也让许多人再次陷入对于信息安全的深深担忧之中。

这部名为《The SelfishLedger》的短片，由谷歌 X 实验室设计负责人、Near Future Labortatory 联合创立人 Nick Foster 亲自操刀制作。在长达9分钟的视频中，Foster 定义了“Ledger（数据账本）”，并假设这些数据档案可以被建立，也可被用于修改行为以及进行用户之间的相互转移。

谷歌提出“全系统设置”概念

基于Ledger的概念，视频中谷歌提出了概念性的解决方案（conceptualResolutions by Google system）——提示用户选择一个生活的目标，在此后每次用户与手机的互动中，手机均会引导用户去实现这一目标。

谷歌认为其可以实现一个“有组织的价值观”，其包括用户在叫Uber出行时会建议用户使用拼车以及更加环保的出行方式，或者是引导用户从Safeway购买一些本地产品。

谷歌解决方案引导用户购买商品

实现这一切的前提，就是实现Ledger对更多数据的贪婪。它通过访问大量的用户数据和决策，对数据进行搜集和学习，进而提出建议。在未来，“以目标为导向的Ledger概念将变得更加可行，提出的建议可能不会由用户转化得出，而是由Ledger本身作出的”。

一旦Ledger本身能够自主作出决断，这就让人细思极恐了。

Foster设想了一个未来：“目标驱动的Ledger概念变得容易被接受，并且行动建议可能不是由用户而是由Ledger本身提供的”，这就是《黑镜》描述的景象。而Ledger积极地寻求填补数据的空白，甚至选择购买它认为可以吸引用户的产品，以便采集数据。

随后，视频中举了一个浴室体重秤的例子。一开始，Ledger 并不知道用户的体重。随后，视频画风开始趋向科幻情景，设想 Ledger 可能会变得十分精明，能够依靠3D打印技术打印自己的设计：“欢迎回家，Dave，我给你打印了一个体重秤。”

基于Foster对Ledger的构想，其如若照进现实，智能相对论（aixdlun）分析师柯鸣认为，这仍然存在着几个不容忽视的问题。

1. 恐成控制大众的反乌托邦视野

Foster对Ledger的构想并不仅仅是一个自我提升的工具。这个系统还能够“填补知识空白”、“改进人类的行为模型”，这不仅仅包括你我的特定行为，更包含着整个人类的群体行为。虽然视频指出试图通过使用思想控制技术来解决贫困和全球变暖等问题，但视频认真讨论在全球范围内大规模行为改变的事实是令人恐惧的。

工智能之父马文·明斯基认为“大脑不过是肉做的机器”，而人类思维是一个复杂的过程。比如“为什么人类下雨不想被淋湿，却愿意在卫生间沐浴”这种3岁小孩都知道的问题，计算机就会感到费解。

对于用户而言，Ledger的预期设计让大家感到隐忧。一位X的发言人说明道：这是多年前设计团队的一个思想实验，他们使用一种被称为“推测设计（speculative design）”的技术来探索让人不舒服的想法和概念，从而引发讨论和辩论。它与任何当前或未来的产品无关。

但其实，早在2015年谷歌所提交的专利申请中，就有存在“检测和纠正用户行为中的潜在错误”的提法，这与Ledger的功能十分相似。当其真正普及于人类生活之中，其依然是让人恐慌的。

2.信息伦理问题再上风口浪尖

“想要得到多少便利，在于你愿意放弃多少信息隐私”，这好像已经成为诸多谷歌类公司的永恒二分法。信息伦理随着Ledger以及亚马逊Alexa再爆将私人对话发给同事的事故时，其再次成为人们关注的热点。

而此种事件，早已不是个例。早前Facebook被指控利用个人信息系统，预测和影响选民的政治倾向，扎克尔伯格对此承诺将进行严厉整改，并表示将专门成立人工智能伦理团队来保障信息安全问题。