我的人生一大乐趣之一就是参加自己感兴趣但不了解的领域的会议。(第二大乐趣就是写一写这些会议。)所以当我的朋友邀请我参加“听识机器峰会”时,我欣然同意了。
什么是听识机器?一个众所周知的例子便是“哈喽芭比”(Hello Barbie),一个能够识别孩子的话语并给与回复的娃娃。在纽约玩具博览会上,芭比娃娃制造商美泰公司的代表在介绍这款最新型的娃娃时说:“芭比,欢迎来到纽约。”哈喽芭比回答说:“我爱纽约!告诉我,你最喜欢纽约那个地方?食物、时尚、还是风景?”
芭比之所以如此神奇,是因为它能将孩子的问题录制下来,上传到一个语音识别服务器上,服务器识别出关键词(比如“纽约”)之后便会提供一个恰当的回答。为这一技术提供支持的ToyTalk公司会用孩子的话语帮助提升其语音识别准确度,可能还会将这些话语保存下来以便在未来使用。
这便是听识系统的运行方式,其中的潜在危害显而易见。峰会上的一名发言人指出,听识机器能满足监视机构的三大需求:
1.它们无处不在,正占领我们生活的方方面面。
2.它们无时无刻不在运行,能够一直记录我们的话语。
3.它们能对收集到的数据进行处理,尝试理解人们所说的话,并对能够理解的部分作出回应。
为了削弱其可怖的监视本质,听识机器通常都内置在迷人可爱的设备中,比如娃娃和机器人。听识机器的支持者们认为,它们是科技与生活交织的主要途径,能让电脑成为我们的帮手、玩伴和密友。然而这类设备在大众之间引起了很大的争论。我发现,其中最有趣的问题关于有意或无意中受到倾听机器的监视。如果优步的司机必须记录他们与顾客的对话以便应对可能的差评,事情会变得怎样?(事实上一些司机已经这样做了。)自愿让听识机器进入自己的生活——例如向Siri或者机器人伙伴倾诉——是一回事,接受上级或者执法机关强制安装的机器的监听则是另一回事了。
在过去的三十年里,对科技产品的监管都遵循着这样的模式:科技公司发明了新技术,将其投放市场,引起用户质疑,如果质疑的声音足够大,政府监管部门便会进行调查,做出相应回应。人们都感觉就应该这样,认为如果监管太严厉,创新便会受挫。但是,在这一模式中,监管部门的力量不足以与市场力量相抗衡。只要产品还在市场中,它就会努力让用户相信,它所代表的新型生活方式将成为常态。Siri刚上市时,苹果公司通过各种方式来说服人们用它预定晚餐、查看交通、寻求意见。为了降低使用门槛,苹果公司将它预先安装在大受欢迎的iPhone中供用户免费使用,还不遗余力地宣传其新功能,就连关于Siri语音识别功能缺陷的笑话也帮助人们接受这一“新常态”——人们可以与自己的手机对话,分享敏感信息。或许将来会有人起诉苹果公司滥用Siri的数据,监管部门也可能会介入。但在接下来的几年中,苹果公司已经胜利了:我们正在与手机对话,与它分享我们的生活,同时产生大量的数据。这一监管模式的问题在于,我们会被市场牵着鼻子走,无法表达我们想要怎样的科技世界。
我们真的想要一个能向手机倾吐心声的世界吗?怎样才能迫使相关公司处理这些新互动产生的数据?我的一名朋友指出,这些问题并非管理问题,而是政策问题。难点在于,在目前监管不足的情况下,我们怎样才能决定什么样的科技产品可以进入市场,如果可以,又应该在何时以何种方式进入市场。
IT界需要一个更好的政策制定文化。对于听识机器这类科技,我们需要形成一种能够讨论其“能否进入、何时进入、怎样进入市场”的传统。同时,我们还应该进行更多的对话,来讨论我们想要什么,而不是我们能研发什么。
译者: sibyl玥