背离“初衷”的技术是可怕的

07月14日


技术在各行业领域的应用中,总不免要经历阵痛。

就比如近期闹得沸沸扬扬的货车司机北斗掉线“死谏”事件。

4月5日,货车司机金德强驾车途经唐山市丰润区超限检查站,却因北斗定位掉线被处罚。随后,他选择服下农药结束自己的生命。

在自杀前,他留下“我不是不值2000元钱,我是为了广大卡车司机说句话”的遗言,引发货车行业对于技术应用、行业监管的热议。

对于货车行业建立北斗系统这事来说,其初衷是为了让货车行车过程更加安全,这本无可厚非。

可争议在于,当行车监测偏离初衷,成为似乎没有信号就要处罚的“罚款机器”,这自然会导致一些可能的误伤。

类似的,近期佛山高速路天量罚款事件也在放大偏离初衷的技术应用所可能产生的巨大伤害。

一个高速岔路累计几十万人违章,罚款金额过亿,众多司机反映被罚路段设计不合理,这不由地让人质疑是否存在“电子警察”滥用的情况。

也同样让人怀疑,原本是为了有效解决交警警力不足、增强执法工作效率、降低交通事故率的违法摄像头是否背离了初衷,成为某种意义上的罚款机器。

如果说技术的滥用是可怕的,那么背离设置初衷的技术应用更可怕,因为在系统与技术的制裁之下,一旦技术出现了误判或考虑不周全,那么人力很难去反抗冰冷的算法,而只能寄希望于更高一级的系统开发者、管理者介入以推翻技术裁决。

可按照我们日常生活经验,这种实现难度比反抗算法本身更不易。

在此背景下,类似以处罚为目标的技术执法难免会给一些人带来绝望感,这就放大了技术应用在某些场景下的可怕之处。

不可否认的是,人类长久以来积淀的算法系统在统计意义上要比人力裁决更加公正客观,这也提升了整个社会的幸福感。但不容忽视的是,技术与Bug是相随相伴的,应用技术的人也会背离初衷,当系统“出错”,人的困境将被无限放大。

回过头来看,我们已愈发频繁地感受到技术是一把双刃剑。

大数据提升了全行业的信息效能,但大数据杀熟让人背后发冷;互联网出行革新了出行体验,但发展过程中留下的真空地带却给一些激情犯罪者留下可趁之机,滴滴与货拉拉的相关案例就是典型证明;搜索算法让人类获取信息的效率直线提升,可竞价排名与推荐广告让很多人饱受折磨。

技术确实是好技术,可当使用者将使用初衷做出一些倾斜,以利益为先或KPI优先,那么技术所带来的危害将十分巨大。

此时,凌驾在技术之上的规则就显得非常重要了,不能放大人性中的恶,不能给利益寻求方以可乘之机,不能成为管理方“以罚代管”的称手工具,这一点尤为重要。

上世纪五十年代,阿西莫夫在科幻小说《我,机器人》中提出了机器人三大法则,这不但引领了后世科幻创作的风向,也给科技技术的发展应用提供了可以预见的反思。

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

类似的,当我们恣意应用技术给生活带来的便利时,在科技必须服从人给予它的命令的同时,也不能忘了科技不得伤害人类个体,或者目睹人类个体“将”遭受的危险而袖手不管。由此发展起来的“机械伦理学”是否可以延展成为未来科技应用的安全准则?

前人智者的光辉早就想到了许多,今人不要忘却才是。

互联网、科技、商业与传播领域的不明觉厉,都有穿透过去与未来的逻辑相关