当你在大街上行走时,人工智能就会采集你的生物信息,像研究小白鼠一样……
据媒体报道,上海浦东区谢老伯2020年1月去世,但家属最近收到交通罚单,说谢老伯2020年10月1日在某个路口过马路闯红灯,罚款20元。交警部门发现这一乌龙后,到谢家登门致歉,表示将尽快升级更新系统,增加人工核查比对手段,尽可能提高识别准确率。
这是一次很有意思、也耐人寻味的交警智能系统误判案例。
它的讨论方向有两个关键点:
第一,这次是因为谢老伯去世,无可辩驳地证明系统出错,如果系统误中活着的人,要怎么洗清冤枉,解除莫名其妙的罚单?
第二,将路口作为搜集公民生物信息的场所,并将隐私信息公之于众,这样真没问题吗?
按照警方的解释,是因为电脑系统将其他闯红灯的人误作谢老伯,系统在定位他时,匹配到的是没有更新的户籍数据。
人闯红灯天眼拍照,人脸识别后寄送罚单,一气呵成。效率确实是提高了,但要兼顾的那些重要原则与隐私界限呢?一个人即使闯了红灯,就该被放大显示在路口屏幕上?就该丧失相关的隐私,接受无言的示众?
从人工智能到人工智障,幸亏谢老伯“以死明志”了,否则真难说得清。换成其他人遇到这样的错误,被系统判定为“破坏公共秩序”的违法分子,估计自证清白将是一件非常麻烦的事。
交警部门或者支持人工智能系统的会说,相较于它可能犯下错误,它的效率更高,所以即使有错认的,也是利大于弊。
相信这套工具理性的逻辑很有市场。你看上海交警部门登门致歉之后,提到的改进方向,并非节制系统的使用,着眼点依旧不是系统对人的侵犯,而是继续提高效率,让系统更加厉害。
当你在大街上行走时,人工智能就会采集你的生物信息,像研究小白鼠一样……
「 支持乌有之乡!」
您的打赏将用于网站日常运行与维护。
帮助我们办好网站,宣传红色文化!
欢迎扫描下方二维码,订阅乌有之乡网刊微信(wyzxwz1226)
