把“算法”治理上升到总体安全观层面

发布时间:2019-04-18 14:04:14  |  来源:中国教育报  |  作者:杨晓峰  |  责任编辑:申罡

   作者:长江师范学院重庆教育改革研究中心执行主任 杨晓峰

  近年来,因数据规模的急剧扩大和运算能力的飞跃提升,基于“算法”的自主收集、挖掘、识别、分析、预警、处理、诊断、决策系统,被广泛应用于各行各业,日益渗进社会各领域。

  “算法”指的是为解决某个问题、完成某项任务、达到某种目的而采取的处理规则、运算指令、策略机制。“算法”在为人类社会带来巨大便利同时,也产生了一些负面作用,如在新媒体领域,媒体内容“把关人”让位“算法”后,已引起了有关方面的担忧。人民网曾连续3次就“算法推荐”展开评论,批评部分智能新闻客户端任由传播内容“野蛮生长”,认为“一旦失去节制的美德,‘算法’也可能误入歧途,甚至走向创新的反面”。

  目前,我国手机网民规模已达7.88亿人,网民通过手机接入互联网的比例高达98.3%。各种手机应用多达数百万种,几乎涵盖社会生活的所有方面,而一旦5G手机全面普及,“算法”将会释放出更大的技术效应。

  党的十九大报告指出,“统筹发展和安全,增强忧患意识,做到居安思危,是我们党治国理政的一个重大原则”,要求统筹好“传统安全和非传统安全”。在信息化智能化不断深化的背景下,“算法”会催生与衍生出前所未有的社会新现象,如算法政治、算法经济、算法战争、算法新闻、算法伦理等。其中有些“算法”导致的结果,能够引起人们的警觉,如数量很少的“网络水军”可以利用软件大量传播虚假负面信息,误导整个社会舆论。有些“算法”导致的结果短时间根本无法感知,如在经济领域,有学者提出了“算法共谋”概念,即通过有意无意的“算法”技术,即时获取、调整、预测价格,对价格偏离与竞争行为进行阻断,从而实现“没有竞争者协议干预价格,却达到限制竞争的结果”。这种基于技术的价格垄断现象,具有极强的隐蔽性,完全超出人们现有常识,不能用常规反垄断手段进行监管。类似“算法共谋”这样具有破坏作用的现象,在不久的将来,必然会在社会各领域大面积出现。因此,有必要从总体国家安全观角度,认识“算法”、重视“算法”、治理“算法”。

  提高认识水平,增强“算法”风险意识。技术进步往往携带着“价值正确”的社会心理,作为技术创新或新兴现象,“算法”的负面作用还没有引起全社会重视。在铺天盖地的“算法”运作中,“算法”始终隐藏在不为人知的“暗箱”之中,普通民众处在被动接受甚至随之“翩翩起舞”状态,不仅难以觉察一些“算法”的潜在危害,而且客观上散播了负面影响。因此,应加大“算法”的宣传与教育力度,提高民众认识水平,提升民众识别能力,营造抵制“恶劣算法”的舆论监督环境。

  规范行业伦理,遏制“算法”负面影响。技术只有在人类良心的呵护下,才能发挥出应有的价值。要在社会主义核心价值观引导下,以高度的社会责任感,研判不同领域的“算法”应用,对政治、经济、文化、教育、社会伦理、社会心理的可能影响,在充分发挥“算法”积极作用下,主动修改、完善、规范“算法”,消除“算法”的价值和伦理缺陷,在技术不够成熟情况下,通过人员把关和人力过滤,加大对“算法”产品的“质检”。

  加强执法力度,严惩“算法”危害行为。“算法”危害本质上是人的危害,对于罔顾“算法”危害,单纯追求商业利益,造成恶劣影响的平台和机构,国家应加大执法力度,按照有关法律进行惩戒。在国家重大政治、经济、外交、军事等活动以及民间突发事件中,以网络空间、移动终端等平台,通过自主设计的“算法”技术(平台)或外部引进的“恶意算法”软件(平台),故意误导社会舆情的行为,国家应依法进行追查与问责。

  支持技术研发,以“算法”治“算法”。消除技术负面影响,同样需要技术的参与。“算法”本身是中性技术,但一旦被别有用心的人、组织、外部势力加以利用,就有可能对不同领域的安全与稳定构成或隐或现的影响。在“算法”已成为智能化社会运行的基础性技术背景下,单是依靠职业伦理或群众舆论,是很难对其进行有效治理的。有关部门应采取应对策略,鼓励技术研发机构积极开发“算法监管工具”,通过“好算法”应用,遏制“坏算法”的不良影响。

 

分享到: