“数据治理的核心是对技术权力的规制问题。”全国人大宪法和法律委员会副主任委员江必新在“2022啄木鸟数据治理论坛”上发表主旨演讲时说。据悉,论坛由南方都市报个人信息保护研究中心联合清华大学人工智能国际治理研究院、人工智能治理研究中心(清华大学)主办。
江必新的发言题目是《技术权力规制的若干思考》。他提到,技术是一种双刃剑,既可以用来为人类谋福祉,也可能伤害人类,因此应该趁它还没有发展成一种垄断权力的时候,用理性、科学的态度去规制,同时也要注意“不要因噎废食,不要因为规制阻碍科学技术发展”。
及早规制技术权力,但不能阻碍科学技术发展
12月19日,《中共中央 国务院关于构建数据基础制度更好发挥数据要素作用的意见》对外发布,其中提出要创新政府数据治理机制,压实企业的数据治理责任,充分发挥社会力量多方参与的协同治理作用。
江必新长期关注数据治理问题。他指出,技术产生的初衷是为人类谋福祉,但是一旦发展到一定程度,就会对社会产生控制力、影响力、支配力,实际上就具备了一种权力的属性。而数据治理的核心,正是对技术权力的规制问题。
他表示,人类对技术有一种巨大的需求,尤其是发展中国家在科学技术发展不足的时候,主要方向就是促进技术的发展,有人甚至提出寻求技术权力。“当然,这在特定的阶段是必然的。但正是因为有这样一种复杂的关系,所以人们对它(技术)的规制往往抱着一种放任的心态。”
然而,技术是一把双刃剑,可以用来给人类谋福祉,也可能给人类带来伤害。在江必新看来,因为技术具有二重性,所以必须予以关注,尤其是当它还没有发展成为一种垄断权力的时候,就要进行适度规制。
“我觉得应该用理性、科学的态度对待技术权力问题,及早地进行规制,而不是容忍和放任”,他同时强调,也不能“因噎废食”,不要因为规制阻碍科学技术发展,这才是确保科学技术繁荣行稳致远的必要条件。
值得注意的是,技术权力与资本权力、公共权力相比,具备隐秘性、多元性、变易性、阶段性等特性,使得对技术权力的规制更具复杂性、艰巨性和长期性,传统的权力规制方式显得绠短汲深。
在这样的背景之下,应该如何规制技术权力?江必新提了六点基本思路。
第一,为技术权力行使设置底线和边界,比如技术再怎么发展,也不能危害国家安全、不能侵犯个人信息权益、不能损害公共利益等等。第二,为技术权力行使设定基本的规则。第三,为技术权力行使设置正当的程序,比如平台应尊重用户的选择权。第四,为技术权力行使设置自我合规制度,明确平台的权利义务规范。第五,为技术权力的行使设置监督机制。第六,为技术权力的滥用设置责任追究制度,特别是建立一个科学的、适度的、理性的责任体系。
要高度重视公共权力、资本与技术权力结合产生的滥用问题
在规制技术权力的同时,也有一些问题需要注意。江必新概括了九个问题,不过他也强调,实际上存在的问题可能远远超过这九个。
第一,要处理好规范制约与促进发展的关系。江必新表示,促进发展科学技术仍然是第一位的,“一点不能含糊”,但是不能因为要促进发展就对技术权力放任不管,任其膨胀扩张或者被滥用。
第二,要普遍建立技术伦理规范。“每一个领域,每一个平台,每一类平台,都要建立相应的伦理规范。”江必新提到,相关的国家机关已经出台了这方面的规范和规则,还要充分发挥行业组织、社会组织的作用,让各行各业形成自己的伦理规范。
第三,要高度重视用户和消费者的反映和诉求。江必新表示,现在出现有些算法侵害消费者利益的问题,追根溯源往往会发现存在技术权力滥用和不正当行使问题。他建议相关机构一定要高度重视用户和消费者反映和诉求,从中发现问题并追根溯源,然后进行改善和改进。
第四,要聚焦算法非正义问题。算法歧视就是算法非正义问题的其中一种,江必新认为,即使解决了算法歧视问题,其他算法非正义问题也会不断出现。“我们要治本,就要建立算法正义规则,违反正义规则的都应当加以解决,不能放任。”
第五,要利用法治方式打破技术垄断。具体来说,一方面要尊重知识产权,包括赋予专利权等,另一方面要善于运用法治方式培植多种技术力量——“只有大家都知道、都懂得这些技术,才能有效地防止技术权力的滥用。”
第六,要充分发挥社会组织的作用。江必新认为,法治是治国理政的基本方式,但法治不是万能的,公权力机关的作用也是有限的,因此充分发挥社会组织的作用非常重要。他还提到,论坛上发布的三份报告对于数据治理,促进数字经济发展,防止数字权力、技术权力滥用等都是有帮助的,非常有价值。
第七,要形成体系化规则。“体系化建构是一个非常复杂长期的过程”,江必新表示,不要指望一下子建立无所不包的体系,仓卒制定出来也不一定有效,要充分发挥司法机制的作用,发挥司法判例的作用,逐步形成规则体系。
第八,要高度重视公共权力、资本与技术权力结合而产生的滥用问题。江必新强调,这三种权力混合在一起,如果不正当行使,“将是一种灾难”,规制起来更加困难,因此尤其要注意这三者结合之下的规制问题。
第九,要加强国际合作,进行全球治理。“科学技术问题是全人类的问题,而且当今世界科学技术竞争非常激烈,如果没有国际的基本合作,大家互相姑息、迁就、放任,为了争夺技术市场睁一只眼闭一只眼、以邻为壑,最终贻害的将是全人类。”江必新说。
采写:南都记者蒋琳