证监会科技监管局局长姚前：加强算法监管 以监管科技应对新型科技

    本报记者 张歆 吴晓璐

    9月3日，在由北京市地方金融监督管理局和北京市朝阳区人民政府联合主办的2021中国国际金融科技论坛上，证监会科技监管局局长姚前表示，近年来随着云计算、大数据、人工智能、区块链等创新技术的发展和应用，数据作为生产要素的价值日益体现，算法在经济活动中的重要性日趋凸显。

    “算法经济大幅改善了市场经济的匹配效率和交易成本，但是，其背后隐藏的风险和作恶的可能也值得关注。”姚前表示，首先是算法的滥用。算法规则的背后是商业利益，为了追求利益最大化，算法有可能违背社会公平、道德和人心。其次是算法偏见。算法的数据可能不一定全面，片面的数据得到的结果必然导致某种偏见。此外，算法鸿沟也值得重视，算法通常是隐秘的，或是专利或是商业秘密，即便公开也因技术门槛不是每个人都能看懂，这就形成新的数字鸿沟，不懂算法的人群在利益受损时有可能并不知情，即便知情也可能无力举证和对抗。

    “在特定领域，算法还可能引致特定的危险，如智能算法形成的信息减防容易掩盖金融风险的复杂性，引入过度消费和负债，甚至误导投资者。智能算法趋同导致羊群效应，加大了金融的顺周期风险。”姚前如是说。

    姚前表示，最近，网信办就《互联网信息服务算法推荐管理规定》公开征求意见，征求意见稿指出算法推荐服务提供者应当落实算法安全主体责任，建立健全相应的管理制度，制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。应当坚持主流的价值导向，同时算法推荐服务提供者不得利用算法实施自我优待不正当竞争，影响网络舆论或者规避监管。

    姚前认为，智能算法已在很多行业大量采用，考虑到其生态规模趋大、潜在风险不容忽视，我国算法监管制度正在逐步完善和健全，具体内容还有待完善。算法监管具体内容至少包括：一是信息披露，即作为算法的设计者，相关主体和利益相关者应该披露算法设计执行使用过程中可能存在的偏见和漏洞、数据来源以及可能对个人和社会造成的潜在危害。二是解释，即作为采用算法自动化的机构，相关主体和利益相关者有义务解释算法运行原理和算法具体决策结果。三是留痕与可审计，算法系统的设计测试运行表现及变动留有记录，全程监测并可审计。四是质询与申诉，确保受到算法决策负面影响的个人或组织享有对算法进行质询并申诉的权利。五是内部治理，相关主体应建立清晰有效的内部治理框架、内部控制机制和责任体系，防止算法滥用，防范算法风险并提高算法的对抗性，避免算法攻击。六是加强行业自律，通过行业自律机制加强算法道德和算法伦理的建设。

    “算法催生了新的经济模式，带来了社会整体效益的提升，有其独特的优势，但有利必有弊，近年来算法的作恶、算法道德、算法伦理问题已引起了广泛关注。”姚前表示，为此，加强算法监管、以监管科技应对新型科技，既是顺应之策又是必然之举。

（编辑 田冬）