新闻战线
《新闻战线》概况
日 报周 报杂 志 人民网

算法推荐的风险防范和导向管理

——发挥算法推荐对网络舆论的正向价值

邓 杭 《 新闻战线 》(

    算法推荐为网络舆论引导提供了新路径、新手段,并使之更为直接、便捷、高效。应从坚持主流价值导向、压实平台主体责任、加强顶层设计和监管、提升用户网络素养等方面着手加强综合治理,发挥其对网络舆论的正向价值,积极营造健康有序、风清气朗的网络舆论生态。

    算法推荐     网络舆论     综合治理

    随着移动互联时代的到来和大数据运用的普及,以精准推送和有效供给为特征的算法推荐,成为当前网络传播领域内容分发的重要形式。算法推荐是通过追踪用户的网络行为,运用一些数学算法计算出个人特征、环境特征等相关信息,并推测出用户可能喜欢的内容。①网络是信息汇聚、民意沟通的重要平台,网络舆论直接反映着公众在网络空间中对社会议题的观点或看法。②算法推荐在带来技术红利的同时,也对网络舆论的生成、发展及引导产生深刻影响。

    算法推荐对网络舆论的价值

    算法推荐的类型包括基于内容的、协同过滤的、关联规则的、模型的以及混合算法等。从信息传播的理论和实践来看,算法推荐的基础价值在于海量信息的甄选,核心价值在于内容的精准分发,关键价值在于观点的洞悉反馈,终极价值在于意识形态的强化和引导。这个依托互联网实现价值传递和价值创造的动态过程,次第推进,循环往复,形成信息甄选、分发、反馈、修正的闭环。

    精准画像,知晓行为。画像是算法推荐技术架构的重要环节,即计算机根据文章的兴趣标签、质量标签等以及用户的阅读习惯、浏览记录等,抽象出标签化的文章模型和用户模型,并经过排序、分类、关联和过滤,自动筛选出有效信息。画像可分为文章画像和用户画像、长期画像和短期画像等。相比报纸、广播、电视等传统媒体偏向关注受众的群体属性,算法推荐则擅长分析个体特征,为用户贴上高度精练的标签并据此知晓其行为模式。

    精准分发,个性传播。在分发环节,算法推荐要实现年龄、职业、兴趣等用户特征,时间、地理位置、天气情况等环境特征,类别、关键词、热度等文章特征的对接和匹配,将筛选过的信息精准推送至用户。区别于以“事件”为出发点的传统信息传播方式,算法推荐建立用户导向的“用户+事件”模式,实质上以用户关心的事件为核心,赋予用户信息定制功能。这不仅节约时间成本、提高获取效率,更满足个性化需求,使得“千人千面”的信息传递模式成为现实。

    精准反馈,洞悉观点。当用户接收到个性化的推荐内容后,算法根据用户点击次数、停留时长以及举报、屏蔽、转发、评论等阅后反馈,勾勒出用户媒介消费行为的图谱,对用户进行更为系统、全面的参数分析。这样不仅能掌握用户对社会问题的观点或看法,还能研判出用户的知识结构、经济状况、生活方式等深层次信息。一旦用户兴趣、品位、收入水平、教育程度等发生改变,此类动向信息也能通过反馈数据及时掌握。这个过程也是人工智能领域的机器学习,即算法推荐模型获取新的信息后,重组已有知识架构以优化自身性能。

    精准修正,重塑倾向。算法推荐影响网络舆论的重要步骤如下:在算法推荐营造的“拟态环境”里,用户持续收到不同以往观点的修正信息,进而不断反省自身,再通过思想交锋和观点博弈,逐步改变倾向、调整立场。无论共识是否达成,公众都在潜移默化的过程中参与了议题讨论、重塑了社会认知。因此,算法推荐为网络舆论引导提供了新路径、新手段,并使之更为直接、便捷、高效。

    算法推荐对网络舆论引导的冲击与风险

    算法推荐盛行之下,新闻的生产方式、传播介质、运转模式以及用户信息行为模式都发生转变,由此带来对网络舆论场的冲击,导致网络舆论生态面临挑战。

    “把关人”离场,主流价值导向成色不足。区别于专业编辑担任“把关人”角色并推送信息的传统模式,算法推送偏重数据抓取技术和内容审查后置,弱化了对基本价值的守望和主流价值的引导,导致传递不同价值观的内容被机器分发给用户,使得用户陷入价值迷失困局。③一些网络平台难以遵循“价值观”先行,却唯流量马首是瞻,利用人性弱点,追求利益最大化,导致虚假新闻、“性、腥、星”类内容、“标题党”等问题层出不穷,经常出现导向偏差。

    “回音室”现象严重,凝聚共识难度较大。算法推荐容易造成选择性的接触、过滤与相信,由此带来信息窄化、“信息茧房”、“回音室”现象等不良后果,使个人陷入信息孤岛。用户在自我重复和自我肯定中视野受困、固步自封,圈层固化、群体极化现象随之增多。算法推荐诱导用户关上涉猎不同领域和倾听不同声音的大门,背离了网络舆论的公共性、广泛性特征,从而使得刻板印象强化、偏见滋生、社会黏性缺失、价值认同难度加大。

    “沉默的螺旋”效应显现,网络舆论场失真。算法推荐可以直接影响信息呈现、搜索排序、新闻热度和传播效果,导致这些网络平台成为相对独立的舆论“策源地”和“发酵池”,舆论操作的可能性和危险度加大。根据诺依曼“沉默的螺旋”理论,一旦用户认为某种价值取向受到广泛欢迎,那么与之相符的声音就会高涨,与之相反的声音则会陷入沉默。④李普曼也说:“虚拟环境是‘人性’和‘环境’的杂交物。”⑤算法推荐容易使用户造成“很多人都有这种价值取向”的印象,正面价值意见的沉默造成负面价值意见的增长,由此陷入恶性循环,导致网络舆论场失真。⑥

    加强算法推荐的综合治理

    德国著名社会学家马克思·韦伯将理性分为价值理性和工具理性。价值理性强调行为不计后果地遵从某些价值理念,工具理性重视达到目的所采取手段的有效性以实现效用最大化。⑦要协调好算法推荐的价值理性和工具理性,达到两者的相对平衡,需要多措并举、综合施策,才能营造健康有序、天朗气清的网络舆论生态。

    坚持主流价值导向。要坚持党管新媒体,把导向要求落实到平台管理、队伍建设、内容生产等各个环节。用正确的价值观指导算法推荐,所有的算法规则、技术架构都要符合社会伦理和法律法规。鼓励优质内容生产和传播,加强算法对于社会主义核心价值观等内容的推送,放大正能量作品的影响力、感染力,培育积极健康、向上向善的网络文化。

    压实平台主体责任。智能平台应当肩负起信息把关、价值引领的主体责任,守住底线,把住红线,决不能传播有害信息、造谣生事。加强总编辑责任制度,优化绩效考核指标,不能仅以点击量、广告收入为标尺,放任低俗内容侵蚀受众。研发升级算法识别体系,强化算法技术对于新闻源头的筛选过程,规范稿源和内容生成方式,提高优质内容推荐权重。改进安全风险评估和审核规则,加大人工审核的投入力度,实现“人机结合”的优势互补。

    加强顶层设计和监管治理。政府部门要加快人工智能领域的立法体系建设,研究出台算法推荐的相关管理办法,划定技术伦理、权限边界和行为规范。密切关注算法推荐的技术创新和延伸发展,特别是其在政治、经济等领域的运用和影响。履行好监管责任,对于未能尽到主体责任的平台及时问责、督促整改。发动社会力量参与监督,优化举报处置流程,完善举报核实奖励机制。

    提升用户网络素养。用户要树立正确的网络媒介使用观念,培养消费优质内容的习惯,使得媒介为我所用而非沉溺其中。⑧发挥主观能动性,增强对信息的辨识、分析能力,提升对信息价值的判断、解读能力,避免沦为技术的客体和附庸。丰富自身知识结构,培养多元开放思维,突破“信息茧房”的壁垒,提高理性认知水平。

    运用算法推荐服务于网络舆论引导

    党的十九大报告提出,“高度重视传播手段建设和创新,提高新闻舆论传播力、引导力、影响力、公信力。”这对新时代的网络舆论引导提出了新要求。短期内,算法推荐对网络舆论生态的确会带来冲击,但长远来看,它作为新媒体的“基础工具”,对网络舆论引导具有较强的应用性和实效性。

    用算法推荐革新网络舆论引导理念。传统媒体语境下的舆论引导,偏向于灌输式、粗放式的单向传播,不太重视满足受众的信息需求、接收习惯和内心满足。随着互联网的发展和算法推荐的运用,舆论引导要顺应分众化差异化趋势,精准目标定位,注重用户体验。要充分运用大数据、云计算等新技术,科学分析、有效洞察受众需求,推送更多个性化、专业化的信息,让信息持续“入眼”并“入脑入心”。

    用算法推荐探索网络舆论引导新范式。积极主动借助算法规则和传播优势,提升优质作品的到达率、阅读率、点赞率,拦截过滤低俗、媚俗、负面内容。在内容生产方面,可将用户阅读互动产生的数据反哺内容创作者;在正能量推送方面,可通过划分正能量池等手段来保证首屏生态良好;在稿源审核方面,可将重大新闻通过置顶或要闻强插等方式优先展示给用户;在生态调控方面,可运用风险评估模型来打击“标题党”等网络乱象。

    用算法推荐提升网络舆论引导实效。借鉴算法推荐契合公众自我意识觉醒的需要,通过精心的议题设置与受众产生共鸣,在尊重公众独立思考和理性意志基础上促进共识达成。利用算法推荐数据采集、信息追踪功能,搜集网络舆情并科学分析研判,了解民情、听取民意、集中民智。在具体的网络舆论引导中,鼓励负责任的观点表达和理性的交流互动,运用多元、有效的公共话语,以事实来说服人、以理性来引导人。

    (作者单位:中央网信办网络评论工作局)

    责任编辑:武艳珍

    注释:

    ①陈昌凤、石泽:《技术与价值的理性交往:人工智能时代信息传播——算法推荐中工具理性与价值理性的思考》,《新闻战线》2017年9月(上)。

    ②张志安、晏齐宏:《网络舆论的概念认知、分析层次与引导策略》,《新闻与传播研究》2016年第5期。

    ③张潇潇:《算法新闻个性化推荐的理念、意义及伦理风险》,《传媒》2017年第11期。

    ④⑥郝雨、李林霞:《算法推送:信息私人定制的“个性化”圈套》,《新闻记者》2017年第2期。

    ⑤沃尔特·李普曼:《公众舆论》,上海世纪出版集团2006年版,第18页。

    ⑦胡万鹏:《智能算法推荐的伦理风险及防范策略》,《青年记者》2018年第6期。        

    ⑧匡文波、陈小龙:《新闻推荐算法:问题及优化策略》,《新闻与写作》2018年第4期。

算法推荐的风险防范和导向管理
党报视频化的探索与思考
加快视频业务发展 推动报纸融合转型
短视频行业发展新趋势研究与反思