传媒教育网

 找回密码
 实名注册

QQ登录

只需一步,快速开始

搜索
传媒教育网首页 学术经纬 查看内容

学术经纬

智能算法推荐:工具理性与价值适切——从技术逻辑的人文反思到价值适切的优化之道

2019-2-1 23:06| 发布者: admin| 查看: 94| 评论: 0|原作者: 喻国明 耿晓梦|来自: 全球传媒学刊

【摘要】: 链接:https://mp.weixin.qq.com/s/xodhStTTrm4hZp4jAmiiOg

作  者
喻国明:教育部长江学者特聘教授、北京师范大学新闻传播学院执行院长、中国人民大学新闻与社会发展研究中心主任。
耿晓梦:中国人民大学新闻学院博士研究生。

摘  要
智能算法型内容分发是应对内容超载危机、实现内容市场供需适配的必然选择。本文从工具理性和价值适切双重角度对智能算法推荐进行了认识论上的阐释,作为面对新时代格局的资源配置新范式,智能算法推荐依循“海量内容—用户需求—多维场景”适配的基础逻辑。其与社会、人文价值的适配则需要针对不同的内容需求市场进行具体讨论,这些适配过程既需要硬性管制力量的介入,又需要充分发挥平台自律、用户自觉等软性力量。最后,根据智能技术发展的现实境况与可能前景,研究者提出了应对技术伦理风险的若干策略。

关键词:算法;智能推荐;内容需求市场;技术逻辑;技术伦理


随着计算设备运算能力的不断提升、深度学习系统的突飞猛进,人工智能技术取得了令人惊叹的发展,并开始进入人们的日常生活,改变着人们的决策方式、行为模式,进一步触及商业模式和社会秩序生成机制,给人类社会带来全方位的深刻变革,智能时代已经来临。

人工智能从某种意义上讲是一种能够学习、判断和决策的算法。算法(algorithm)可以定义为为解决特定问题或实现预先定义结果而采取的一系列步骤。就传播领域而言,智能时代一个最引人注目的发展就是,算法正被运用于信息生产、分发、反馈等环节,成为信息传播的底层支持。物联网传感等技术拓展了信息来源,机器人写作、图像视频智能加工等技术的应用令信息处理更加精准高效,基于语义分析、语音处理的“语聊机器人”让自动回应评论成为可能。相较而言,在目前的技术采纳实践中,信息分发是算法深度卷入的领域——基于智能算法之上的、进行“信息—用户”匹配的算法型分发被广泛采用。这一现象从客观上说是必然的,因为针对互联网语境下每日生成的数以亿计的内容(包括UGC, user generated content; PGC, professionally-generated content; OGC, occupationally-generated content)而言,如果仅仅依循传统的人为把关模式,显然无法处理其万分之一。因此,借助于智能化的算法分发,才有可能使信息处理能力与互联网时代所释放出的传播生产力相匹配。于是,算法型分发成为社会信息分发的主流形态。内容分发的社会性把控从来都是一种重要的政治权力,智能型算法分发在目前处于主流地位意味着一种巨大而深刻的权力转型。由此诞生出两个重要问题,算法的运作逻辑是如何生成的?它的技术逻辑如何与社会发展主流逻辑相适配?思考这两个问题对于我们理解和把握当下传播领域正在发生的深刻变革,以及确立未来发展中的着力点至关重要。
 
智能算法接管人工信息分发背后的工具理性
迄今为止,人类信息分发模式可大致概括为三类:倚重人工编辑的媒体型分发、依托社交链传播的关系型分发、基于智能算法对信息和人进行匹配的算法型分发(喻国明、韩婷, 2018)。随着技术的不断进步,智能算法分发不断“收编”人工编辑分发和社交关系分发,并成为信息分发的主要途径,这一变革实际上是一种必然。

在中国,自2012年今日头条开启算法分发的尝试之后,越来越多的平台加入算法潮流。早在2016年,根据第38次《中国互联网发展状况统计报告》和第三方监测机构易观发布的《中国移动资讯信息分发市场专题研究报告》,算法分发正逐渐成为线上新闻的主要分发方式,在国内资讯信息分发市场上,算法推送的内容已超过50%(方师师, 2018)。此外,算法分发的绝非仅是资讯信息,从淘宝、京东到携程,从网易云音乐到快手、抖音,各种信息聚合平台均在使用算法模型进行各式各样的智能推荐。

(一)智能算法分发的根本动因:应对“超载”危机,实现供需适配
过去60年来,人类社会的数据增长是爆炸式的。伴随互联网技术的进步,社会信息化仍在持续推进。个体和各类组织把海量信息上传至互联网平台,存储在互联网空间里。海量信息在互联网上留存和呈现,用传统方式根本无法对其进行有效的处理和价值适配,这种被称为“信息超载”的状况,本质上是传统信息处理范式的危机。

而另一方面,移动数据传输网络的升级、个人移动智能终端的普及、移动应用平台的发展推动着人类传播活动迈入移动互联时代,移动传播革命带来的根本性变革是信息传播的个人化。在大众传播时代,信息接受者的个人特性几乎是被忽略的,所有能够与标准化、规模化相匹配的内容,才真正具有“市场意义”,除此之外的内容类型是不加考虑,也是无法顾及的。而在移动互联网时代,随着移动信息终端作为高度个人化智能终端的普及,以及社交网络对人与人、人与内容、人与物的广泛连接,使得用户个体在人类的社会化信息传播过程中第一次以独立主体的身份出现,个性化需求被触发,形成巨大的基于长尾需求的利基市场。

于是,信息的社会性流动就形成了三个基本的内容市场:整体性内容需求市场(人们的共性需求)、群体性内容需求市场(人们的分众化需求)、个体性内容需求市场(人们的个性化需求)。传统的人工编辑在整体性内容需求市场上仍然扮演着重要的“压舱石”角色;依托社交链开展的关系型分发在个性内容需求市场上扮演着偶然性、场景性、低频度个性需求满足者的角色。而在囊括所有层次的全域信息适配层面,智能算法推荐俨然发挥着“主力军”作用。从整体层面来加以概括,这些变化是与海量信息供给和人们整体性、群体性和个体性信息需求增长相对应的一次巨大的市场“扩容”,智能算法型信息分发是通过算法模型将用户信息数据与内容信息数据进行全方位多层次匹配,从而实现内容高效聚合、精准分发的一种全新范式。

(二)智能算法分发的基础逻辑:“海量内容—用户需求—多维场景”的适配
尽管智能算法分发中应用了各式各样的模型或公式,但其原理是朴素的,大致包括:更好地了解待分发的内容(标签化处理),更好地了解待接收内容的用户(用户洞察),更高效地完成内容与人之间的对接(场景洞察)。

目前,比较主流的推荐算法包含协同过滤(collaborative filtering)推荐和基于内容(content-based)的推荐。前者是从集体智慧出发实现推荐,把用户的消费行为作为特征,进行用户相似性或物品相似性的计算,进而实现信息的匹配,“协同”可细分为三个子类:基于物品(item-based)的协同、基于用户(user-based)的协同和基于模型(model-based)的协同。后者则更强调对文本内容进行解析,通过不断的意义抽取和指标细化,为文本打上无数标签,用不同的标签集来对内容和用户进行标注,向用户推荐与历史内容项目相似的信息。在实际应用中,很难有一套通用的模型架构适用于所有的推荐场景,一个优秀的工业级推荐系统通常可以支持多种算法组合,包括对模型结构作出调整。

虽然不同平台采用的算法模型存有殊异,但主要是通过对热度、用户历史数据、用户社交关系、关联内容、时间、地理位置等多重维度进行拟合,最终实现个性化推送。以著名个性化推荐产品今日头条为例,2018年1月,今日头条面向行业公开其算法原理,其推荐系统实际上是一个需要输入不同维度变量的、拟合用户对内容满意度的函数。具体说来,第一个维度是内容,需要考虑对不同类型的内容进行特征提取;第二个维度是用户特征,包括职业、年龄、性别、各种兴趣标签等,还有很多模型刻画出的隐式用户兴趣等;第三个维度是场景特征,这是移动互联网时代推荐的显著特质,在工作、通勤、旅游等不同的场景,用户的信息偏好会有所差异。结合三方面的维度,模型会给出一个预估,即推测推荐内容在这一场景下对这一用户而言是否合适。

(三)智能算法分发的必然性:面对新格局的资源配置新范式
工具理性行为即目的合乎理性的行为,以目的、手段和结果作为行为的取向,它是目的至上的行为(韦伯, 2004)。智能算法型分发十分符合目的合理性,有利于解决传统信息处理范式的危机、实现新供需适配并满足消费“扩容”目的。

一方面,智能算法推荐有效提高了信息分发效率。在传统信息分发时代,主要依赖人工力量来选择内容,分发所需的平均时间与人力成本较高,分发效率较低。如今互联网平台上的信息已是海量,人工编辑难以胜任。相反地,智能算法可以高效地完成自动筛选、过滤,大大提升了信息分发效率;同时,算法使信息供需的快速匹配成为可能,大大降低了用户获取信息的时间成本。

另一方面,智能算法推荐优化了信息分发的配置效率。这可以从两个层面加以理解:首先,信息价值尤其是长尾信息的价值被激活。传统的信息分发模式大多无暇顾及长尾信息。智能算法推荐被引入后,信息价值得以重估,信息不再有统一的价值衡量标准,亦没有绝对的高低之分。每条信息都找到了其生命价值,并寻得其该到达的地方,也即让信息主动找到对它感兴趣的人。其次,用户的主动性得到开发,“千人千面”的分众化、个性化传播成为可能。在过去,无论是报纸版面还是门户首页,信息的筛选和排列主要考虑的是大众的整体性需求,而非用户的个体性兴趣。而智能算法型信息分发与推荐改变了“以传者为中心”的传播模式,转向以用户价值为中心,构建用户画像,并为用户提供需求适配、场景适配的信息服务。由此,人们有了更多的信息权利得以触达更多的、更为个性化的乃至量身定制的、自己所喜好的内容。

因此,智能算法的出现是互联网时代发展的一种必然结果。必须承认智能算法推荐的技术合理性,认识到算法接管信息分发的必然性,才能更好地理解算法型信息分发的价值,让智能算法推荐“以人为本”并为社会所用。



智能算法在不同维度内容市场上的角色期许与影响评估

技术的发展不是最终的目的,人的发展才是技术发展的本质(张志安、刘杰, 2017)。目前智能算法的工具理性仅能满足中微观环境下内容与人在特定场景中的适配,尚未充分开辟价值判别格局,真正满足整体环境的需求并达成与个体发展要求的适配。如此一来,就容易导致以下局面:其一,算法从个体和局部的角度上看是合理的、有效率的,但从社会全局视角来看则可能是不合理的,甚至是负效率的;其二,算法从现状上看是合理的和适配的,但从未来发展的角度上看是不合理的、不适配的。这种忽略宏观格局和人的社会性存在的发展路径容易导致以“算法即权力”(喻国明等, 2018)为代表的技术霸权和社会政治权力、人本精神之间的冲突。这也是当下围绕算法分发(推荐)产生社会争议的根本症结所在。

笔者认为,人们在整体性、群体性、个体性三个层面上的信息需求形成了三个不同维度的内容市场,智能算法“权力”在不同维度内容市场上产生的效果有着较大差异,因此在追求智能算法技术逻辑与社会、人文逻辑的适配上,需要进行分层讨论。

(一)整体性内容需求市场上的价值适切实现路径:人本规则指导下的人机协作
整体性内容需求市场由人们的共性需求组成,具体体现为主流意识形态导向、社会人文关怀以及表达社会共同利益和基本共识的“最大公约数”等。在大众传播时代,媒体大多深耕于整体性内容需求市场,积累了一套丰富的实践经验。典型的案例是创刊于1922年的《读者文摘》(Reader’s Digest),它曾以19种文字出版,有48种版本,发行至全球163个国家和地区,读者数量超过1亿,《读者文摘》在世界范围内的成功离不开其对人类整体性内容需求的精准定位和基于深层价值关怀的办刊理念。

智能时代,借助算法的力量,对内容进行高效标注成为可能,但算法在对人的深层社会心理把握上仍存在明显欠缺。这突出表现为以降维为主要思考逻辑的算法将人简单地“数据化”:智能算法把用户进行分类整理后进行信息分发,在分类整理的过程中,用户丰富多元的主体性逐渐被简单明了的数据替代。但是,人不是简约数据的集合体,也不是电子痕迹(哪怕数据标注极为丰富)的汇总。算法模型正在使大规模数据得到处理和整合,保证自动化区分、评判、排序、决策的实现,这些数据加工过程反过来令“真实自我”变得无关紧要,人们进入所谓的“微粒社会”。人与数据等价,数据也在逐步蚕食人类的主体性,人被自己创造的数据所统治,并最终成为被算法所定义的人。在共性内容需求预测上,单纯的热度数据并不能准确地反映出内容的真正价值。

因此,在整体性内容需求市场上,目前基于“弱智能”的智能算法在相当程度上还不能完全取代人工编辑,传统的人工编辑仍在扮演着“压舱石”“航向标”式的角色,智能算法主要用来提供工具性辅助。人工智能技术将人类智能和机器智能相结合,致使人机关系更加紧密。即使算法分发占据半壁江山,处于信息传播核心地位的仍然是人。在应对人们的社会整体性需求时,算法信息分发平台应当坚持人机结合,重视人工编辑的核心地位,包括Facebook、今日头条在内的一些平台近期均大幅增添审核人员,尝试以“人工+算法”的模式对优质内容和重要信息予以加权推荐,对不良内容和虚假信息进行拦截。人机交互是算法信息分发中强化人的主体性、能动性的重要手段,通过人机协作,方可让算法推荐更好地体现人的主导性和价值观。

(二)应对群体性内容需求市场上的负外部性:平台自律与用户自觉
人们的分众化需求构成了群体性内容需求市场。个体人总是归属于正式或非正式群体之中,形成带有群体特征的信息需求,比如源自行业垂直领域或特定地域的信息需求。依托社交链传播的关系型分发虽然可以通过朋友、关注者的转发、评论内容进行信息筛选,但随着人们社交关系网络规模的扩大,无效信息越来越多,信息冗余越发严重,而算法能够对社交分发进行二次过滤,优化推荐结果,发挥着分众化信息需求筛选“开关”的作用。越来越多的关系型社交分发开始融合智能算法推荐,“社交+算法”逐渐成为群体性内容需求市场中的实践利器。

然而,作为筛选“开关”的智能算法虽然对社交分发的冗余信息进行了过滤以实现更为精准的分众化需求匹配,却也带来了一些“负的外部性”。一方面,个体被人为地划定所属界域,人的身份被预设。算法推荐平台出于竞争压力,为开发非共性的“利基市场”、分众化的“长尾市场”,需要全部的用户行为数据和关系数据用于用户定位(targeting)。以大数据技术为支撑的用户数字身份档案一旦趋于完备,人工智能就可以了解人的社会地位、消费能力、政治立场等,这将带来严重的社会不公问题。因此,依据数字档案进行智能推送无疑是对每一个体划定了人为边界。平台方的逻辑里没有利他主义亦没有信息公平,一旦人们被判定为属于某个群体,那么人们获得的资讯、看到的广告、购买的商品等方方面面都只会符合相应算法为人所预设的身份(仇筠茜、陈昌凤, 2018)。另一方面,算法的二次过滤会加剧信息的窄化,可能存在个体思想固化的风险。借助算法,人们有极大概率仅关注自己感兴趣的群体性内容,进而将自己封闭在“信息茧房”(information cocoon)中,在自我肯定、自我重复、自我强化的循环过程内接收自己认同的观点,产生信息的回声室效应。

在群体性内容需求市场上,这些中观层次的“负的外部性”影响范畴可大可小,在一定程度上可以通过算法分发平台主体的自律和用户的自觉来进行有效应对,而无须强制性行政力量的介入。从产品产出的角度来看,运用智能算法的平台只是一个技术公司,然而智能算法将内容进行聚合、匹配、推送,将公共信息与个人需求建立连接,从这个层面来讲,技术公司已被赋予媒体公司的道德义务和社会责任(郭小平, 2018)。因此,采用算法型信息分发技术的平台主体应当主动对自己的行为承担责任,理性而审慎地行动。另外,算法素养是公众所具备的认识、评判、运用算法的态度、能力与规范(张超, 2018)。如果算法信息分发平台的用户不具备算法素养,那么其信息消费或决策行为更可能是盲从的、被动的,甚至被误导。社会公众应学习了解算法的基本常识,更清楚地认识到算法推荐的负外部性。

(三)个体性内容需求市场的纠偏利器:“法律红线”与人为引导
个体性内容需求市场由人们的个性化需求构成。算法通过各种标签集合和模型刻画出用户画像,洞察人们的个性化需求,即使面对新用户初来乍到、缺少足够行为数据的“冷启动”场景,智能算法也可以利用注册信息、从其他网站导入用户站外行为数据等方式来展开数据挖掘,选择合适的信息以启动用户兴趣。在个体性内容需求市场上,智能算法的存在不可或缺,没有其他手段可以与智能算法对个性化需求的满足相媲美。

但是算法在满足用户个性化需求的过程中也可能夹杂着低级的、负面的信息。为争夺用户注意力资源,算法推荐以“投其所好”的原则来迎合用户,这一原则同样是流量争夺的利器。换言之,获得点击量成为核心价值取向。进一步地,算法信息分发依据个人兴趣偏好以及持有相似偏好用户的信息接触行为来为用户提供个性化信息,用户群体最普遍的兴趣点将在算法分发过程中得以凸显。事实上,普遍兴趣点中充斥着一定的低级趣味,算法推荐依此推送的信息将不可避免地隐含着负面的价值取向(黄楚新, 2018)。

其实,在个体性内容需求市场上,“投其所好”式的信息分发逻辑本身并无过错,纠偏重点应根植于法律规章之上,也即剔除那些违反法律法规、背离公序良俗的信息,严守内容底线。对于在“红线”之上的内容及具体的内容呈现形式,无须法律规章的介入,因为这些内容及相应的呈现手法是人们自由选择的结果,无论是崇高的主题、严肃的表达,抑或是“小清新式”的私人叙事,甚至是庸俗的八卦,都应根据用户自身的信息偏好来进行取舍。概言之,应该在强调法律红线基础上尽量保持个体性内容需求市场的活力,让合格的信息充分流动。当然,遵循“以文化人”的理念,在内容及表现形态方面引导人们向真、向善、向美也是极为重要和不可或缺的。

(四)分而治之:智能算法在各内容市场中的不同价值适切与规管之道
基本内容市场由不同维度的信息需求市场构成,各维度内容市场的基本特征和影响范围截然不同。整体性内容需求市场强调共性需求,总是成规模的,影响范围也是最广泛的;群体性内容需求市场旨在寻找共性中的异质性、异质性中的共性,因此这一需求市场的规模有大有小,影响范围居于中间层次;个体化需求是真正的因人而异,异质性需求往往是较为细微与琐碎的,影响范围主要集中在个体之上。

整体来看,智能算法在全域信息分发上担当着主力军角色,但在不同层次的内容市场中,算法的角色和作用不尽相同。在整体性内容需求市场上,算法作为工具手段在预测共性需求上仍有所欠缺;在群体性内容需求市场上,算法对基于关系分发的信息进行再次把关;在个体性内容需求市场上,算法分发是满足个性化需求的必要手段。

因此,需要将内容市场的影响力范畴与算法的角色进行统筹考虑,分层讨论算法在各内容市场上的主要风险,寻找价值适切的优化之道。在较为宏观的整体性内容需求市场中,智能算法面临的困境是技术本身的局限,这需要人机协作来把握和引导共性信息需求,让算法推荐更好地体现人的主导性。在群体性内容需求市场上,身份预设与认知固化的负外部性影响可大可小、可强可弱,对影响进行过分夸大或忽视都是不可取的,将纠偏的权力交给平台自律和用户自觉是更加可行的选择。在个体性内容需求市场上,重视用户的个性需求无可指摘,关键在于划定“有所不为”的信息红线,对余下的细枝末节,法律法规并不需要过多介入,这是保证信息在个体层面进行活力流动的可行之策。

总之,智能算法在不同层次的信息需求满足上发挥着不同作用,算法的风险与规制需要在具体的价值期待下进行具体分析。硬性的法律法规并非万全之策,在对智能算法的技术逻辑与社会主流逻辑进行调适时,需要“软硬兼施”,既要凭借硬性介入来明确信息红线,又要借助人工智慧、平台自律、用户自觉等软性力量,给予智能算法充足的适配空间,保证算法信息分发的技术活力与价值张力。



趋势把握:算法型信息分发的技术现实与伦理考量
对技术伦理的准确把握建立在正确认知技术发展现实的基础上。在探讨算法信息分发的价值与伦理调适问题之前,首先需要厘清智能化媒体的技术现状。同时,还需要对技术发展的未来前景做适度展望,预测伦理风险并思考可能的解决路径,以做趋势性把握。

(一)弱人工智能技术现实下算法推荐的价值调适:以人为中心的具象规范
计算机领域的学者们普遍认为人工智能技术是计算机科学的一派分支,是研究模拟、延伸和拓展人的智能的理论、方法、技术及应用系统的新技术科学(党家玉, 2017)。就人工智能的技术层次而言,可以分为两层:一是狭义人工智能(artificial narrow intelligence, ANI),又称弱人工智能,主要是指执行人类为其设定任务的人工智能,它模拟人类智能解决各种问题,是不具备自由意志与道德意识的非自主性智能体,当前出现的人工智能技术及纳入实践环节的人工智能产品主要归属于弱人工智能,如自然语言理解、机器视觉、专家系统、虹膜识别、自动驾驶等;二是通用人工智能(artificial general intelligence, AGI),又称强人工智能,是指可模拟人脑思维和具备人类所有认知功能的人工智能,它本身拥有思维和自主意识,并且可以确证其主体资格,是有自我意识、自主学习、自主决策能力的自主性智能体。这里的“强”主要指的是超越工具型智能而趋近第一人称主体,目前强人工智能基本停留在设想阶段。

数据驱动的算法信息分发仍是一种工具能力,是有限自主的智能体,属于弱人工智能。原因在于:一方面,智能推荐仍无法超越算法,目前算法信息分发本质上遵从的是分类、归纳、试错等经验与反馈方法,方法论上并无根本突破,其高度依赖已有经验和人对数据的标注,主要适用于新认知对象及新环境与过去经验高度相似或接近的情况,理解和预测的有效性取决于经验的相对稳定性,应对条件变化的抗干扰能力较为有限;另一方面,智能推荐能应对的变量水平有限,算法信息分发尚不具备通用型智能,缺乏人的思辨能力、创造能力和情感表达能力。

因此,基于智能算法推荐仍为弱智能的技术现实,算法信息分发的价值调适是以人为中心的,也就是对与智能算法推荐相关的人类主体进行规范性约束,这些规范性约束往往指向具象的内容处理标准,是较为细致具体的。

(二)强人工智能前景中算法推荐的伦理展望:以机器为中心的规制策略
人工智能技术的创新进程仍在持续,能纳入信息分发领域的技术也将不断升级,算法型信息分发的伦理追问处于进行时态。如果对可能出现的强智能化算法推荐作出适度伦理预测,可以认为强智能化算法推荐系统不仅会给信息传播领域带来更深刻的变革,还将拥有与人类对等的人格结构。届时,作为具有自主意识的特殊技术,强智能化算法推荐可能会带来新的伦理危机包括:会不会加剧“人工愚蠢”,导致低智能人类的出现?会不会与人类形成对抗?等等。

解决这些问题的可行途径在于构建以智能体为中心的机器伦理,也即打造有道德的智能化媒体。机器伦理的倡导者已描绘了多种可能,具体包括两类:一是自上而下的伦理建构,将道德规范转化为逻辑演算规则,使智能体能够从一般的伦理原则出发对具体的行为作出伦理判断;二是自下而上的伦理建构,通过机器学习技术和复杂适应系统的自组织发展与演化,使智能体能够从具体的伦理情境出发生成普遍的伦理原则,在道德冲突中塑立道德感知、培养伦理抉择能力。

不论是自上而下还是自下而上的伦理构建,其核心都是对智能系统进行“驯化”,即在智能系统中嵌入符合人类价值的基模,构筑智能系统的底层规则。在未来,人类有可能通过基模嵌入等方式,让强智能推荐系统在进行信息分发时达到公平、准确、透明、可解释、可审计等标准。

可以看出,从弱人工智能到强人工智能,智能算法伦理规制中的人机关系也发生了转向:有限智能情境下,算法信息分发只在某些方面具备高于自然人的能力,具体的伦理风险应对措施仍需由人给出。而面对强人工智能情境,人更多给出的是原则层面、规则层面的边界限定,保证智能算法不侵害人类主体的利益。

封面及内文插图来自网络
本文参考文献从略,完整版请参看刊物原文

原文刊载于《全球传媒学刊》2018年第4期。


编辑:陈心茹

鲜花

握手

雷人

路过

鸡蛋
分享到:

最新评论

掌上论坛|小黑屋|传媒教育网 ( 蜀ICP备13012090号

Copyright 2013 小马版权所有 All Rights Reserved.

Powered by Discuz! X3.2

© 2016-2022 Comsenz Inc.