《网络空间安全概论》课件6-4网络信息内容生态治理_第1页
《网络空间安全概论》课件6-4网络信息内容生态治理_第2页
《网络空间安全概论》课件6-4网络信息内容生态治理_第3页
《网络空间安全概论》课件6-4网络信息内容生态治理_第4页
《网络空间安全概论》课件6-4网络信息内容生态治理_第5页
已阅读5页,还剩43页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

目录1网络信息内容生态治理规定12网络信息内容审核3网络信息内容过滤4网络信息内容推荐5网络舆情处置Jasmine.More1.网络信息内容生态治理规定2网络信息内容生态治理规定■2020年3月1日起施行《网络信息内容生态治理规定》■网络信息内容生态治理的主管机关是国家网信部门和地方网信部门。■明确了网络信息内容生者、网络信息内容服务平台、网络信息内容服务使用者的法律责任■网络信息内容生态治理需要政府、企业、社会、网民等多方主体参与3禁止触碰的十条红线(第六条)4一是反对宪法所确定的基本原则的;二是危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的;三是损害国家荣誉和利益的;四是歪曲、丑化、亵渎、否定英雄烈士事迹和精神,以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉的;五是宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动的;六是煽动民族仇恨、民族歧视,破坏民族团结的;七是破坏国家宗教政策,宣扬邪教和封建迷信的;八是散布谣言,扰乱经济秩序和社会秩序的;九是散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的;十是侮辱或者诽谤他人,侵害他人名誉、隐私和其他合法权益的。禁止触碰的十条红线(第六条)5网络信息内容生产者违反本规定第六条规定的,网络信息内容服务平台应当依法依约采取警示整改、限制功能、暂停更新、关闭账号等处置措施,及时消除违法信息内容,保存记录并向有关主管部门报告。应当防范和抵制八类不良信息(第七条)6一是使用夸张标题,内容与标题严重不符的二是炒作绯闻、丑闻、劣迹等的三是不当评述自然灾害、重大事故等灾难的四是带有性暗示、性挑逗等易使人产生性联想的五是展现血腥、惊悚、残忍等致人身心不适的六是煽动人群歧视、地域歧视等的七是宣扬低俗、庸俗、媚俗内容的八是可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等的不得实施以下禁止性规定7不得利用网络和相关信息技术实施侮辱、诽谤、威胁、散布谣言以及侵犯他人隐私等违法行为,损害他人合法权。不得通过发布、删除信息以及其他干预信息呈现的手段侵害他人合法权益或者谋取非法利益不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动不得通过人工方式或者技术手段实施流量造假、流量劫持以及虚假注册账号、非法交易账号、操纵用户账号等行为,破坏网络生态秩序不得利用党旗、党徽、国旗、国徽、国歌等代表党和国家形象的标识及内容,或者借国家重大活动、重大纪念日和国家机关及其工作人员名义等,违法违规开展网络商业营销活动。四川凉山整治“卖惨带货、悲情营销”8二舅视频被打假9回村三天,二舅治好了我的精神内耗不当言论,后果严重10厦大女研究生田佳良辱华被退学北工大拟录取女研究生网络发不当言论被取消录取不当言论,后果严重11吴某雄发布地域性侮辱性信息被处以行政拘留15日罚款1000元福建某师范学院学生发表不当言论被封号杜绝网络暴力12Jasmine.More2.网络信息内容审核13可细分为文本信息、图像信息、音频信息与视频信息音频信息与视频信息审核对象14文本信息、图像信息审核观测点15内容安全检测涉黄、涉政、涉恐、恶意推广、抄袭等内容,降低业务违规风险。内容推荐一是不得推荐不良信息、违法信息,二是要坚持主流价值导向,推荐鼓励传播的信息内容。内容质量识别内容文不对题,图文不符;视频文件画面质量问题,包括抖动重影、模糊、低光照、过曝光、马赛克、二次录制等,评判画面质量与画面美感;识别音频卡顿、静音、无音轨等等。内容审核流程16机器审核:机器审核主要是基于关键词过滤人工审核用户投诉审核结果复审内容审核技术主要包括OCR光学字符识别)、人脸识别、语音识别、图片识别、视频识别等。Jasmine.More3.网络信息内容过滤17随着互联网内容的极大丰富,信息海量化正在导致信息垃圾化。网络信息内容过滤概述---背景18网络信息内容过滤具有重要的现实意义和巨大的应用价值网络信息内容过滤概述---意义维护我国信息安全的迫切需要,净化网络空间个性化服务的基础改善Internet信息查询技术的需要信息中介(信息服务供应商)开展网络增值服务的手段19定义:根据用户的信息需求(UserProfile),运用一定的标准和工具,从大量的动态网络信息流中选取相关的信息或剔除不相关信息的过程。网络信息内容过滤概述---定义20网络信息内容过滤技术的分类基于内容的过滤协作过滤上游过滤下游过滤专门过滤软件网络应用程序其他过滤工具根据过滤方法分类根据操作的主动性分类根据过滤位置分类根据过滤的不同应用分类主动过滤被动过滤211987年,Malone及其同事把信息过滤方法分为3类:基于内容的过滤(Content-basedfiltering),也叫认知过滤(Cognitivefiltering)协作过滤(Collaborativefiltering),社会过滤(socialfiltering)经济过滤(Economicfiltering)。目前使用较多的就是基于内容的过滤和基于协作的过滤。根据过滤系统的结构分类22基于内容的过滤这种方法按照信息内容的特征作出选择。内容过滤监测现有信息的内容特征,为用户提供与其曾经感兴趣信息相似的信息,但不能为用户发现新的兴趣信息。这种方法比较适合于分析文本信息。基于协作的过滤这种方法是“相似”用户间的相互协作过程。由于不依赖于内容,这种过滤方法不仅适用于文本信息,也可以推广到非文本形式的信息。局限是活动用户只能获取具有相同兴趣的用户喜欢的信息,而不能获取不同兴趣的用户喜欢的信息。经济过滤这种方法依赖于成本和用户获益的计算,依赖于价格机制。23根据操作的主动性分类主动过滤系统主动从Web上为其用户推送相关的信息。在有些主动信息过滤系统中,预先对网络信息进行处理,例如对网页或者网站预先分级、建立允许或禁止访问的地址列表等,在过滤时可以根据分级标记或地址列表决定能否访问。被动过滤系统不对网络信息进行预处理,当用户访问时才对地址、文本或图像等信息进行分析以决定是否过滤及如何过滤。24根据信息过滤的目的分类推荐系统根据用户对信息的评价把信息推荐给合适的接收者,属于协作过滤系统的一部分。阻挡系统通过设置一定的条件限制用户获取某些信息,而其他信息可以利用。25根据过滤模板所在的位置分类上游过滤又叫代理服务器过滤。用户需求模板存放在服务器端或者代理端。过滤系统也可能处在信息提供者与用户之间专门的中间服务器上,这种情况也叫做中间服务器过滤。上游过滤的优点是不仅支持基于内容的过滤,也支持协作过滤,缺点是模板不能用于不同的网络应用中。下游过滤又叫客户端过滤,用户需求模板存放在客户端上,根据自身需要设置一定的限定条件,将不感兴趣的信息排除在外。优点是模板可用于不同的网络应用,缺点是只能实现基于内容的过。信息源过滤又叫剪辑服务,用户将需求模板提交给一个信息提供者,由信息提供者为用户过滤信息26按照从用户获取信息的方法分类显式过滤用户直接填表、用关键词或文档集表达用户过滤需求会增加用户的负担,加重用户使用系统的困难隐含式过滤无需用户直接参与,通过观察用户的动作行为判断用户需求用户在指定页面的停留时间、用户访问页面的频率、是否选择保存数据、是否打印、是否转发数据等对信息项的反应都能作为用户兴趣的标志。容易受到干扰的影响,通常用作显式方法的补充。混合式过滤介于显式方法和隐含式方法之间,它要求尽量减少用户的参与。通过文档空间来获取知识(基于案例的方法)通过原型参考来获取知识(推理,预先定义默认的profile,在扫描过程中再改变)27内容阻塞目的对不良信息从源头进行控制,阻塞这些信息的传入通道两种方式网络层阻塞应用层阻塞部署位置互联网骨干节点企业网/园区网出口28网络层阻塞技术DNS过滤(DNS劫持)指在特定的网络范围内,拦截域名解析的请求,分析请求的域名,把审查范围以外的请求放行,否则返回假的IP地址或者什么都不做使请求失去响应一般部署在互联网骨干节点可以通过指定DNS服务器来绕过审查IP地址过滤一般部署在互联网骨干节点,或是企业网/园区网的出口部分,通过防火墙、路由器等设备来实现IP地址的过滤名单更新太慢,且容易“误伤无辜”29应用层阻塞技术URL阻塞制定不能访问URL地址,以黑名单的形式存放在代理服务器或应用层网关中。在进行HTTP请求的时候,代理服务器或应用层网关会对URL进行审查,如果在黑名单中将予以阻塞关键字审查在互联网出口网关处收集信息,过滤、嗅探制定的关键字,针对包含关键字的通信过程进行阻断(缺点“黑夜总会过去”)HTTP报文头部关键词数据流内文关键词30应用层阻塞技术的部署方式旁路式(Passby)监听网络上所有信息,并有选择的对基于TCP的连接(如HTTP/HTTPS/FTP/TELNET/POP3/SMTP等)进行阻断旁路式过滤的原理基于TCP的连接性:跟踪所有TCP连接,阻断时以服务器身份向客户端发送HTTPACKPSHFIN,同时以客户端身份向服务器发送HTTPRST。穿透式(Passthrough)依赖于代理服务器或应用层网关,直接禁止通信过程31最典型的例子:GFWGreatFirewall,防火长城,也称“中国防火墙”或“中国国家防火墙”,指中华人民共和国政府在其管辖互联网内部建立的多套网络审查系统的总称,包括金盾系统和相关行政审查系统。一般所说的GFW,主要指公共网络监控系统,尤其是指对境外涉及敏感内容的网站、IP地址、关键词、网址等的过滤。国家防火墙并非中国的专利。实际上,美国也有国家网络监控系统,对进出美国的每一封电子邮件进行内容扫描。不同的是,中国的国家防火墙会直接切断一些敏感连接,而美国的国家防火墙则只是做数据监控记录。32GFW的主要技术域名劫持IP封锁关键字过滤阻断HTTPS证书过滤对破网软件的反制33Jasmine.More4.网络信息内容推荐34推荐系统的概念目前被广泛引用的推荐系统的非形式化概念是Resnick和Varian在1997年给出的:——“它是利用电子商务网站向客户提供商品信息和建议,帮助用户决定应该购买什么产品,模拟销售人员帮助客户完成购买过程”。推荐有3个组成要素:推荐候选对象、用户、推荐方法。35推荐系统有3个重要的模块:用户建模模块、推荐对象建模模块、推荐算法模块。推荐系统把用户模型中兴趣需求信息和推荐对象模型中的特征信息匹配,同时使用相应的推荐算法进行计算筛选,找到用户可能感兴趣的推荐对象,然后推荐给用户。推荐系统通用模型用户建模用户模型反映用户的兴趣偏好。用户兴趣的反馈可分为显性反馈和隐性反馈。显性反馈包含两种方式:用户定制和用户评分。用户定制是指用户对系统所列问题的回答,如年龄、性别、职业等。评分又分为两级评分和多级评分。隐性反馈信息有:是否点击、停留时间、点击时间、点击地点、是否加入收藏、评论内容(可推测用户的心情)、用户的搜索内容、社交网络、流行趋势、点击顺序等。37推荐算法

推荐算法是整个推荐系统中最核心、最关键的部分,很大程度上决定了推荐系统性能的优劣。主要的推荐方法包括:基于人口统计学的推荐

协同过滤推荐基于内容的推荐383种联系用户和物品的推荐系统基于人口统计学的推荐根据系统用户的基本信息发现用户的相关程度,然后将相似用户喜爱的其他物品推荐给当前用户。系统首先会根据用户的属性建模,如年龄,性别,兴趣等信息。根据这些特征计算用户间的相似度。若系统通过计算发现用户A和C比较相似。就会把A喜欢的物品推荐给C。39协同过滤算法40如果两个用户对于一些项(item)的评分相似程度较高,那么一个用户对于一个新项的评分很有可能类似于另一个用户。基于邻域的协同过滤(基于用户的、基于项的)即基于内存的CF,是使用用户对已有项的评分直接预测该用户对新项的评分。基于模型的协同过滤(矩阵因子分解、贝叶斯网络、基于聚类的方法、基于回归的方法)利用历史评分数据,学习出预测模型,预测对新项的评分。通常的方式是使用机器学习算法,找出用户与项的相互作用模型,从而找出数据中的特定模式。基于用户的算法41根据用户对物品的行为,找出兴趣爱好相似的一些用户,将其中一个用户喜欢的东西推荐给另一个用户。老张喜欢看的书有A,B,C,D;老王喜欢看的书有A,B,C,E。通过这些数据我们可以判断老张和老王的口味略相似,于是给老张推荐E这本书,同时给老王推荐D这本书。基于项的算法42根据用户的喜好先找出相似的物品,如果同时喜欢两个物品的人比较多的话,就认为这两个物品相似。并给用户推荐和他原有喜好类似的物品。我们发现喜欢看《从一到无穷大》的人大都喜欢看《什么是数学》,那么如果你刚津津有味地看完《从一到无穷大》,我们就可以立马给你推荐《什么是数学》。基于内容的算法43通常使用用户模型的向量特征来描述用户的兴趣爱好,同样对于每个物品进行特征提取,作为物品模型的内容特征。然后计算用户模型的向量特征和候选物品模型的向量特征两者之间的匹配度,匹配度较高的候选物品就可作为推荐结果推送给目标用户。如果一个用户喜欢电影“指环王:魔戒再现”和“指环王:双塔

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论