[发明专利]一种统一资源定位符URL去重方法及装置有效
| 申请号： | 201810735305.5 | 申请日： | 2018-07-05 |
| 公开（公告）号： | CN108984703B | 公开（公告）日： | 2023-04-18 |
| 发明（设计）人： | 熊庆昌 | 申请（专利权）人： | 平安科技（深圳）有限公司 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951;G06F21/57;G06F16/953;G06F16/9532 |
| 代理公司： | 广州三环专利商标代理有限公司 44202 | 代理人： | 郝传鑫;熊永强 |
| 地址： | 518000 广东省深圳市福田区福*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请实施例公开了一种统一资源定位符URL去重方法及装置，其中方法包括：对原始URL进行第一泛化处理，并判断该第一URL是否属于第一重复集合，若该第一URL不属于该第一重复集合，则对该第一URL进行第一减参处理得到第二URL，并判断该第二URL是否属于第二重复集合，若该第二URL属于第二重复集合，检测该第二URL在该第二重复集合中的第一出现次数是否小于或等于第一阈值，若是，则下载该原始URL，若否，则丢弃该原始URL，即不下载。采用本申请实施例，可以减少下载到重复URL的数量，从而可以提高WEB漏洞扫描系统的扫描效率。 | ||
| 搜索关键词： | 一种 统一 资源 定位 url 方法 装置 | ||
【主权项】：
1.一种统一资源定位符URL去重方法，其特征在于，包括：对原始URL进行第一泛化处理，得到第一URL，所述第一泛化处理用于将所述原始URL中相同类型的多个连续字符替换为单个字符；若所述第一URL不属于第一重复集合，对所述第一URL进行第一减参处理得到第二URL，所述第一减参处理用于减少所述第一URL中的参数变量，所述第一重复集合包括历史记录中已下载的URL经过所述第一泛化处理后得到的URL；若所述第二URL属于第二重复集合，检测所述第二URL在所述第二重复集合中的第一出现次数是否小于或等于第一阈值，若所述第一出现次数小于或等于所述第一阈值，则下载所述原始URL，所述第二重复集合包括历史记录中已下载的URL经过所述第一减参处理后得到的URL。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于平安科技（深圳）有限公司，未经平安科技（深圳）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201810735305.5/，转载请声明来源钻瓜专利网。
