专利内容由知识产权出版社提供
专利名称:基于卷积特征和多重哈希映射的大数据URL去重方
法
专利类型:发明专利发明人:宋绪成,邓金城申请号:CN201810562678.7申请日:20180604公开号:CN108874941A公开日:20181123
摘要:本发明公开了一种基于卷积特征和多重哈希映射的大数据URL去重方法,通过使用基于卷积特征和多重哈希函数映射的快速特征映射算法,建立一个BitSet,将每个URL都经过一次卷积运算和多个哈希函数映射到多个位,大大降低了冲突概率,从而识别的web日志中的URL。本发明方法比传统去重算法更加节省资源,同时又极大的降低了哈希冲突的概率,识别速度非常快。
申请人:成都知道创宇信息技术有限公司
地址:610000 四川省成都市高新区天府三街219号2栋11楼
国籍:CN
代理机构:成都信博专利代理有限责任公司
代理人:张辉
更多信息请下载全文后查看