麻豆国内精品欧美在线-麻豆国内精品久久久久久-麻豆国产在线观看一区二区-麻豆国产在线观看免费-麻豆国产原创-麻豆国产一区二区在线观看

天眼查財產線索信息顯示，近日，deepseek關聯公司杭州深度求索人工智能基礎技術研究有限公司申請的“一種廣度數據采集的方法及其系統”專利公布。

摘要顯示，本發明涉及數據采集領域，包括建立網頁元信息庫；確定每日調度單元下載配額及當日下載總額度；從網頁元信息庫中選取相應數量的鏈接，分配下載額度；下載過程控制；下載文本進行后處理及數據清洗后進入回灌隊列，通過信息回灌實現網頁元信息庫更新。本發明的有益效果在于：發現盡可能多的網頁鏈接，并減少對網站的流量沖擊；對已經下載的內容進行分析，對未下載的連接進行質量推斷，通過擇優下載分配額度的方式，減少低質量網頁下載和重復下載，提高數據質量及下載效率，減少在數據采集過程中網絡資源的消耗；采用單獨的信息回灌隊列，保證網頁元信息庫修改操作的原子性和穩定性。