網(wǎng)絡(luò)爬蟲的工作原理是什么,它是如何工作的?我們可以把龐大的互聯(lián)網(wǎng)比作一張沒有盡頭的蜘蛛網(wǎng),而爬蟲就是一只在蜘蛛網(wǎng)上爬行的蜘蛛,網(wǎng)絡(luò)的節(jié)點被描述成網(wǎng)頁。我們通過客戶端電腦發(fā)送命令,ip就是被執(zhí)行的角色。ip通過互聯(lián)網(wǎng)把任務(wù)帶到終端服務(wù)器,找到客戶端分配的任務(wù),每個節(jié)點就是一個網(wǎng)頁,這樣蜘蛛經(jīng)過一個節(jié)點后,就可以繼續(xù)沿著幾個鏈接爬行到下一個節(jié)點。(通俗地說,順著藤),也就是說,通過一個網(wǎng)頁繼續(xù)獲取。
首先爬蟲需要獲取終端服務(wù)器的網(wǎng)頁,也就是從那里獲取網(wǎng)頁的源代碼。如果源碼包得到了有用的信息,就會得到有用的源碼,提取任務(wù)中需要的信息。
Ip會將獲取的有用信息返回給客戶端存儲,然后回去,反復(fù)頻繁的訪問獲取的信息,直到任務(wù)完成。所以ip負責(zé)帶著任務(wù)尋找有價值的信息,然后把獲取的有價值的信息數(shù)據(jù)輸送(傳輸)到客服端,直到任務(wù)完成。