最近有個小程序需要采集網(wǎng)頁源代碼,但有的網(wǎng)頁中JS腳本又會生成額外的代碼,比如http://www.cnblogs.com/lidabo/p/4169396.html

平面設計培訓,網(wǎng)頁設計培訓,美工培訓,游戲開發(fā),動畫培訓

 

紅框部分便是另外加載的代碼。

 

平面設計培訓,網(wǎng)頁設計培訓,美工培訓,游戲開發(fā),動畫培訓

 

此處可以看到web前端是有 "操作系統(tǒng)" 幾個字的,但查看網(wǎng)頁源代碼之后卻搜不到這幾個字

平面設計培訓,網(wǎng)頁設計培訓,美工培訓,游戲開發(fā),動畫培訓

C#有個webbrowser控件可以等網(wǎng)頁加載完之后獲取瀏覽器上所有的網(wǎng)頁源代碼(也包括額外被JS加載進來的代碼)

【第一次】試驗

WebBrowser webBrowser1 = new WebBrowser();

 

private void button1_Click(object sender, EventArgs e)
{

  webBrowser1.Navigate("http://www.cnblogs.com/lidabo/p/4169396.html");

  //加載完畢后觸發(fā)事件webBrowser1_DocumentCompleted
  webBrowser1.DocumentCompleted += new WebBrowserDocumentCompletedEventHandler(webBrowser1_DocumentCompleted);

}

 

private void webBrowser1_DocumentCompleted(object sender, EventArgs e)//這個就是當網(wǎng)頁載入完畢后要進行的操作
{

  //將webBrowser顯示的代碼傳入richTextBox以便調(diào)試

  richTextBox1.Text = webBrowser1.DocumentText;

}

 

結果:webbrowser加載完這個頁面之后,richTextBox1.Text獲取的代碼里面找不到  "操作系統(tǒng)"  幾個字 , 獲取的代碼有1063行

網(wǎng)頁在加載的過程中,webBrowser1_DocumentCompleted可能會觸發(fā)一次以上,且相同網(wǎng)頁可能觸發(fā)次數(shù)不盡相同

有的網(wǎng)頁會多次觸發(fā)webBrowser1_DocumentCompleted,騰訊網(wǎng)http://www.qq.com觸發(fā)了4次

 

【第二次】試驗

public int i;//設置全局變量i

private void webBrowser1_DocumentCompleted(object sender, EventArgs e)
{

  i++;//以便觀察這個事件被觸發(fā)了多少次

網(wǎng)友評論