最近有個小程序需要采集網(wǎng)頁源代碼,但有的網(wǎng)頁中JS腳本又會生成額外的代碼,比如http://www.cnblogs.com/lidabo/p/4169396.html
紅框部分便是另外加載的代碼。
此處可以看到web前端是有 "操作系統(tǒng)" 幾個字的,但查看網(wǎng)頁源代碼之后卻搜不到這幾個字
C#有個webbrowser控件可以等網(wǎng)頁加載完之后獲取瀏覽器上所有的網(wǎng)頁源代碼(也包括額外被JS加載進來的代碼)
【第一次】試驗
WebBrowser webBrowser1 = new WebBrowser();
private void button1_Click(object sender, EventArgs e)
{
webBrowser1.Navigate("http://www.cnblogs.com/lidabo/p/4169396.html");
//加載完畢后觸發(fā)事件webBrowser1_DocumentCompleted
webBrowser1.DocumentCompleted += new WebBrowserDocumentCompletedEventHandler(webBrowser1_DocumentCompleted);
}
private void webBrowser1_DocumentCompleted(object sender, EventArgs e)//這個就是當網(wǎng)頁載入完畢后要進行的操作
{
//將webBrowser顯示的代碼傳入richTextBox以便調(diào)試
richTextBox1.Text = webBrowser1.DocumentText;
}
結果:webbrowser加載完這個頁面之后,richTextBox1.Text獲取的代碼里面找不到 "操作系統(tǒng)" 幾個字 , 獲取的代碼有1063行
網(wǎng)頁在加載的過程中,webBrowser1_DocumentCompleted可能會觸發(fā)一次以上,且相同網(wǎng)頁可能觸發(fā)次數(shù)不盡相同
有的網(wǎng)頁會多次觸發(fā)webBrowser1_DocumentCompleted,騰訊網(wǎng)http://www.qq.com觸發(fā)了4次
【第二次】試驗
public int i;//設置全局變量i
private void webBrowser1_DocumentCompleted(object sender, EventArgs e)
{
i++;//以便觀察這個事件被觸發(fā)了多少次