通過程序自動的讀取其它網站網頁顯示的信息,類似于爬蟲程序。比方說我們有一個系統,要提取baidu網站上歌曲搜索排名。分析系統在根據得到的數據進行數據分析。為業務提供參考數據。
為了完成以上的需求,我們就需要模擬瀏覽器瀏覽網頁,得到頁面的數據在進行分析,最后把分析的結構,即整理好的數據寫入數據庫。那么我們的思路就是:
1、發送httprequest請求。
2、接收httpresponse返回的結果。得到特定頁面的html源文件。
3、取出包含數據的那一部分源碼。
4、根據html源碼生成htmldocument,循環取出數據。
5、寫入數據庫。
程序如下:
//根據url地址得到網頁的html源碼
private string getwebcontent(string url)
{
string strresult="";
try
{
httpwebrequest request = (httpwebrequest)webrequest.create(url);
//聲明一個httpwebrequest請求
request.timeout = 30000;
//設置連接超時時間
request.headers.set("pragma", "no-cache");
httpwebresponse response = (httpwebresponse)request.getresponse();
stream streamreceive = response.getresponsestream();
encoding encoding = encoding.getencoding("gb2312");
streamreader streamreader = new streamreader(streamreceive, encoding);
strresult = streamreader.readtoend();
}
catch
{
messagebox.show("出錯");
}
return strresult;
}
為了使用httpwebrequest和httpwebresponse,需填名字空間引用
using system.net;
以下是程序具體實現過程:
private void button1_click(object sender, eventargs e)
{
//要抓取的url地址
string url = "http://list.mp3.baidu.com/topso/mp3topsong.html?id=1#top2";
//得到指定url的源碼
string strwebcontent = getwebcontent(url);
richtextbox1.text = strwebcontent;
//取出和數據有關的那段源碼
int ibodystart = strwebcontent.indexof("<body", 0);
int istart = strwebcontent.indexof("歌曲top500", ibodystart);
int itablestart = strwebcontent.indexof("<table", istart);
int itableend = strwebcontent.indexof("</table>", itablestart);
string strweb = strwebcontent.substring(itablestart, itableend - itablestart + 8);
//生成htmldocument
webbrowser webb = new webbrowser();
webb.navigate("about:blank");
htmldocument htmldoc = webb.document.opennew(true);
htmldoc.write(strweb);
htmlelementcollection htmltr = htmldoc.getelementsbytagname("tr");
foreach (htmlelement tr in htmltr)
{
string strid = tr.getelementsbytagname("td")[0].innertext;
string strname = splitname(tr.getelementsbytagname("td")[1].innertext, "musicname");
string strsinger = splitname(tr.getelementsbytagname("td")[1].innertext, "singer");
strid = strid.replace(".", "");
//插入datatable
addline(strid, strname, strsinger,"0");
string strid1 = tr.getelementsbytagname("td")[2].innertext;
string strname1 = splitname(tr.getelementsbytagname("td")[3].innertext, "musicname");
string strsinger1 = splitname(tr.getelementsbytagname("td")[3].innertext, "singer");
//插入datatable
strid1 = strid1.replace(".", "");
addline(strid1, strname1, strsinger1,"0");
string strid2 = tr.getelementsbytagname("td")[4].innertext;
string strname2 = splitname(tr.getelementsbytagname("td")[5].innertext, "musicname");
string strsinger2 = splitname(tr.getelementsbytagname("td")[5].innertext, "singer");
//插入datatable
strid2 = strid2.replace(".", "");
addline(strid2, strname2, strsinger2,"0");
}
//插入數據庫
insertdata(dt);
datagridview1.datasource = dt.defaultview;
}