国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 開發 > 綜合 > 正文

C#實現通過程序自動抓取遠程Web網頁信息

2024-07-21 02:25:56
字體:
來源:轉載
供稿:網友
通過程序自動的讀取其它網站網頁顯示的信息,類似于爬蟲程序。比方說我們有一個系統,要提取baidu網站上歌曲搜索排名。分析系統在根據得到的數據進行數據分析。為業務提供參考數據。
  為了完成以上的需求,我們就需要模擬瀏覽器瀏覽網頁,得到頁面的數據在進行分析,最后把分析的結構,即整理好的數據寫入數據庫。那么我們的思路就是:
  1、發送httprequest請求。
  2、接收httpresponse返回的結果。得到特定頁面的html源文件。
  3、取出包含數據的那一部分源碼。
  4、根據html源碼生成htmldocument,循環取出數據。
  5、寫入數據庫。

程序如下:  

        //根據url地址得到網頁的html源碼
         private string getwebcontent(string url)
         {
             string strresult="";
             try
             {
                 httpwebrequest request = (httpwebrequest)webrequest.create(url);
    //聲明一個httpwebrequest請求
                 request.timeout = 30000;
                //設置連接超時時間
                 request.headers.set("pragma", "no-cache");
                 httpwebresponse response = (httpwebresponse)request.getresponse();
                 stream streamreceive = response.getresponsestream();
                 encoding encoding = encoding.getencoding("gb2312");
                 streamreader streamreader = new streamreader(streamreceive, encoding);
                 strresult = streamreader.readtoend();
             }
             catch
             {
                 messagebox.show("出錯");
             }
             return strresult;
         }
為了使用httpwebrequest和httpwebresponse,需填名字空間引用
  using system.net;

以下是程序具體實現過程:
private void button1_click(object sender, eventargs e)
         {
            //要抓取的url地址
             string url = "http://list.mp3.baidu.com/topso/mp3topsong.html?id=1#top2";

            //得到指定url的源碼
   string strwebcontent = getwebcontent(url);

             richtextbox1.text = strwebcontent;
    //取出和數據有關的那段源碼
             int ibodystart = strwebcontent.indexof("<body", 0);
             int istart = strwebcontent.indexof("歌曲top500", ibodystart);
             int itablestart = strwebcontent.indexof("<table", istart);
             int itableend = strwebcontent.indexof("</table>", itablestart);
             string strweb = strwebcontent.substring(itablestart, itableend - itablestart + 8);

            //生成htmldocument
   webbrowser webb = new webbrowser();
             webb.navigate("about:blank");
             htmldocument htmldoc = webb.document.opennew(true);
             htmldoc.write(strweb);
             htmlelementcollection htmltr = htmldoc.getelementsbytagname("tr");
             foreach (htmlelement tr in htmltr)
             {
                 string strid = tr.getelementsbytagname("td")[0].innertext;
                 string strname = splitname(tr.getelementsbytagname("td")[1].innertext, "musicname");
                 string strsinger = splitname(tr.getelementsbytagname("td")[1].innertext, "singer");
                 strid = strid.replace(".", "");
                //插入datatable
                 addline(strid, strname, strsinger,"0");

                 string strid1 = tr.getelementsbytagname("td")[2].innertext;
                 string strname1 = splitname(tr.getelementsbytagname("td")[3].innertext, "musicname");
                 string strsinger1 = splitname(tr.getelementsbytagname("td")[3].innertext, "singer");
                //插入datatable
                 strid1 = strid1.replace(".", "");
                 addline(strid1, strname1, strsinger1,"0");

                 string strid2 = tr.getelementsbytagname("td")[4].innertext;
                 string strname2 = splitname(tr.getelementsbytagname("td")[5].innertext, "musicname");
                 string strsinger2 = splitname(tr.getelementsbytagname("td")[5].innertext, "singer");
                //插入datatable
                 strid2 = strid2.replace(".", "");
                 addline(strid2, strname2, strsinger2,"0");

             }
            //插入數據庫
             insertdata(dt);
   
             datagridview1.datasource = dt.defaultview;
}


上一篇:C#生成縮略圖代碼

下一篇:C# 文件操作

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 阳新县| 收藏| 郧西县| 自贡市| 宁夏| 农安县| 桓台县| 襄垣县| 宁武县| 高要市| 湖北省| 临江市| 阳泉市| 长宁区| 伊金霍洛旗| 赫章县| 中阳县| 卢氏县| 平山县| 邵阳县| 南皮县| 贡觉县| 抚州市| 三原县| 清水河县| 曲阜市| 霞浦县| 宁远县| 苏尼特右旗| 康平县| 石河子市| 麟游县| 清苑县| 思茅市| 菏泽市| 徐水县| 探索| 双城市| 鄂尔多斯市| 宝丰县| 集贤县|