最近在忙著優(yōu)化集團公司的一個報表。優(yōu)化完成后，報表查詢速度有從半小時以上(甚至查不出)到秒查的質(zhì)變。從修改SQL查詢語句邏輯到?jīng)Q定創(chuàng)建存儲

過程實現(xiàn)，花了我3天多的時間，在此總結(jié)一下，希望對朋友們有幫助。

首先項目是西門子中國在我司實施部署的MES項目，由于項目是在產(chǎn)線上運作(3 years+)，數(shù)據(jù)累積很大。在項目的數(shù)據(jù)庫中，大概上億條數(shù)據(jù)的表有5個以上，千萬級數(shù)據(jù)的表10個以上，百萬級數(shù)據(jù)的表，很多...

(歷史問題，當(dāng)初實施無人監(jiān)管，無人監(jiān)控數(shù)據(jù)庫這塊的性能問題。ps:我剛?cè)肼毑痪?..)

不多說，直接貼西門子中國的開發(fā)人員在我司開發(fā)的SSRS報表中的SQL語句：

 1 select distinct b.MaterialID as matl_def_id, c.Descript, case when right(b.MESOrderID, 12) < '001000000000' then right(b.MESOrderID, 9)   2 else right(b.MESOrderID, 12) end  as pom_order_id, a.LotName, a.SourceLotName as ComLot,  3 e.DefID as ComMaterials, e.Descript as ComMatDes, d.VendorID, d.DateCode,d.SNNote, b.OnPlantID,a.SNCUST 4 from   5 ( 6     select m.lotname, m.sourcelotname, m.opetypeid, m.OperationDate,n.SNCUST from View1 m 7     left join co_sn_link_customer as n on n.SNMes=m.LotName 8     where  9     ( m.LotName in (select val from fn_String_To_Table(@sn,',',1)) or (@sn) = '') and 10     ( m.sourcelotname in (select val from fn_String_To_Table(@BatchID,',',1)) or (@BatchID) = '')11     and (n.SNCust like '%'+ @SN_ext + '%' or (@SN_ext)='')12 ) a13 left join 14 (15     select * from Table1 where SNType = 'IntSN'16     and SNRuleName = 'PRoductSNRule'17     and OnPlantID=@OnPlant18 ) b on b.SN = a.LotName19 inner join MMdefinitions as c on c.DefID = b.MaterialID20 left join  Table1 as d on d.SN = a.SourceLotName 21 inner join MMDefinitions as e on e.DefID = d.MaterialID22 where not exists (23  select distinct LotName, SourceLotName from ELCV_ASSEMBLE_OPS 24 where LotName = a.SourceLotName and SourceLotName = a.LotName25 ) 26 and (d.DateCode in (select val from fn_String_To_Table(@DCode,',',1)) or (@DCode) = '')27 and (d.SNNote  like '%'+@SNNote+'%' or (@SNNote) = '')28 and ((case when right(b.MESOrderID, 12) < '001000000000' then right(b.MESOrderID, 9)  29 else right(b.MESOrderID, 12) end) in (select val from fn_String_To_Table(@order_id,',',1)) or (@order_id) = '')30 and (e.DefID in (select val from fn_String_To_Table(@comdef,',',1)) or (@comdef) = '')31 --View1是一個嵌套兩層的視圖(出于保密性，實際名稱可能不同)，里面有一張上億數(shù)據(jù)的表和幾張千萬級數(shù)據(jù)的表做左連接查詢32 --Table1是一個數(shù)據(jù)記錄超過1500萬的表

這個查詢語句，實際上通過我的檢測和調(diào)查，在B/S系統(tǒng)前端已無法查出結(jié)果，半小時，一小時 ... 。因為我直接在SQL查詢分析器查，半小時都沒有結(jié)果。

(原因是里面對一張上億級數(shù)據(jù)表和3張千萬級數(shù)據(jù)表做全表掃描查詢)

不由感慨，西門子中國的素質(zhì)(或者說責(zé)任感)就這樣？

下面說說我的分析和走的彎路(思維誤區(qū))，希望對你也有警醒。

首先相關(guān)表的索引，沒有建全的，把索引給建上。

索引這步完成后，發(fā)現(xiàn)情況還是一樣，查詢速度幾乎沒有改善。后來想起相關(guān)千萬級數(shù)據(jù)以上的表，都還沒有建立表分區(qū)。于是考慮建立表分區(qū)以及數(shù)據(jù)復(fù)制的方案。

這里有必要說明下：我司報表用的是一個專門的數(shù)據(jù)庫服務(wù)器，數(shù)據(jù)從產(chǎn)線訂閱而來。就是常說的“讀寫分離”。

如果直接在原表上建立表分區(qū)，你會發(fā)現(xiàn)執(zhí)行表分區(qū)的事物會直接死鎖。原因是：表分區(qū)操作本身會鎖表，產(chǎn)線還在推數(shù)據(jù)過來，這樣很容易“阻塞”，“死鎖”。

我想好的方案是：建立一個新表(空表)，在新表上建好表分區(qū)，然后復(fù)制數(shù)據(jù)過來。

正打算這么干。等等！我好像進入了一個嚴(yán)重的誤區(qū)！

分析： 原SQL語句和業(yè)務(wù)需求，是對產(chǎn)線的數(shù)據(jù)做產(chǎn)品以及序列號的追溯，關(guān)鍵是查詢條件里沒有有規(guī)律的"條件"(如日期、編號)，

貿(mào)然做了表分區(qū)，在這里幾乎沒有意義！反而會降低查詢性能！

好險！還是一步一步來，先做SQL語句分析。

1. 查詢語句的where條件，有大量@var in ... or (@var ='') 的片段

2. where條件有l(wèi)ike '%'+@var+'%'

3. where條件有 case ... end 函數(shù)

4. 多次連接同一表查詢，另外使用本身已嵌套的視圖表，是不是必須，是否可替代？

5. SQL語句有*號，視圖中也有*號出現(xiàn)

首先是用存儲過程改寫，好處是設(shè)計靈活。

核心思想是：用一個或多個查詢條件(查詢條件要求至少輸入一個)得到臨時表，每個查詢條件如果查到集合，就更新這張臨時表，最后匯總的時候，

只需判斷這個臨時表是否有值。以此類推，可以建立多個臨時表，將查詢條件匯總。

這樣做目前來看至少兩點好處：1.省去了對變量進行 =@var or (@var='')的判斷；

2.拋棄sql拼接，提高代碼可讀性。

再有就是在書寫存儲過程，這個過程中要注意：

1. 盡量想辦法使用臨時表掃描替代全表掃描；

2. 拋棄in和not in語句，使用exists和not exists替代；

3. 和客戶確認(rèn)，模糊查詢是否有必要，如沒有必要，去掉like語句；

4. 注意建立適當(dāng)?shù)?，符合場景的索引?/p>

5. 踩死 "*" 號；

6. 避免在where條件中對字段進行函數(shù)操作；

7. 對實時性要求不高的報表，允許臟讀(with(nolock))。

如果想?yún)⒖純?yōu)化設(shè)計片段的詳細(xì)內(nèi)容，請參閱SQL代碼：

  1 /**  2  * 某某跟蹤報表  3  **/  4 --exec spName1 '','','','','','','公司代號'  5 CREATE Procedure spName1  6    @MESOrderID nvarchar(320), --工單號,最多30個  7    @LotName nvarchar(700),    --產(chǎn)品序列號,最多50個  8    @DateCode nvarchar(500),   --供應(yīng)商批次號,最多30個  9    @BatchID nvarchar(700),    --組裝件序列號/物料批號,最多50個 10    @comdef nvarchar(700),     --組裝件物料編碼,最多30個 11    @SNCust nvarchar(1600),    --外部序列號,最多50個 12    @OnPlant nvarchar(20)      --平臺 13 AS 14 BEGIN 15     SET NOCOUNT ON;   16     /** 17      * 1)定義全局的臨時表，先根據(jù)六個查詢條件的任意一個，得出臨時表結(jié)果 18      **/ 19     CREATE TABLE #FinalLotName 20     ( 21         LotName NVARCHAR(50),       --序列號 22         SourceLotName NVARCHAR(50), --來源序列號 23         SNCust NVARCHAR(128)        --外部序列號 24     ) 25     --1.1 26     IF @LotName<>'' 27     BEGIN 28         SELECT Val INTO #WorkLot FROM fn_String_To_Table(@LotName,',',1) 29         SELECT LotPK,LotName INTO #WorkLotPK FROM MMLots WITH(NOLOCK) WHERE EXISTS(SELECT 1 FROM #WorkLot b WHERE b.Val=MMLots.LotID) 30          31         --求SourceLotPK只能在這里求 32         SELECT a.LotPK,a.SourceLotPK into #WorkSourcePK FROM MMLotOperations a WITH(NOLOCK) WHERE EXISTS(SELECT 1 FROM #WorkLotPK b WHERE b.LotPK=a.LotPK) AND a.SourceLotPK IS NOT NULL 33          34         SELECT a.LotPK,a.SourceLotPK,b.LotName INTO #WorkSourcePK2 FROM #WorkSourcePK a JOIN #WorkLotPK b ON a.LotPK=b.LotPK 35          36         INSERT INTO #FinalLotName SELECT a.LotName,b.LotName AS SourceLotName,NULL FROM #WorkSourcePK2 a JOIN (SELECT LotPK,LotName FROM MMLots WITH(NOLOCK) ) b on a.SourceLotPK=b.LotPK --b的里面加不加WHERE RowDeleted=0待確定 37         SELECT a.LotName,a.SourceLotName,b.SNCust INTO #FinalLotNameX1 FROM #FinalLotName a LEFT JOIN CO_SN_LINK_CUSTOMER b WITH(NOLOCK) ON a.LotName=b.SNMes 38         DELETE FROM #FinalLotName 39         INSERT INTO #FinalLotName SELECT LotName,SourceLotName,SNCust FROM #FinalLotNameX1 40     END 41     --1.2 42     IF @BatchID<>'' 43     BEGIN 44         SELECT Val INTO #WorkSourceLot FROM fn_String_To_Table(@BatchID,',',1) 45         IF EXISTS(SELECT 1 FROM #FinalLotName)--如果@LotName也不為空 46         BEGIN 47             SELECT a.LotName,a.SourceLotName,a.SNCust INTO #FinalLotNameX2 FROM #FinalLotName a WHERE EXISTS(SELECT 1 FROM #WorkSourceLot b WHERE a.SourceLotName=b.Val) 48             DELETE FROM #FinalLotName 49             INSERT INTO #FinalLotName SELECT LotName,SourceLotName,SNCust FROM #FinalLotNameX2 50         END 51         ELSE --@LotName條件為空 52         BEGIN 53             SELECT LotPK AS SourceLotPK,LotName AS SourceLotName INTO #2 FROM MMLots WITH(NOLOCK) WHERE EXISTS(SELECT 1 FROM #WorkSourceLot b WHERE b.Val=MMLots.LotID) 54             SELECT a.LotPK,a.SourceLotPK into #21 FROM MMLotOperations a WITH(NOLOCK) WHERE EXISTS(SELECT 1 FROM #2 b WHERE b.SourceLotPK=a.SourceLotPK) 55             SELECT a.LotPK,a.SourceLotPK,b.SourceLotName INTO #22 FROM #21 a JOIN #2 b ON a.SourceLotPK=b.SourceLotPK     56             INSERT INTO #FinalLotName SELECT b.LotName,a.SourceLotName,NULL FROM #22 a JOIN (SELECT LotPK,LotName FROM MMLots WITH(NOLOCK) ) b on a.LotPK=b.LotPK --b的里面加不加WHERE RowDeleted=0待確定     57             SELECT a.LotName,a.SourceLotName,b.SNCust INTO #FinalLotNameX21 FROM #FinalLotName a LEFT JOIN CO_SN_LINK_CUSTOMER b WITH(NOLOCK) ON a.LotName=b.SNMes 58             DELETE FROM #FinalLotName 59             INSERT INTO #FinalLotName SELECT LotName,SourceLotName,SNCust FROM #FinalLotNameX21         60         END 61     END 62     --1.3 63     IF @SNCust<>'' 64     BEGIN 65         SELECT Val INTO #WorkCustomSN FROM fn_String_To_Table(@SNCust,',',1) 66