四项技术提高SQL Server性能

本文涉及的产品
云数据库 RDS SQL Server,独享型 2核4GB
简介:

有时,为了让应用程序运行得更快,所做的全部工作就是在这里或那里做一些很小调整。但关键在于确定如何进行调整!迟早您会遇到这种情况:应用程序中的 SQL 查询不能按照您想要的方式进行响应。它要么不返回数据,要么耗费的时间长得出奇。如果它降低了企业应用程序的速度,用户必须等待很长时间。用户希望应用程序响应迅速,他们的报告能够在瞬间之内返回分析数据。就我自己而言,如果在Web上冲浪时某个页面要耗费十多秒才能加载,我也会很不耐烦。

  为了解决这些问题,重要的是找到问题的根源。那么,从哪里开始呢?根本原因通常在于数据库设计和访问它的查询。我将讲述四项技术,这些技术可用于提高基于SQL Server的应用程序的性能或改善其可伸缩性。我将仔细说明 LEFT JOIN、CROSS JOIN 的使用以及IDENTITY 值的检索。请记住,根本没有神奇的解决方案。调整您的数据库及其查询需要占用时间、进行分析,还需要大量的测试。这些技术都已被证明行之有效,但对您的应用程序而言,可能其中一些技术比另一些技术更适用。

  从 INSERT 返回 IDENTITY

  我决定从遇到许多问题的内容入手:如何在执行SQL INSERT后检索IDENTITY值。通常,问题不在于如何编写检索值的查询,而在于在哪里以及何时进行检索。在SQL Server中,下面的语句可用于检索由最新在活动数据库连接上运行的 SQL 语句所创建的 IDENTITY 值:

 
  1. SELECT @@IDENTITY 

这个 SQL 语句并不复杂,但需要记住的一点是:如果这个最新的 SQL 语句不是 INSERT,或者您针对非 INSERT SQL 的其他连接运行了此 SQL,则不会获得期望的值。您必须运行下列代码才能检索紧跟在 INSERT SQL 之后且位于同一连接上的 IDENTITY,如下所示:

 
  1. INSERT INTO Products (ProductName) VALUES ('Chalk')   
  2.   SELECT @@IDENTITY 

在一个连接上针对 Northwind 数据库运行这些查询将返回一个名称为 Chalk 的新产品的 IDENTITY 值。所以,在使用ADOVisual Basic应用程序中,可以运行以下语句:

 
  1.   Set oRs = oCn.Execute("SET NOCOUNT ON;INSERT INTO Products _   
  2.   (ProductName) VALUES ('Chalk');SELECT @@IDENTITY")   
  3.   lProductID = oRs(0) 

此代码告诉 SQL Server 不要返回查询的行计数,然后执行 INSERT 语句,并返回刚刚为这个新行创建的 IDENTITY 值。SET NOCOUNT ON 语句表示返回的记录集有一行和一列,其中包含了这个新的 IDENTITY 值。如果没有此语句,则会首先返回一个空的记录集(因为 INSERT 语句不返回任何数据),然后会返回第二个记录集,第二个记录集中包含 IDENTITY 值。这可能有些令人困惑,尤其是因为您从来就没有希望过 INSERT 会返回记录集。之所以会发生此情况,是因为 SQL Server 看到了这个行计数(即一行受到影响)并将其解释为表示一个记录集。因此,真正的数据被推回到了第二个记录集。当然您可以使用 ADO 中的 NextRecordset 方法获取此第二个记录集,但如果总能够首先返回该记录集且只返回该记录集,则会更方便,也更有效率。

  此方法虽然有效,但需要在 SQL 语句中额外添加一些代码。获得相同结果的另一方法是在 INSERT 之前使用 SET NOCOUNT ON 语句,并将 SELECT @@IDENTITY 语句放在表中的 FOR INSERT 触发器中,如下面的代码片段所示。这样,任何进入该表的 INSERT 语句都将自动返回 IDENTITY 值。

 
  1.   CREATE TRIGGER trProducts_Insert ON Products FOR INSERT AS   
  2.   SELECT @@IDENTITY   
  3.   GO 

触发器只在 Products 表上发生 INSERT 时启动,所以它总是会在成功 INSERT 之后返回一个 IDENTITY。使用此技术,您可以始终以相同的方式在应用程序中检索 IDENTITY 值。

内嵌视图与临时表

  某些时候,查询需要将数据与其他一些可能只能通过执行 GROUP BY 然后执行标准查询才能收集的数据进行联接。例如,如果要查询最新五个定单的有关信息,您首先需要知道是哪些定单。这可以使用返回定单 ID 的 SQL 查询来检索。此数据就会存储在临时表(这是一个常用技术)中,然后与 Products 表进行联接,以返回这些定单售出的产品数量:

 
  1.   CREATE TABLE #Temp1 (OrderID INT NOT NULL, _   
  2.   OrderDate DATETIME NOT NULL)   
  3.   INSERT INTO #Temp1 (OrderID, OrderDate)   
  4.   SELECT TOP 5 o.OrderID, o.OrderDate   
  5.   FROM Orders o ORDER BY o.OrderDate DESC   
  6.   SELECT p.ProductName, SUM(od.Quantity) AS ProductQuantity   
  7.   FROM #Temp1 t   
  8.   INNER JOIN [Order Details] od ON t.OrderID = od.OrderID   
  9.   INNER JOIN Products p ON od.ProductID = p.ProductID   
  10.   GROUP BY p.ProductName   
  11.   ORDER BY p.ProductName   
  12.   DROP TABLE #Temp1 

这些 SQL 语句会创建一个临时表,将数据插入该表中,将其他数据与该表进行联接,然后除去该临时表。这会导致此查询进行大量 I/O 操作,因此,可以重新编写查询,使用内嵌视图取代临时表。内嵌视图只是一个可以联接到 FROM 子句中的查询。所以,您不用在 tempdb 中的临时表上耗费大量 I/O 和磁盘访问,而可以使用内嵌视图得到同样的结果:

 
  1.   SELECT p.ProductName,   
  2.   SUM(od.Quantity) AS ProductQuantity   
  3.   FROM (   
  4.   SELECT TOP 5 o.OrderID, o.OrderDate   
  5.   FROM Orders o   
  6.   ORDER BY o.OrderDate DESC   
  7.   ) t   
  8.   INNER JOIN [Order Details] od ON t.OrderID = od.OrderID   
  9.   INNER JOIN Products p ON od.ProductID = p.ProductID   
  10.   GROUP BY   
  11.   p.ProductName   
  12.   ORDER BY   
  13.   p.ProductName   

此查询不仅比前面的查询效率更高,而且长度更短。临时表会消耗大量资源。如果只需要将数据联接到其他查询,则可以试试使用内嵌视图,以节省资源。

  避免 LEFT JOIN 和 NULL

  当然,有很多时候您需要执行 LEFT JOIN 和使用 NULL 值。但是,它们并不适用于所有情况。改变 SQL 查询的构建方式可能会产生将一个花几分钟运行的报告缩短到只花几秒钟这样的天壤之别的效果。有时,必须在查询中调整数据的形态,使之适应应用程序所要求的显示方式。虽然 TABLE 数据类型会减少大量占用资源的情况,但在查询中还有许多区域可以进行优化。SQL 的一个有价值的常用功能是 LEFT JOIN。它可以用于检索第一个表中的所有行、第二个表中所有匹配的行、以及第二个表中与第一个表不匹配的所有行。例如,如果希望返回每个客户及其定单,使用 LEFT JOIN 则可以显示有定单和没有定单的客户。

  此工具可能会被过度使用。LEFT JOIN 消耗的资源非常之多,因为它们包含与 NULL(不存在)数据匹配的数据。在某些情况下,这是不可避免的,但是代价可能非常高。LEFT JOIN 比 INNER JOIN 消耗资源更多,所以如果您可以重新编写查询以使得该查询不使用任何 LEFT JOIN,则会得到非常可观的回报。

  加快使用 LEFT JOIN 的查询速度的一项技术涉及创建一个 TABLE 数据类型,插入第一个表(LEFT JOIN 左侧的表)中的所有行,然后使用第二个表中的值更新 TABLE 数据类型。此技术是一个两步的过程,但与标准的 LEFT JOIN 相比,可以节省大量时间。一个很好的规则是尝试各种不同的技术并记录每种技术所需的时间,直到获得用于您的应用程序的执行性能最佳的查询。

测试查询的速度时,有必要多次运行此查询,然后取一个平均值。因为查询(或存储过程)可能会存储在 SQL Server 内存中的过程缓存中,因此第一次尝试耗费的时间好像稍长一些,而所有后续尝试耗费的时间都较短。另外,运行您的查询时,可能正在针对相同的表运行其他查询。当其他查询锁定和解锁这些表时,可能会导致您的查询要排队等待。例如,如果您进行查询时某人正在更新 此表中的数据,则在更新提交时您的查询可能需要耗费更长时间来执行。

  避免使用 LEFT JOIN 时速度降低的最简单方法是尽可能多地围绕它们设计数据库。例如,假设某一产品可能具有类别也可能没有类别。如果 Products 表存储了其类别的 ID,而没有用于某个特定产品的类别,则您可以在字段中存储 NULL 值。然后您必须执行 LEFT JOIN 来获取所有产品及其类别。您可以创建一个值为“No Category”的类别,从而指定外键关系不允许 NULL 值。通过执行上述操作,现在您就可以使用 INNER JOIN 检索所有产品及其类别了。虽然这看起来好像是一个带有多余数据的变通方法,但可能是一个很有价值的技术,因为它可以消除 SQL 批处理语句中消耗资源较多的 LEFT JOIN。在数据库中全部使用此概念可以为您节省大量的处理时间。请记住,对于您的用户而言,即使几秒钟的时间也非常重要,因为当您有许多用户正在访问同一个联机数据库应用程序时,这几秒钟实际上的意义会非常重大。

  灵活使用笛卡尔乘积

  对于此技巧,我将进行非常详细的介绍,并提倡在某些情况下使用笛卡尔乘积。出于某些原因,笛卡尔乘积 (CROSS JOIN) 遭到了很多谴责,开发人员通常会被警告根本就不要使用它们。在许多情况下,它们消耗的资源太多,从而无法高效使用。但是像 SQL 中的任何工具一样,如果正确使用,它们也会很有价值。例如,如果您想运行一个返回每月数据(即使某一特定月份客户没有定单也要返回)的查询,您就可以很方便地使用笛卡尔乘积。

  虽然这看起来好像没什么神奇的,但是请考虑一下,如果您从客户到定单(这些定单按月份进行分组并对销售额进行小计)进行了标准的 INNER JOIN,则只会获得客户有定单的月份。因此,对于客户未订购任何产品的月份,您不会获得 0 值。如果您想为每个客户都绘制一个图,以显示每个月和该月销售额,则可能希望此图包括月销售额为 0 的月份,以便直观标识出这些月份。如果使用 Figure 2(最后一页) 中的 SQL,数据则会跳过销售额为 0 美元的月份,因为在定单表中对于零销售额不会包含任何行(假设您只存储发生的事件)。

  Figure 3(最后一页)中的代码虽然较长,但是可以达到获取所有销售数据(甚至包括没有销售额的月份)的目标。首先,它会提取去年所有月份的列表,然后将它们放入第一个 TABLE 数据类型表 (@tblMonths) 中。下一步,此代码会获取在该时间段内有销售额的所有客户公司的名称列表,然后将它们放入另一个 TABLE 数据类型表 (@tblCus-tomers) 中。这两个表存储了创建结果集所必需的所有基本数据,但实际销售数量除外。 第一个表中列出了所有月份(12 行),第二个表中列出了这个时间段内有销售额的所有客户(对于我是 81 个)。并非每个客户在过去 12 个月中的每个月都购买了产品,所以,执行 INNER JOIN 或 LEFT JOIN 不会返回每个月的每个客户。这些操作只会返回购买产品的客户和月份。

  笛卡尔乘积则可以返回所有月份的所有客户。笛卡尔乘积基本上是将第一个表与第二个表相乘,生成一个行集合,其中包含第一个表中的行数与第二个表中的行数相乘的结果。因此,笛卡尔乘积会向表 @tblFinal 返回 972 行。最后的步骤是使用此日期范围内每个客户的月销售额总计更新 @tblFinal 表,以及选择最终的行集。

  如果由于笛卡尔乘积占用的资源可能会很多,而不需要真正的笛卡尔乘积,则可以谨慎地使用 CROSS JOIN。例如,如果对产品和类别执行了 CROSS JOIN,然后使用 WHERE 子句、DISTINCT 或 GROUP BY 来筛选出大多数行,那么使用 INNER JOIN 会获得同样的结果,而且效率高得多。如果需要为所有的可能性都返回数据(例如在您希望使用每月销售日期填充一个图表时),则笛卡尔乘积可能会非常有帮助。但是,您不应该将它们用于其他用途,因为在大多数方案中 INNER JOIN 的效率要高得多。

  拾遗补零

  这里介绍其他一些可帮助提高 SQL 查询效率的常用技术。假设您将按区域对所有销售人员进行分组并将他们的销售额进行小计,但是您只想要那些数据库中标记为处于活动状态的销售人员。您可以按区域对销售人员分组,并使用 HAVING 子句消除那些未处于活动状态的销售人员,也可以在 WHERE 子句中执行此操作。在 WHERE 子句中执行此操作会减少需要分组的行数,所以比在 HAVING 子句中执行此操作效率更高。HAVING 子句中基于行的条件的筛选会强制查询对那些在 WHERE 子句中会被去除的数据进行分组。

  另一个提高效率的技巧是使用 DISTINCT 关键字查找数据行的单独报表,来代替使用 GROUP BY 子句。在这种情况下,使用 DISTINCT 关键字的 SQL 效率更高。请在需要计算聚合函数(SUM、COUNT、MAX 等)的情况下再使用 GROUP BY。另外,如果您的查询总是自己返回一个唯一的行,则不要使用 DISTINCT 关键字。在这种情况下,DISTINCT 关键字只会增加系统开销。

您已经看到了,有大量技术都可用于优化查询和实现特定的业务规则,技巧就是进行一些尝试,然后比较它们的性能。最重要的是要测试、测试、再测试。

 

 
  1. Figure 2 Returning All Customers and Their Sales   
  2.   set nocount on   
  3.   DECLARE @dtStartDate DATETIME,   
  4.   @dtEndDate DATETIME,   
  5.   @dtDate DATETIME   
  6.   SET @dtEndDate = '5/5/1997'   
  7.   SET @dtEndDate = DATEADD(DD, -1, CAST(CAST((MONTH(@dtEndDate) + 1)   
  8.   AS VARCHAR(2)) + '/01/' + CAST(YEAR(@dtEndDate) AS VARCHAR(4)) + '   
  9.   23:59:59' AS DATETIME))   
  10.   SET @dtStartDate = DATEADD(MM, -1 * 12, @dtEndDate)   
  11.   SELECT CAST(YEAR(o.OrderDate) AS VARCHAR(4)) + '-' +   
  12.   CASE   
  13.   WHEN MONTH(o.OrderDate) < 10   
  14.   THEN '0' + CAST(MONTH(o.OrderDate) AS VARCHAR(2))   
  15.   ELSE CAST(MONTH(o.OrderDate) AS VARCHAR(2))   
  16.   END AS sMonth,   
  17.   c.CustomerID,   
  18.   c.CompanyName,   
  19.   c.ContactName,   
  20.   SUM(od.Quantity * od.UnitPrice) AS mSales   
  21.   FROM Customers c   
  22.   INNER JOIN Orders o ON c.CustomerID = o.CustomerID   
  23.   INNER JOIN [Order Details] od ON o.OrderID = od.OrderID   
  24.   WHERE o.OrderDate BETWEEN @dtStartDate AND @dtEndDate   
  25.   GROUP BY   
  26.   CAST(YEAR(o.OrderDate) AS VARCHAR(4)) + '-' +   
  27.   CASE   
  28.   WHEN MONTH(o.OrderDate) < 10   
  29.   THEN '0' + CAST(MONTH(o.OrderDate) AS VARCHAR(2))   
  30.   ELSE CAST(MONTH(o.OrderDate) AS VARCHAR(2))   
  31.   END,   
  32.   c.CustomerID,   
  33.   c.CompanyName,   
  34.   c.ContactName   
  35.   ORDER BY   
  36.   c.CompanyName,   
  37.   sMonth   
  38.   Figure 3 Cartesian Product at Work   
  39.   DECLARE @tblMonths TABLE (sMonth VARCHAR(7))   
  40.   DECLARE @tblCustomers TABLE ( CustomerID CHAR(10),   
  41.   CompanyName VARCHAR(50),   
  42.   ContactName VARCHAR(50))   
  43.   DECLARE @tblFinal TABLE ( sMonth VARCHAR(7),   
  44.   CustomerID CHAR(10),   
  45.   CompanyName VARCHAR(50),   
  46.   ContactName VARCHAR(50),   
  47.   mSales MONEY)   
  48.   DECLARE @dtStartDate DATETIME,   
  49.   @dtEndDate DATETIME,   
  50.   @dtDate DATETIME,   
  51.   @i INTEGER   
  52.   SET @dtEndDate = '5/5/1997'   
  53.   SET @dtEndDate = DATEADD(DD, -1, CAST(CAST((MONTH(@dtEndDate) + 1) AS   
  54.   VARCHAR(2)) + '/01/' + CAST(YEAR(@dtEndDate) AS VARCHAR(4)) + '   
  55.   23:59:59' AS DATETIME))   
  56.   SET @dtStartDate = DATEADD(MM, -1 * 12, @dtEndDate)   
  57.   — Get all months into the first table   
  58.   SET @i = 0   
  59.   WHILE (@i < 12)   
  60.   BEGIN   
  61.   SET @dtDate = DATEADD(mm, -1 * @i, @dtEndDate)   
  62.   INSERT INTO @tblMonths SELECT CAST(YEAR(@dtDate) AS VARCHAR(4)) + '-' +   
  63.   CASE   
  64.   WHEN MONTH(@dtDate) < 10   
  65.   THEN '0' + CAST(MONTH(@dtDate) AS VARCHAR(2))   
  66.   ELSE CAST(MONTH(@dtDate) AS VARCHAR(2))   
  67.   END AS sMonth   
  68.   SET @i = @i + 1   
  69.   END   
  70.   — Get all clients who had sales during that period into the "y" table   
  71.   INSERT INTO @tblCustomers   
  72.   SELECT DISTINCT   
  73.   c.CustomerID,   
  74.   c.CompanyName,   
  75.   c.ContactName   
  76.   FROM Customers c   
  77.   INNER JOIN Orders o ON c.CustomerID = o.CustomerID   
  78.   WHERE o.OrderDate BETWEEN @dtStartDate AND @dtEndDate   
  79.   INSERT INTO @tblFinal   
  80.   SELECT m.sMonth,   
  81.   c.CustomerID,   
  82.   c.CompanyName,   
  83.   c.ContactName,   
  84.   0   
  85.   FROM @tblMonths m CROSS JOIN @tblCustomers c   
  86.   UPDATE @tblFinal SET   
  87.   mSales = mydata.mSales   
  88.   FROM @tblFinal f INNER JOIN   
  89.   (   
  90.   SELECT c.CustomerID,   
  91.   CAST(YEAR(o.OrderDate) AS VARCHAR(4)) + '-' +   
  92.   CASE WHEN MONTH(o.OrderDate) < 10   
  93.   THEN '0' + CAST(MONTH(o.OrderDate) AS VARCHAR(2))   
  94.   ELSE CAST(MONTH(o.OrderDate) AS VARCHAR(2))   
  95.   END AS sMonth,   
  96.   SUM(od.Quantity * od.UnitPrice) AS mSales   
  97.   FROM Customers c   
  98.   INNER JOIN Orders o ON c.CustomerID = o.CustomerID   
  99.   INNER JOIN [Order Details] od ON o.OrderID = od.OrderID   
  100.   WHERE o.OrderDate BETWEEN @dtStartDate AND @dtEndDate   
  101.   GROUP BY   
  102.   c.CustomerID,   
  103.   CAST(YEAR(o.OrderDate) AS VARCHAR(4)) + '-' +   
  104.   CASE WHEN MONTH(o.OrderDate) < 10   
  105.   THEN '0' + CAST(MONTH(o.OrderDate) AS VARCHAR(2))   
  106.   ELSE CAST(MONTH(o.OrderDate) AS VARCHAR(2))   
  107.   END   
  108.   ) mydata on f.CustomerID = mydata.CustomerID AND f.sMonth =   
  109.   mydata.sMonth   
  110.   SELECT f.sMonth,   
  111.   f.CustomerID,   
  112.   f.CompanyName,   
  113.   f.ContactName,   
  114.   f.mSales   
  115.   FROM @tblFinal f   
  116.   ORDER BY   
  117.   f.CompanyName,   
  118.   f.sMonth 

 

本文转自sucre03 51CTO博客,原文链接:http://blog.51cto.com/sucre/380290,如需转载请自行联系原作者

相关实践学习
使用SQL语句管理索引
本次实验主要介绍如何在RDS-SQLServer数据库中,使用SQL语句管理索引。
SQL Server on Linux入门教程
SQL Server数据库一直只提供Windows下的版本。2016年微软宣布推出可运行在Linux系统下的SQL Server数据库,该版本目前还是早期预览版本。本课程主要介绍SQLServer On Linux的基本知识。 相关的阿里云产品:云数据库RDS&nbsp;SQL Server版 RDS SQL Server不仅拥有高可用架构和任意时间点的数据恢复功能,强力支撑各种企业应用,同时也包含了微软的License费用,减少额外支出。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/sqlserver
相关文章
|
7天前
|
SQL 人工智能 算法
【SQL server】玩转SQL server数据库:第二章 关系数据库
【SQL server】玩转SQL server数据库:第二章 关系数据库
46 10
|
1月前
|
SQL 数据库 数据安全/隐私保护
Sql Server数据库Sa密码如何修改
Sql Server数据库Sa密码如何修改
|
17天前
|
SQL
启动mysq异常The server quit without updating PID file [FAILED]sql/data/***.pi根本解决方案
启动mysq异常The server quit without updating PID file [FAILED]sql/data/***.pi根本解决方案
15 0
|
7天前
|
SQL 算法 数据库
【SQL server】玩转SQL server数据库:第三章 关系数据库标准语言SQL(二)数据查询
【SQL server】玩转SQL server数据库:第三章 关系数据库标准语言SQL(二)数据查询
64 6
|
7天前
|
SQL 存储 数据挖掘
数据库数据恢复—RAID5上层Sql Server数据库数据恢复案例
服务器数据恢复环境: 一台安装windows server操作系统的服务器。一组由8块硬盘组建的RAID5,划分LUN供这台服务器使用。 在windows服务器内装有SqlServer数据库。存储空间LUN划分了两个逻辑分区。 服务器故障&初检: 由于未知原因,Sql Server数据库文件丢失,丢失数据涉及到3个库,表的数量有3000左右。数据库文件丢失原因还没有查清楚,也不能确定数据存储位置。 数据库文件丢失后服务器仍处于开机状态,所幸没有大量数据写入。 将raid5中所有磁盘编号后取出,经过硬件工程师检测,没有发现明显的硬件故障。以只读方式将所有磁盘进行扇区级的全盘镜像,镜像完成后将所
数据库数据恢复—RAID5上层Sql Server数据库数据恢复案例
|
11天前
|
SQL 安全 Java
SQL server 2017安装教程
SQL server 2017安装教程
14 1
|
20天前
|
SQL 关系型数据库 MySQL
【MySQL技术之旅】(7)总结和盘点优化方案系列之常用SQL的优化
【MySQL技术之旅】(7)总结和盘点优化方案系列之常用SQL的优化
36 1
|
25天前
|
SQL 存储 Python
Microsoft SQL Server 编写汉字转拼音函数
Microsoft SQL Server 编写汉字转拼音函数
|
1月前
|
SQL 存储 数据库
数据安全无忧,SQL Server 2014数据库定时备份解密
数据安全无忧,SQL Server 2014数据库定时备份解密
|
1月前
|
SQL 网络协议 Windows
破解SQL Server迷局,彻底解决“管道的另一端无任何进程错误233”
破解SQL Server迷局,彻底解决“管道的另一端无任何进程错误233”