oracle存储海量数据 设计方案

日历基本活动表的数据有四千万条,在这些生产库业务中是小的了。

从三个方面提高效率;

1.sql语句

要绑定变量,sql语句书写规范这些,包括的就多了。主要目的就是提高数据库吞吐量及业务SQL响应时间。

2.表设计

是否按范式设计,是否违反范式设计采用容易,减少查询语句的表关联等

3.从db角度是执行计划

保证正确的SQL执行计划

------------------------------------------下面我们详细分析--------------------------------------------

sql语句方面:

1.SQL优化的原则是:将一次操作需要读取的BLOCK数减到最低,即在最短的时间达到最大的数据吞吐量。 
调整不良SQL通常可以从以下几点切入: 
检查不良的SQL,考虑其写法是否还有可优化内容 
检查子查询 考虑SQL子查询是否可以用简单连接的方式进行重新书写 
检查优化索引的使用 
考虑数据库的优化器 
2. 避免出现SELECT * FROM table 语句,要明确查出的字段。 
3. 在一个SQL语句中,如果一个where条件过滤的数据库记录越多,定位越准确,则该where条件越应该前移。 
4. 查询时尽可能使用索引覆盖。即对SELECT的字段建立复合索引,这样查询时只进行索引扫描,不读取数据块。 
5. 在判断有无符合条件的记录时建议不要用SELECT COUNT (*)和select top 1 语句。 
6. 使用内层限定原则,在拼写SQL语句时,将查询条件分解、分类,并尽量在SQL语句的最里层进行限定,以减少数据的处理量。 
7. 应绝对避免在order by子句中使用表达式。 
8. 如果需要从关联表读数据,关联的表一般不要超过7个。 
9. 小心使用 IN 和 OR,需要注意In集合中的数据量。建议集合中的数据不超过200个。 
10. <> 用 < 、 > 代替,>用>=代替,<用<=代替,这样可以有效的利用索引。 
11. 在查询时尽量减少对多余数据的读取包括多余的列与多余的行。 
12. 对于复合索引要注意,例如在建立复合索引时列的顺序是F1,F2,F3,则在where或order by子句中这些字段出现的顺序要与建立索引时的字段顺序一致,且必须包含第一列。只能是F1或F1,F2或F1,F2,F3。否则不会用到该索引。 
13. 多表关联查询时,写法必须遵循以下原则,这样做有利于建立索引,提高查询效率。格式如下select sum(table1.je) from table1 table1, table2 table2, table3 table3 where (table1的等值条件(=)) and (table1的非等值条件) and (table2与table1的关联条件) and (table2的等值条件) and (table2的非等值条件) and (table3与table2的关联条件) and (table3的等值条件) and (table3的非等值条件)。 
注:关于多表查询时from 后面表的出现顺序对效率的影响还有待研究。 
14. 子查询问题。对于能用连接方式或者视图方式实现的功能,不要用子查询。例如:select name from customer where customer_id in ( select customer_id from order where money>1000)。应该用如下语句代替:select name from customer inner join order on customer.customer_id=order.customer_id where order.money>100。 
15. 在WHERE 子句中,避免对列的四则运算,特别是where 条件的左边,严禁使用运算与函数对列进行处理。比如有些地方 substring 可以用like代替。 
16. 如果在语句中有not in(in)操作,应考虑用not exists(exists)来重写,最好的办法是使用外连接实现。 
17. 对一个业务过程的处理,应该使事物的开始与结束之间的时间间隔越短越好,原则上做到数据库的读操作在前面完成,数据库写操作在后面完成,避免交叉。 
18. 请小心不要对过多的列使用列函数和order by,group by等,谨慎使用disti软件开发t。 
19. 用union all 代替 union,数据库执行union操作,首先先分别执行union两端的查询,将其放在临时表中,然后在对其进行排序,过滤重复的记录。 
当已知的业务逻辑决定query A和query B中不会有重复记录时,应该用union all代替union,以提高查询效率。
数据更新的效率 
1. 在一个事物中,对同一个表的多个insert语句应该集中在一起执行。 
2. 在一个业务过程中,尽量的使insert,update,delete语句在业务结束前执行,以减少死锁的可能性。 

表设计
为了避免I/O的冲突,我们在设计数据库物理规划时应该遵循几条基本的原则(以ORACLE举例): 
1.table和index分离:table和index应该分别放在不同的tablespace中。 
2.Rollback Segment的分离:Rollback Segment应该放在独立的Tablespace中。 
3.System Tablespace的分离:System Tablespace中不允许放置任何用户的object。(mssql中primary filegroup中不允许放置任何用户的object) 
4.Temp Tablesace的分离:建立单独的Temp Tablespace,并为每个user指定default Temp Tablespace 
5.避免碎片:但segment中出现大量的碎片时,会导致读数据时需要访问的block数量的增加。对经常发生DML操作的segemeng来说,碎片是不能完全避免的。所以,我们应该将经常做DML操作的表和很少发生变化的表分离在不同的Tablespace中。 
当我们遵循了以上原则后,仍然发现有I/O冲突存在,我们可以用数据分离的方法来解决。 
6.连接Table的分离:在实际应用中经常做连接查询的Table,可以将其分离在不同的Taclespace中,以减少I/O冲突。 
7.使用分区:对数据量很大的Table和Index使用分区,放在不同的Tablespace中。 
在实际的物理存储中,建议使用RAID。日志文件应放在单独的磁盘中。

执行计划

有单独文章介绍,详细见http://www.cnblogs.com/wanghongye/p/5047422.html

---------------------------------------------数据库的分区---------------------------------------------

彩信数据库使用的是范围hash分区。对datenum这个字段进行ora_hash,把数据放到不同的分区中,建立起datenum和分区的对应关系。

注:ORA_HASH(expr,max_bucket,seed_value)计算字符串的hash值

1 --查询mms_collect_frame的datenum的分区情况
2 select DATENUM,ora_hash(DATENUM,15,0) from mms_collect_frame order by datenum;
3 --查询P_201601分区中的数据
4 select * from mms_collect_frame partition(P_201601);

采用他们分解成较小和易于管理的称为分区的片(piece)的方法。一旦分区被定义,SQL语句就可以访问的操作某一个分区而不是整个表,因而提高管理的效率。分区对于数据仓库应用程序非常有效,因为他们常常存储和分析巨量的历史数据。 

如何对数据进行分区,分区表的分类 

Range partitioning(范围分区) 
Hash partitioning(哈希分区) 
List partitioning(列表分区) 
Composite range-hash partitioning(范围-哈希组合分区) 
Composite range-list partitioning(范围-列表组合分区) 

---------------------------------------------索引为什么不是越多越好-----------------------------------

索引和tabel分开管理,单独维护需要代价

在DML中,使用索引select可能比较高,但是insert等效率会变低

索引过多执行计划变低

 

 参考:http://www.imooc.com/article/1204

 

原文地址:https://www.cnblogs.com/wanghongye/p/5204895.html