LOB对象在数据泵导出、导入后查询对象数量发现丢失

问题描述：
问题：源库的某个Schema使用数据泵Expdp元数据整体导出，在目标库导入且成功后，逻辑验证用户对象，发现缺失。分析查询后，缺失的对象，都是LOB类型（并不是所有的LOB都无法导入，是大部分LOB类型的对象）

#以下逻辑验证，SQL执行，对比源库、目标库数据
#以下语句特点：测试环境，还原状况模拟：数据无法完全重现

SQL> select OBJECT_TYPE,count(*) from dba_objects where owner='SCOTT' group by object_type

OBJECT_TYPE           COUNT(*)

------------------- ----------

SEQUENCE

TABLE PARTITION

LOB

TABLE

INDEX                   

#通过上述操作对比：发现LOB对象，少了100多个，但是有的LOB字段却能导入

疑问？  什么样的情况下LOB会缺失？

是EXPDP根本不导出，还是导入报错，不创建？

诊断思路： 没有什么好的方法：直接查询MOS

LOB EXPORT

LOB OBJECTS APPEAR TO BE LOST AFTER THE Export/import PROCESSES

ID 1595391.1

MOS信息截取：

适用于：

Oracle数据库 - 企业版 - 版本11.2.0.1至12.1.0.1 [版本11.2至12.1]

本文档中的信息适用于任何平台

导出/导入后，许多LOB对象似乎丢失。

select object_type, count(*)

from obj

group by object_type

order by object_type;

OBJECT_TYPE COUNT(*)

-------------------------------

LOB                   676

SQL> select object_type, count(*)

from obj

group by object_type

order by object_type;

OBJECT_TYPE COUNT(*)

------------------- ----------

LOB                     429

在导出/导入过程中，有247个LOB对象丢失，但导入没有报告任何类型的错误。

drop table lob;

在这种情况下，因为有些对象已被丢弃，但仍处于回收站中。

需要清除recyclebin以从obj中删除这些条目，或者使用user_lobs而不是执行查询。

问题解决：

#验证：使用查询即可：查询回收站中，LOB类型的对象数量，验证是否导入缺失的LOB数量对比

select type,count(*) from dba_recyclebin where owner='SCOTT' and type='LOB' group by type

TYPE                        COUNT(*)

------------------------- ----------

LOB

#本次导入后，对象数量对比，通过上述SQL查询，正好匹配：视图dba_objects中，object_type='LOB'类型的对象缺失数量=   dba_recyclebin中的查询数量

有什么好的方式可以减少这种现象：

#查询回收站

SQL> show recyclebin

ORIGINAL NAME    RECYCLEBIN NAME                OBJECT TYPE  DROP TIME

---------------- ------------------------------ ------------ -------------------

ID               BIN$aO6HsIdlTr3gU4AUqMDssg==$ TABLE        --:::

ID               BIN$aO6HsIdkTr3gU4AUqMDssg==$ TABLE       --:::

#清空回收站

SQL> purge recyclebin;

Recyclebin purged.

#小结:   在执行数据泵导出前，清空回收站

SQL> select type,count(*) from dba_recyclebin where owner='SCOTT' and type='LOB' group by type;

no rows selected

问题总结：其实这不是故障，而是一种特性：

我们通过obj视图去验证数量，Oracle数据库drop table xx(no purge)(no clear recyclebin)( and exists LOB column )时，LOB字段在视图obj中，status状态还是vaild, 也就是说：drop table 操作后的LOB对象类型，在视图中存在，但是Export数据泵不导出，因此统计对比发生误差；

如果导入数据后，对比对象数量：继续使用dba_objects中 object_type统计LOB字段对比：可以事先查询：源库回收站中的LOB类型数量，统计减去OK； 或者清空源库回收站，避免回收站内的LOB字段造成，统计干扰

在user_lobs视图统计用户下的LOB数量更为准确

#如下测试：

2流程：

2.1源库中，SCOTT用户创建一个LOB字段的表：查询信息

2.2源库中，将使用数据泵导出SCOTT整个用户、导入成功后再次查询，对比

2.3源库中，源表drop table xx(不加purge)，信息存放在回收站，查询此特点

2.4源库中，将源库中的drop table后的整个schema导出，导入目标库，查询对比

2.5 测试，使用drop table xx purge;是否可以将LOB字段的表drop，级联删除LOB字段对象

2.6使用一条SQL语句，查询出回收站内LOB类型的对象数量，用于验证

2.7反向：知道这个特点，有什么用

 

 

 

 

2流程：

2.1源库中，SCOTT用户创建一个LOB字段的表：查询信息

2.2源库中，将使用数据泵导出SCOTT整个用户、导入成功后再次查询，对比

2.3源库中，源表drop table xx(不加purge)，信息存放在回收站，查询此特点

2.4源库中，将源库中的drop table后的整个schema导出，导入目标库，查询对比

2.5 测试，使用drop table xx purge;是否可以将LOB字段的表drop，级联删除LOB字段对象

2.6使用一条SQL语句，查询出回收站内LOB类型的对象数量，用于验证

 

2.7 有什么可以避免，或者说更好的准备方法

 

2.1.0源库中，SCOTT用户下，创建一个LOB字段的表

.1创建测试表（包含LOB字段）：

SQL> create table loba(id int,name clob) tablespace users;

2.1. 查询用户信息：发现创建一个LOB字段的表：自动创建SYS命名的LOB index and LOB segments

SQL> select object_name,object_type,status from user_objects;

OBJECT_NAME                           OBJECT_TYPE         STATUS

--------------------------------------------------------------------------------

LOBA                                      TABLE               VALID

SYS_IL0000089677C00002$$                  INDEX               VALID

SYS_LOB0000089677C00002$$                 LOB                 VALID

2.1.3查询视图：用户下LOB字段的相关信息

SQL> select TABLE_NAME,COLUMN_NAME,SEGMENT_NAME,TABLESPACE_NAME,INDEX_NAME from user_lobs;

TABLE    COLUMN      SEGMENT                  TABLESPACE_NAME    INDEX_NAME

------------------------------ ------------------------------

LOBA    NAME  SYS_LOB0000089677C00002$$   USERS   SYS_IL0000089677C00002$$

2.1.4查询用户下的对象信息

SQL> select OBJECT_NAME,STATUS,object_id from user_objects;

SYS_IL0000089677C00002$$            VALID

SYS_LOB0000089677C00002$$           VALID

LOBA                                VALID

 

 

2.2将源库中数据泵导出SCOTT整个用户、导入目标库SONG用户成功后再次查询，对比

2.2.1导出：

expdp  \'/ as sysdba\' DIRECTORY=yang logfile=scott.log DUMPFILE=scott.dmp schemas='scott' CONTENT=METADATA_ONLY

2.2.2dump文件传输

$ scp scott* 192.168.20.67:/home/oracle/.

2.2.3导入：

impdp \'/ as sysdba\' directory=yang dumpfile=scott.dmp remap_schema=scott:song remap_tablespace=users:abc

2.2.4查询对比：

#对比发现：导入的表是新建的，JOB段也是新建，命名规则中使用了表的OBJECT_ID，因此导入的表，对象除了表明相同，JOB字段、索引都不同

select OBJECT_NAME,STATUS,object_id from user_objects;

OBJECT_NAME                        STATUS   OBJECT_ID

----------------------------------- ------- ----------

LOBA                             VALID

SYS_IL0000015471C00002$$         VALID

SYS_LOB0000015471C00002$$        VALID        

2.3源库中，源表drop table xx(不加purge)，信息存放在回收站，查询此特点

 

#查询对象类型，对象数量

SQL> select count(*),status,OBJECT_TYPE from user_objects group by status,object_type;

 COUNT(*) STATUS  OBJECT_TYPE

---------- ------- -------------------

          VALID   TABLE PARTITION

         VALID   TABLE

          VALID   SEQUENCE

          VALID   INDEX

          VALID   LOB

#源库drop LOB字段的测试表

SQL> drop table loba;

#从用户对象角度上，查询得到：LOB字段的表，drop 删除后，TABLE AND INDEX都删除了，LOB段保留且有效

SQL> select count(*),status,OBJECT_TYPE from user_objects group by status,object_type;

  COUNT(*) STATUS  OBJECT_TYPE

---------- ------- -------------------

          VALID   TABLE PARTITION

         VALID   TABLE

          VALID   SEQUENCE

          VALID   INDEX

          VALID   LOB

#查询用户下的LOB段

SQL> select object_name,OBJECT_TYPE,status from user_objects where object_type='LOB';

OBJECT_NAME                         OBJECT_TYPE         STATUS

----------------------------------- ------------------- -------

SYS_LOB0000089677C00002$$           LOB                 VALID

SQL> select * from cat;

BIN$aO6HsIdjTr3gU4AUqMDssg==$ TABLE

#查询用户下的LOBS相关信息：

select TABLE_NAME,COLUMN_NAME,SEGMENT_NAME,TABLESPACE_NAME,INDEX_NAME from user_lobs;

NULL

 

2.4查询数据泵是否导出应用源库中drop table后，继续存在的lob段对象

源库导出：

expdp  \'/ as sysdba\' DIRECTORY=yang logfile=scott02.log DUMPFILE=scott02.dmp schemas='scott' CONTENT=METADATA_ONLY

dump文件传输

$ scp scott* 192.168.20.67:/home/oracle/.

目标库：创建测试用户，授予权限

SQL> drop user song cascade;

SQL> create user song identified by song default tablespace abc;

SQL> grant connect,resource to song;

SQL> grant read,write on directory yang to song;

目标库导入：

impdp \'/ as sysdba\' directory=yang dumpfile=scott02.dmp remap_schema=scott:song remap_tablespace=users:abc

导入成功后：验证

#源库：

SQL> select count(*) from user_objects;

----------

        15

#源库查询：对象类型：

  COUNT(*) STATUS  OBJECT_TYPE

---------- ------- -------------------

         2 VALID   TABLE PARTITION

         9 VALID   TABLE

         1 VALID   SEQUENCE

         2 VALID   INDEX

         1 VALID   LOB

#目标库

SQL> select count(*) from user_objects;

----------

        14

#目标库查询：对象类型：

SQL> select count(*),status,OBJECT_TYPE from user_objects group by status,object_type;

  COUNT(*) STATUS  OBJECT_TYPE
---------- ------- -------------------

         2 VALID   TABLE PARTITION

         9 VALID   TABLE

         1 VALID   SEQUENCE

         2 VALID   INDEX

#目标库查询：当前用户下LOB字段视图查询：

SQL> select TABLE_NAME,COLUMN_NAME,SEGMENT_NAME,TABLESPACE_NAME,INDEX_NAME from user_lobs;

no rows selected

#目标库查询：源端回收站的表：不导出

SQL> select object_name,object_type,status from user_objects where object_name='LOBA';

no rows selected

#目标库查询：

SQL> select index_name,status from user_indexes where table_name='LOBA';

no rows selected

#小结：源库中包含LOB字段的表，drop删除操作，LOB对象继续存在，数据泵对象导出导入后，验证对象数量，可以去除此干扰信息：

 

 

 

 

2.5DROP TABLE  xx purge

（表中包含LOB字段类型，系统自动创建的段，是否也会被删除，还是继续存在）

SQL> create table loba(id int,name clob) tablespace users;

SQL> select TABLE_NAME,COLUMN_NAME,SEGMENT_NAME,TABLESPACE_NAME,INDEX_NAME from user_lobs;

TABLE    COLUMN      SEGMENT                  TABLESPACE_NAME    INDEX_NAME

------------------------------ ------------------------------

LOBA     NAME    SYS_LOB0000015553C00002$$      USERS  SYS_IL0000015553C00002$$

#查询LOB的表，LOB段，索引

SQL> select object_name,object_type,status from user_objects where object_name 
 in ('LOBA','SYS_LOB0000015553C00002$$','SYS_IL0000015553C00002$$');

OBJECT_NAME                          OBJECT_TYPE         STATUS

-------------------------------------------------------------

LOBA                                  TABLE               VALID

SYS_IL0000015553C00002$$              INDEX               VALID

SYS_LOB0000015553C00002$$             LOB                 VALID

#DROP

SQL> drop table loba purge;

#再次查询：记录清除

SQL> select object_name,object_type,status from user_objects where object_name 
 in ('LOBA','SYS_LOB0000015553C00002$$','SYS_IL0000015553C00002$$');

no rows selected

#查询用户下的LOB信息，也被删除

SQL> select * from user_lobs;

no rows selected

小结：drop table xx purge;后，会级联删除LOB对象信息

 

 

 

2.6：测试：删除的LOB段，在视图recyclebin中有什么明确记录

SQL>  select type,count(*) from dba_recyclebin where owner='SCOTT' and type='LOB' group by type;

no rows selected

SQL> create table scott.id(i int,name blob,last clob);

SQL> drop table scott.id;

#验证：使用查询即可：查询回收站中，LOB类型的对象数量，验证是否导入缺失的LOB数量对比

select type,count(*) from dba_recyclebin where owner='SCOTT' and type='LOB' group by type

TYPE                        COUNT(*)

------------------------- ----------

LOB                                2

#验证：使用如下查询，可以查询出，在回收站中记录的对象: lob对象名称

SQL> select OWNER,OBJECT_NAME,OBJECT_TYPE,STATUS from dba_objects where owner='SCOTT' and object_type='LOB';

OWNER      OBJECT_NAME                         OBJECT_TYP STATUS

---------- ----------------------------------- ---------- -------

SCOTT      SYS_LOB0000089722C00003$$           LOB        VALID

SCOTT      SYS_LOB0000089722C00002$$           LOB        VALID

 

2.7:对于出现的问题：有什么方法可以避免：例如purge 回收站，是否会删除不该继续存在的LOB对象

#查询回收站

SQL> show recyclebin

ORIGINAL NAME    RECYCLEBIN NAME                OBJECT TYPE  DROP TIME

---------------- ------------------------------ ------------ -------------------

ID               BIN$aO6HsIdlTr3gU4AUqMDssg==$0 TABLE        2018-04-03:17:51:14

ID               BIN$aO6HsIdkTr3gU4AUqMDssg==$0 TABLE       2018-04-03:17:35:05

#清空回收站

SQL> purge recyclebin;

Recyclebin purged.

#小结:   在执行数据泵导出前，清空回收站，可以避免此场景

SQL> select type,count(*) from dba_recyclebin where owner='SCOTT' and type='LOB' group by type;

no rows selected

#或者计算对象时：减去回收站内的LOB对象数量