ETL kettle 工具 提数比较慢?

背景介绍:
使用ETL 工具kettle 进行提数,连接源库使用的是DBLINK。提数过程中会形成3个日志
1、通过bat文件自动提数会产生一个日志
2、kettle资源库的日志表产生的日志

问题:
现在发现提数越来越慢,当然和数据量的增加有关系,全量提数;
而且经常报一些IO,连接不上数据库等;
以下是回退段号的问题:
ERROR 19-09 05:53:46,182 - MID_CITEMKINDORIGIN_UW表输入 - org.pentaho.di.core.exception.KettleDatabaseException:
Couldn't get row from result set
ORA-01555: 快照过旧: 回退段号 19 (名称为 "_SYSSMU19_4171774581$") 过小
at org.pentaho.di.core.database.Database.getRow(Database.java:2796)
at org.pentaho.di.core.database.Database.getRow(Database.java:2768)
at org.pentaho.di.trans.steps.tableinput.TableInput.processRow(TableInput.java:143)
at org.pentaho.di.trans.step.RunThread.run(RunThread.java:40)
at java.lang.Thread.run(Thread.java:745)
Caused by: java.sql.SQLException: ORA-01555: 快照过旧: 回退段号 19 (名称为 "_SYSSMU19_4171774581$") 过小

参与28

3同行回答

y18511664518y18511664518技术总监长城超云
分批提取,不要一次全搞,你这个明显是数据量太大了。补充一点,优化下你的语句。显示全部

分批提取,不要一次全搞,你这个明显是数据量太大了。
补充一点,优化下你的语句。

收起
金融其它 · 2017-09-19
浏览4639
  • 恩,数据量挺大的,关键相关人员经常改底层数据,所以才考虑全量,当初是按照增量来做的,另外sql优化 真的不知道怎么优化,感觉已经没有优化空间了。 您有什么好办法吗?
    2017-09-20
  • 该数据不要紧,你可以确定下他们经常修改的那些数据,如果能限制一下时间段最好了,比如2016年的不在修改,或者什么时间
    2017-09-20
  • 他们不确定什么时候修改,修改什么时间段的数据。所以很麻烦,实在不行,就告诉他们就增量提取了,至于改数就不管了
    2017-09-20
yyj1827yyj1827软件开发工程师hn
ORA-01555: 快照过旧99%是因为源表一边读一边写的原因。。。把源表按某些字段,横向或纵向划分几份数据,逐一提取,逐一提交。。。显示全部

ORA-01555: 快照过旧
99%是因为源表一边读一边写的原因。。。
把源表按某些字段,横向或纵向划分几份数据,逐一提取,逐一提交。。。

收起
软件开发 · 2017-09-19
浏览5102
  • 请问一下,横向或者纵向划分几份数据是什么意思?
    2017-09-19
amu0722amu0722CEO打毛党
可以提供下思路,改用jdbc连接数据库,进行操作,kettle的提数效率跟全量,增量关系不大,一般情况连不上数据库,需要先查找数据库的报错信息,看看是不是临时表空间跟 system表空间满了,归档模式是否需要关闭等,多方面入手测试一下。...显示全部

可以提供下思路,改用jdbc连接数据库,进行操作,kettle的提数效率跟全量,增量关系不大,一般情况连不上数据库,需要先查找数据库的报错信息,看看是不是临时表空间跟 system表空间满了,归档模式是否需要关闭等,多方面入手测试一下。

收起
生活生产服务其它 · 2017-09-19
浏览5190
  • 是用JDBC连接的数据库,另外 system表空间是一直维持在99%以上的,我是怀疑是不是并行跑sql的时候system瞬间爆满,但是有自动扩展表空间功能,扩展的太慢所以那一瞬间比较慢。
    2017-09-20
  • 可以增加表空间了,99%很高了
    2017-09-22

提问者

jdw_cognos
数据仓库工程师IBM
擅长领域: 商业智能大数据cognos

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2017-09-19
  • 关注会员:4 人
  • 问题浏览:7420
  • 最近回答:2017-09-19
  • X社区推广