金融其它 商业智能

datastage 日期问题

Hi all
有个问题想请教大家,DS在抽数、转换到转载数据的过程作,对date类型的字段默认是如何处理的?具体问题描述如下:

通过DS Job每日批量作业做了初始化,记录条数为110692244条,跑批后成功抽取110692244条。但对比数据发现近1/3的数据日期字段与上游数据不一致。部分错误数据如下表所示:


字段名处理逻辑上游集市日期抽取到的日期备注
STATIS_DT取上游表字段2013-3-181970-3-1年份和日不对,月份一致
SCORE_MID_ADJ_LMT_OUT_DT取上游表字段2011-9-271970-9-1年份和日不对,月份一致
LST_UPT_DT取系统当前时间2013-3-191970-3-1年份和日不对,月份一致

上游数据日期是正确的,但装载到目标表后部分日期就变成了1970年,问题原因一直没检查出来,通过造1000W的数据也没能重现此问题。

问题原因猜测:

1 数据量过大?目前是110692244

2 和DS JOB运行环境相关配置有关?会是哪些相关配置会影响日期的转换?

3 源数据库是teradata,目标数据库是sql server,字段类型都是date类型,在transformer的时候没有对日期类型作额外处理,DS默认是如何处理日期转换的?


谢谢各位!

参与3

2 同行回答

housheng33 housheng33 软件开发工程师 农行软件开发中心
后来怎么解决的呢?1)统一时间格式,YYYYMMDD或者YYYY-MM-DD  试试~2)teradata 的date型为字符串8位,入sql server库,再转为DATE。。。。。显示全部
后来怎么解决的呢?

1)
统一时间格式,YYYYMMDD或者YYYY-MM-DD  试试~
2)
teradata 的date型为字符串8位,入sql server库,再转为DATE。。。。。 收起
互联网服务 · 2014-03-25
浏览1049
luckytutucn luckytutucn 商业智能工程师 北京四方继保
也想知道,帮忙顶起。显示全部
也想知道,帮忙顶起。 收起
电信设备制造商 · 2013-12-11
浏览1049

提问者

onedaykoo
BI项目经理 skyon.com
评论1

相关问题

相关资料

问题状态

  • 发布时间:2013-03-22
  • 关注会员:1 人
  • 问题浏览:3003
  • 最近回答:2014-03-25
  • X社区推广