我试图找出Pig关系中两个不同时间域之间的区别。我可以使用pig的todate()方法,但它应该是hhmm格式。但是,它没有前导零。例如,如果这两个字段的值分别为1245和1425,我可以通过使用todate转换它们来找到差异。但是,如果值是945和823,则无法使用todate进行转换,因为没有前导零。
不过,我编写了一个python udf,试图左填充一个0。请在下面找到代码
@outputSchema("time:bytearray")
def zero(time):
time = str(time)
if len(time)<= 3:
return '0'+ time
else:
return time
步骤1:注册python函数
REGISTER '/home/Jig13517/zeropad.py' using jython AS myfuncs ;
请找到下面的关系
Airlines_data_schema = LOAD '/user/Jig13517/pigsample/Airlines_data.csv' USING PigStorage('\t') AS (Year,Month,DayofMonth,DayofWeek,DepTime_actual,CRSDeptime,Arrtime_actual,CRSArrtime,UniqueCarrier,FlightNum,TailNum_Plane,ActualElapsedTime,CRSElapsedTime,Airtime,Arrdelay,Depdelay,Origin,Dest,Distance,Taxiin,Taxiout,Cancelled,CancellationCode,Diverted,CarrierDelay,WeatherDelay,NASDelay,SecurityDelay,LateAircraftDelay);
=====================================
然后我试着用零填充列值
airlines_new = FOREACH Airlines_data_schema GENERATE Year,Month,DayofMonth,DayofWeek,myfuncs.zero($4) AS DepTime_actual_new,myfuncs.zero($5) AS CRSDeptime_new,myfuncs.zero($6) AS Arrtime_actual_new,myfuncs.zero($7) AS CRSArrtime_new,UniqueCarrier,FlightNum,TailNum_Plane,ActualElapsedTime,CRSElapsedTime,Airtime,Arrdelay,Depdelay,Origin,Dest,Distance,Taxiin,Taxiout,Cancelled,CancellationCode,Diverted,CarrierDelay,WeatherDelay,NASDelay,SecurityDelay,LateAircraftDelay ;
===============================
应用python自定义项后的示例数据
(2008,1,3,4,617,615,652,650,WN,11,N689SW,95,95,70,2,2,IND,MCI,451,6,19,0,,0,NA,NA,NA,NA,NA,,,,None,None,None,None,,,,,,,,,,,,,,,,,,,,,)
但我们可以看到上面它没有转换列值。我得到相同的领域不变。请让我知道我的自定义项有什么问题,或者有没有什么pig方法来完成这个任务。
2条答案
按热度按时间svgewumm1#
嘿@cricket\u007我成功了。我以bytearray的身份通过了列字段,这是我犯的错误。当我把模式改为chararray时,它开始填充零。谢谢。请查看以下更正记录:
(2008,1,3,40617061506520650,wn,11,n689sw,95,95,70,2,2,ind,mci,451,6,19,0,0,na,na,na,na)(2008,1,3,40628062008040750,wn,448,n428wn,96,90,76,14,8,ind,bwi,515,3,17,0,,0,na,na,na)
hs1rzwqc2#
这个
str.zfill
功能可能会有所帮助输入文件
清管器自定义项.py
时间格式化程序.pig
输出
显然,你可以让python
todate
函数本身。。。另外,我不清楚你的问题,如果分钟是零填充。
编辑
航空公司.csv
清管器代码
输出