Pandas重新索引以填充缺失的日期，还是更好的填充方法？

a8jjtwal 于 2023-09-29 发布在其他

关注(0)|答案(2)|浏览(94)

我的数据是一家工厂的缺勤记录。有些日子没有缺勤，因此没有记录该天的数据或日期。然而，在其他例子中，在任何一天都可能因为各种原因而缺席几次。数据中的日期与记录的比率并不总是1：1。
我希望的结果是这样的：

(index)    Shift        Description     Instances (SUM)
01-01-14   2nd Baker    Discipline      0
01-01-14   2nd Baker    Vacation        0
01-01-14   1st Cooks    Discipline      0
01-01-14   1st Cooks    Vacation        0
01-02-14   2nd Baker    Discipline      4
01-02-14   2nd Baker    Vacation        3
01-02-14   1st Cooks    Discipline      3
01-02-14   1st Cooks    Vacation        3

以此类推。我们的想法是，所有班次和描述都将具有时间段内所有日期的值（在本例中为1/1/2014 - 12/31/2014）
我读过几个例子，最接近这个工作的是here。

ts = pd.read_csv('Absentee_Data_2.csv'
                , encoding = 'utf-8'
                ,parse_dates=[3]
                ,index_col=3
                ,dayfirst=True
                )

idx =  pd.date_range('01.01.2009', '12.31.2017')

ts.index = pd.DatetimeIndex(ts.index)
# ts = ts.reindex(idx, fill_value='NaN')
df = pd.DataFrame(index = idx)
df1 = df.join(ts, how='left')

但是，当我取消注解ts = ts.reindex(idx, fill_value='NaN')时，我得到错误消息。我已经尝试了至少10种其他方法来完成我正在努力做的事情，所以我不能100%确定这是正确的道路，但它似乎让我最接近任何形式的进步。
以下是一些示例数据：

Description Unexcused   Instances   Date        Shift
Discipline  FALSE              1    Jan 2 2014  2nd Baker
Vacation    TRUE               2    Jan 2 2014  1st Cooks
Discipline  FALSE              3    Jan 2 2014  2nd Baker
Vacation    TRUE               1    Jan 2 2014  1st Cooks
Discipline  FALSE              2    Apr 8 2014  2nd Baker
Vacation    TRUE               3    Apr 8 2014  1st Cooks
Discipline  FALSE              1    Jun 1 2014  2nd Baker
Vacation    TRUE               2    Jun 1 2014  1st Cooks
Discipline  FALSE              3    Jun 1 2014  2nd Baker
Vacation    TRUE               1    Jun 1 2014  1st Cooks
Vacation    TRUE               2    Jul 5 2014  1st Cooks
Discipline  FALSE              3    Jul 5 2014  2nd Baker
Vacation    TRUE               2    Dec 3 2014  1st Cooks

提前感谢你的帮助，我是一个新手，2天进入这个没有太大的进展。我真的很感激这里的人如何帮助回答问题，但最重要的是指导为什么解决方案有效。

pandas

来源：https://stackoverflow.com/questions/45506038/pandas-reindex-to-fill-missing-dates-or-better-method-to-fill

2条答案

按热度按时间

yhxst69z1#

我想你只是对日期时间的使用有问题，这种方法对我很有效

ts.set_index(['Date'],inplace=True)
ts.index = pd.to_datetime(ts.index,format='%b %d %Y')
d2 = pd.DataFrame(index=pd.date_range('2014-01-01','2014-12-31'))

print ts.join(d2,how='right')

赞(0）回复(0）举报 2023-09-29

8ehkhllq2#

实际上，你已经非常接近你想要的了（假设我正确理解了你想要的输出）。请看我对上面代码的补充：

import pandas as pd

ts = pd.read_csv('Absentee_Data_2.csv', encoding = 'utf-8',parse_dates=[3],index_col=3,dayfirst=True, sep=",")

idx =  pd.date_range('01.01.2009', '12.31.2017')

ts.index = pd.DatetimeIndex(ts.index)
#ts = ts.reindex(idx, fill_value='NaN')
df = pd.DataFrame(index = idx)
df1 = df.join(ts, how='left')
df2 = df1.copy()
df3 = df1.copy()
df4 = df1.copy()
dict1 = {'Description': 'Discipline', 'Instances': 0, 'Shift': '1st Cooks'}
df1 = df1.fillna(dict1)
dict1["Description"] = "Vacation"
df2 = df2.fillna(dict1)
dict1["Shift"] = "2nd Baker"
df3 = df3.fillna(dict1)
dict1["Description"] = "Discipline"
df4 = df4.fillna(dict1)
df_with_duplicates = pd.concat([df1,df2,df3,df4])
final_res = df_with_duplicates.reset_index().drop_duplicates(subset=["index"] + list(dict1.keys())).set_index("index").drop("Unexcused", axis=1)

基本上，你会添加：

将用ts创建的几乎为空的df复制4次（df1）
fillna(dict1)允许用静态值填充列中的所有NaN
串联4DFS，我们仍然需要删除一些重复的值，因为CSV中的原始值重复了4次
删除重复项，我们需要索引来保存添加的值，因此reset_index后跟`set_index（“index”）
最后删除“Unexcused”列

最后是几个输出：

In [5]: final_res["2013-01-2"]
Out[5]: 
           Description  Instances      Shift
index                                       
2013-01-02  Discipline        0.0  1st Cooks
2013-01-02    Vacation        0.0  1st Cooks
2013-01-02    Vacation        0.0  2nd Baker
2013-01-02  Discipline        0.0  2nd Baker

In [6]: final_res["2014-01-2"]
Out[6]: 
           Description  Instances       Shift
index                                        
2014-01-02  Discipline        1.0   2nd Baker
2014-01-02    Vacation        2.0   1st Cooks
2014-01-02  Discipline        3.0   2nd Baker
2014-01-02    Vacation        1.0   1st Cooks
1

赞(0）回复(0）举报 2023-09-29

我来回答

Pandas重新索引以填充缺失的日期，还是更好的填充方法？

2条答案

相关问题

热门标签

最新问答