(pandas) Fill NaN на основе группового и столбцового условий

Question

Использование «bfill» или «ffill» для элемента groupby является тривиальным, но что, если вам нужно заполнить na определенным значением во втором столбце на основе условие в третьей колонке?

Например:

>>> df=pd.DataFrame({'date':['01/10/2017', '02/09/2017', '02/10/2016','01/10/2017', '01/11/2017', '02/10/2016'], 'a':[1,1,1,2,2,2], 'b':[4,np.nan,6, 5, np.nan, 7]}) 
>>> df 
    a b  date 
0 1 4.0 01/10/2017 
1 1 NaN 02/09/2017 
2 1 6.0 02/10/2016 
3 2 5.0 01/10/2017 
4 2 NaN 01/11/2017 
5 2 7.0 02/10/2016 

мне нужно группы по столбцу «а», и заполнить NaN со значением столбца «B», где дата для этой строки ближе всего к дате в строке NaN ,

Так вывод должен выглядеть следующим образом:

a b  date 
0 1 4.0 01/10/2017 
1 1 6.0 02/09/2017 
2 1 6.0 02/10/2016 
3 2 5.0 01/10/2017 
4 2 5.0 01/11/2017 
5 2 7.0 02/10/2016 

Предположим, что существует функция closest_date(), который принимает дату NaN и список других дат в этой группе, и возвращает ближайшую дату.

Я пытаюсь найти чистое решение, которое не требует итерации по строкам, идеально подходящее для использования apply() с lambdas. Есть идеи?

Answer 1

Это должно работать:

df['closest_date_by_a'] = df.groupby('a')['date'].apply(closest_date) 
df['b'] = df.groupby(['a', 'closest_date_by_a'])['b'].ffill().bfill() 

Учитывая функцию (closest_date()), вам нужно применить эту функцию группы так вычисляет ближайшие даты для строк в каждой группе. Затем вы можете группировать как основной столбец группировки (a), так и ближайший столбец даты (closest_date_by_a) и выполнять заполнение.

Answer 2

Убедитесь, что столбец date - это даты.

df = pd.DataFrame(
    {'date': ['01/10/2017', '02/09/2017', '02/10/2016','01/10/2017', '01/11/2017', '02/10/2016'], 
    'a':[1,1,1,2,2,2], 'b':[4,np.nan,6, 5, np.nan, 7]}) 
df.date = pd.to_datetime(df.date) 

print(df) 

    a b  date 
0 1 4.0 2017-01-10 
1 1 NaN 2017-02-09 
2 1 6.0 2016-02-10 
3 2 5.0 2017-01-10 
4 2 NaN 2017-01-11 
5 2 7.0 2016-02-10 

---

reindex Использование с method='nearest' после dropna()

def fill_with_nearest(df): 
    s = df.set_index('date').b 
    s = s.dropna().reindex(s.index, method='nearest') 
    s.index = df.index 
    return s 

df.loc[df.b.isnull(), 'b'] = df.groupby('a').apply(fill_with_nearest).reset_index(0, drop=True) 

print(df) 

    a b  date 
0 1 4.0 2017-01-10 
1 1 4.0 2017-02-09 
2 1 6.0 2016-02-10 
3 2 5.0 2017-01-10 
4 2 5.0 2017-01-11 
5 2 7.0 2016-02-10