Pandasでnan値を含む行を削除する方法

多くの場合、pandas DataFrame 内の NaN 値を含む行を削除したい場合があります。幸いなことに、これは pandas Dropna()関数を使用して簡単に行うことができます。

このチュートリアルでは、次のパンダ データフレームでこの関数を使用する例をいくつか示します。

 import numpy as np
import scipy.stats as stats

#create DataFrame with some NaN values
df = pd.DataFrame({'rating': [np.nan, 85, np.nan, 88, 94, 90, 76, 75, 87, 86],
                   'points': [np.nan, 25, 14, 16, 27, 20, 12, 15, 14, 19],
                   'assists': [5, 7, 7, np.nan, 5, 7, 6, 9, 9, 5],
                   'rebounds': [11, 8, 10, 6, 6, 9, 6, 10, 10, 7]})

#view DataFrame
df


        rating points assists rebounds
0 NaN NaN 5.0 11
1 85.0 25.0 7.0 8
2 NaN 14.0 7.0 10
3 88.0 16.0 NaN 6
4 94.0 27.0 5.0 6
5 90.0 20.0 7.0 9
6 76.0 12.0 6.0 6
7 75.0 15.0 9.0 10
8 87.0 14.0 9.0 10
9 86.0 19.0 5.0 7

例 1: NaN 値を含む行を削除する

次の構文を使用して、NaN値を含むすべての行を削除できます。

 df. dropna ()

	rating points assists rebounds
1 85.0 25.0 7.0 8
4 94.0 27.0 5.0 6
5 90.0 20.0 7.0 9
6 76.0 12.0 6.0 6
7 75.0 15.0 9.0 10
8 87.0 14.0 9.0 10
9 86.0 19.0 5.0 7

例 2: すべて NaN 値を含む行を削除する

次の構文を使用して、各列のすべてのNaN 値を含むすべての行を削除できます。

 df. dropna (how=' all ') 

        rating points assists rebounds
0 NaN NaN 5.0 11
1 85.0 25.0 7.0 8
2 NaN 14.0 7.0 10
3 88.0 16.0 NaN 6
4 94.0 27.0 5.0 6
5 90.0 20.0 7.0 9
6 76.0 12.0 6.0 6
7 75.0 15.0 9.0 10
8 87.0 14.0 9.0 10
9 86.0 19.0 5.0 7

この特定の DataFrame にはすべて NaN 値を持つ行がなかったため、どの行も削除されませんでした。

例 3: 特定のしきい値を下回る行を削除する

次の構文を使用すると、少なくとも一定数の非 NaN 値を持たない行をすべて削除できます。

 df. dropna (thresh= 3 ) 

	rating points assists rebounds
1 85.0 25.0 7.0 8
2 NaN 14.0 7.0 10
3 88.0 16.0 NaN 6
4 94.0 27.0 5.0 6
5 90.0 20.0 7.0 9
6 76.0 12.0 6.0 6
7 75.0 15.0 9.0 10
8 87.0 14.0 9.0 10
9 86.0 19.0 5.0 7

元のデータフレームの最初の行には少なくとも 3 つの非 NaN 値が含まれていなかったので、それが削除された唯一の行でした。

例 4: 特定の列の Nan 値を含む行を削除する

次の構文を使用して、特定の列に NaN 値を持つすべての行を削除できます。

 df. dropna (subset=[' assists '])

	rating points assists rebounds
0 NaN NaN 5.0 11
1 85.0 25.0 7.0 8
2 NaN 14.0 7.0 10
4 94.0 27.0 5.0 6
5 90.0 20.0 7.0 9
6 76.0 12.0 6.0 6
7 75.0 15.0 9.0 10
8 87.0 14.0 9.0 10
9 86.0 19.0 5.0 7

例 5: NaN を含む行を削除した後にインデックスをリセットする

NaN 値を含む行を削除した後、次の構文を使用して DataFrame のインデックスをリセットできます。

 #drop all rows that have any NaN values
df = df. dropna ()

#reset index of DataFrame
df = df. reset_index (drop=True)

#view DataFrame
df

        rating points assists rebounds
0 85.0 25.0 7.0 8
1 94.0 27.0 5.0 6
2 90.0 20.0 7.0 9
3 76.0 12.0 6.0 6
4 75.0 15.0 9.0 10
5 87.0 14.0 9.0 10
6 86.0 19.0 5.0 77

Dropna() 関数の完全なドキュメントはここで見つけることができます。