KaggleチュートリアルTitanicに挑戦!上位5%に入る!(0.82297)

こんにちは、@Yoshimiです。

機械学習を勉強しているみなさんがチャレンジしているKaggle tutorial Titanicにチャレンジしてみました。

初心者にとっては、Kaggle tutorial Titanicはデータ分析を練習するには非常に良い課題です。Kernel(カーネル)を参考にしながら、さまざまなスキルをつけていくことができます。

先人のKernelを参考(ほぼコピペ)にしつつ「0.82297」になったので備忘録としてまとめておきます。

kaggleのTitanic課題とは

Titanic: Machine Learning from Disaster
沈没してしまったTitanic号ですが、どういう属性の方々が生存できたのか?というのを課題になっております。ざっくり説明するとこんな感じです。

生存したのか?生存しなかったのか?と生存予測を判別するので、分類課題となります。

データ説明変数

  • PassengerID:乗客ID
  • Survived:生存結果 (1: 生存, 2: 死亡) 
  • Pclass:乗客の階級 1が一番位が高いそう
  • Name:乗客の名前
  • Sex:性別
  • Age:年齢
  • SibSp:兄弟、配偶者の数
  • Parch:両親、子供の数
  • Ticket:チケット番号
  • Fare:乗船料金
  • Cabin:部屋番号
  • Embarked:乗船した港「Cherbourg」「Queenstown」「Southampton」

モジュールの読み込み、データの読み込み

人気モジュールセットを読み込みます。

データの確認

カテゴリーデータにあるSex:性別とEmbarked:乗船した港はわかりやすいのでサクッとデータ変換(replace)しておきます。

データを確認してみます。


SexとEmbarkedが0,1,2の値に変換されています。これでデータ分析に使えるデータになりました。

データにはどんな型のデータがあるのかinfo()関数で確認します。

TicketとCabinが残るobject型であることが確認できました。

次は欠損値を確認してみます。

train dataには「Age」「Cabin」「Embarked」に、test dataには「Age」「Cabin」の欠損値が含まれていることがわかりました。次から欠損値の処理、不要データ削除などの前処理(Data Clearing)に取り掛かります。

データの前処理

前処理で代表的な処理として

  • 欠損値の穴埋め
  • カテゴリーデータの数値化
  • 外れ値の処理
  • 特徴量生成

を行います。
「外れ値の処理」はplotし可視化してチェックするとわかりやすいです。「特徴量生成」は統計のセンス、データの読み方などで気が付く・つかないで差が出てくると思っています。私にはまだまだなので頑張ります。

欠損値を穴埋めする

「Age」「Cabin」「Embarked」に欠損値があることが分かっているので、穴埋めを行ていきます。穴埋めにも「平均値」「中央値」「最頻値」など種類があるのでここもセンスが必要となります。

今回は

  • Age:平均値
  • Cabin:今は保留後程
  • Embarked:平均値

で処理を行っていきます。

カテゴリーデータの処理

カテゴリ変数(カテゴリカルデータ、質的データ)をダミー変数に変換するには、pandas.get_dummies()関数を使う。One-Hotエンコーディングとも呼びます。

Name:乗客の名前

Nameは一見バラバラにみえるのですが、それでも特徴があることに気が付きます。それは「Mr、Mrs、Miss」などの敬称があることです。よく子供優先、女性優先という紳士のルールがあります。ということはこの「Mr、Mrs、Miss」の敬称(男性、女性、未婚・既婚など)も生存に関係があるかもしれないと考え継承で分類してみることにチャレンジします。

新しい変数「Salutation」を用意し、分類作業を行います。ちなみににSalutationは挨拶という意味らしいです。そして、今回は女性に対して使うMissとMrsがMsに統合されているそうです。

少しコードをチェックしてみます。
Nameの前処理のゴールはNameをデータとして使えるようにするです。なので、数値化を目指します。

Nameの特徴といえば、Mlle、Msの他に、固有の呼び名があるようです。Drなどはわかりやすいですよね。そのような名称をグループ分けしていきます。
str.extract()は正規表現で分割するのに使います。
replace()は文字列(str)型のメソッドです。文字列を指定して置換することができます。Salutation_mapping = {"Mr": 1, "Miss": 2, "Mrs": 3, "Master": 4, "Rare": 5} はdict型とし、変換します。

Ticket:チケット番号

今度はTicketの処理は「先頭の文字」「文字列の長さ」で分けていきます。その後にそれらの文字を数字に直します。

Cabin:部屋番号

やっと一通り数値化できたと思うので、trainをチェックしてみます。


制度を高めるために新たな変数を追加していきます。FamilySizeIsAloneです。
考えると気が付くかもしれませんが、「一緒に乗船している人数によって生存に大きく差が出る」からです。

ここまででまだ使われていないものはPclass、SibspとParchです。Pclassは何等級のところに乗っていたかを表すものなので、そのまま利用できます。Sibspは乗っていた夫婦と兄弟の人数を表したものです。Parchは乗っていた親と子供の人数を表したものです。よってSibsp+Parch+1がFamilySizeとなります。また、FamilySizeが1だとIsAlone一人で乗っているかどうかが1となります。

これでやっとtrainの処理は終わりました。次に、trainのデータを機械学習にかけるために加工します。はじめにtrainの値だけを取り出し、次にそれを正解データと学習用のデータに分けます。

testデータの加工

やっとtrain、testのデータクリーニングが終わりました。kaggleには、上位1%を取るかたはこれ以上の素晴らしい前処理方法を実施していると思いますが、今のところこんな感じで勘弁してくださいとのことです。

ここからがメインの学習タイムです。今回は、RandomForestClassifierを使ってみます。他の記事でも結構いい評価が出ているという記事があるので問題ないと思います。

modelという箱をつくり、そこで学習させます。学習させるには、(説明変数, 目的変数)の順で代入します。その後、predict()関数を使い、予測したい説明変数のデータをあてこみます。

提出ファイルを作成します。
predict_result_data.csvに書き込みます。

kaggleへ提出されて結果はどうだったでしょうか?0.82297は出ましたか?「おいおい、違うじゃねーか」と怒っている方もいるかもしれませんが、実は、RandomForestClassifierには多数パラメータを設定する箇所があり、ランダムで生成されるされる部分もあるため、学習結果が毎回変わり、精度も少なからず影響を受けているというものです。

このパラメータを調整するのが機械学習エンジニアの実力の見せ所となります。なるようです。

パラメータ探索

機械学習モデルのハイパーパラメータを自動的に最適化してくれるというありがたい機能Grid search(グリッドサーチ)があります。ですが、基本的に時間がかかるのと複数の探索方法をjupyter notebookで探索するとkernel errorに起こりやすいというのが特徴です。

初回はmodelで箱を作成しましたが、model02で新しい箱を準備します。

メインで調整していくのは「n_estimators」「min_samples_split」「max_depth」です。random_stateは指定しないと毎回学習がかわるので適当な値を固定で指定します。非常に骨の折れる作業ですが、面白いでのチャレンジするのもありです。

Y_pred02と新たに作成します。

predict_result_data02.csvが作成されるので、kaggleに提出してみましょう。

本来、データクリーニングは説明変数と目的変数の関係を可視化したりし、説明変数の調整を行うことで、どんな特徴量を作成すべきかも把握でき、より精度が高くなります。

ABOUTこの記事をかいた人

Yoshimi

大学卒業して、キラキラしていたのでIT業界にはいりましたが、中身はブラックでした!!だから、投資技術を磨いて早くリタイヤしたいです。株価、Python、機械学習をもうもう勉強中です。