コンペ戦略 — ベースラインから終盤まで
期間を通じた進め方と、信頼できる CV を軸にスコアを伸ばす反復戦略を学びます。
期間を通じた流れ#
コンペは短距離走ではなく、反復のマラソンです。典型的な流れは次のとおりです。
序盤: ルール/指標/データ理解 → 早期ベースライン提出 → 信頼できる CV を構築
中盤: 特徴量・モデルを一つずつ改善(CV で判断)→ 多様なモデルを蓄積
終盤: アンサンブル → 提出選択 → 再現確認信頼できる CV を最優先で作る#
序盤の最重要タスクは、**本番(テスト)の予測状況を再現する交差検証**を組むことです。 データ構造(クラス・グループ・時系列)に合った分割でなければ、以降の判断がすべて揺らぎます。
注意
CV が信頼できないまま改善を重ねると、Public LB を追いかけることになりシェイクアップで 崩れます。「CV と LB が連動するか」を早期に確認し、CV を主軸に据えましょう。
一度に一つ変える反復#
中盤は「[仮説 → 1 つだけ変更 → CV 比較 → 採否]」の反復です。 効いた変更だけを残し、実験管理で記録します。
- 効く特徴量を探す(特徴量エンジニアリング)
- モデルを変える/調整する(勾配ブースティング(GBDT) の調整・早期終了)
- 多様なモデルを貯めて終盤のアンサンブル素材にする
終盤の詰め#
ヒント
時間は有限です。「CV を 0.001 改善する特徴」より「多様性のある別系統モデルを 1 つ」の方が 終盤のアンサンブルで効くことが多い、と覚えておきましょう。
理解度チェック#
次のステップ#
次は、Public/Private LB の違いを踏まえた提出選択と、shake-up の回避を学びます。