目標

乗車実績データにもとづき、2019-12-01 00:00:00から2019-12-07 23:30:00までの期間のタクシー乗車数を予測してください。
なお、2019-12-01 00:00:00の乗車数とは、2019-12-01 00:00:00 - 00:30:00までの30分間における合計を示すものとします。

評価指標

• モデルの予測性能はRoot Mean Squared Errorで評価されます。
• 評価値は0以上の値をとり、精度が高いほど小さな値となります。

提出ファイル形式

提出ファイルは以下の列のみを必ず含んでください：

• tpep_pickup_datetime(各時刻のタクシー需要数)
• 0-78(予測された乗車需要)

以下は提出ファイルの例です。

tpep_pickup_datetime,0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16,17,18,19,20,21,22,23,24,25,26,27,28,29,30,31,32,33,34,35,36,37,38,39,40,41,42,43,44,45,46,47,48,49,50,51,52,53,54,55,56,57,58,59,60,61,62,63,64,65,66,67,68,69,70,71,72,73,74,75,76,77,78
2019-12-01 00:00:00,16,6,-1,9,3,0,1,17,7,19,9,193,67,0,3,0,100,14,20,268,14,8,59,5,70,103,62,138,6,17,1,196,42,160,38,63,185,21,61,7,4,166,16,3,70,150,68,107,131,15,66,1,6,88,1,8,42,1,3,6,61,226,45,13,30,115,44,74,52,70,5,49,175,11,8,1,8,17,59
2019-12-01 00:30:00,17,6,-2,6,3,0,1,13,6,3,10,172,51,0,2,0,103,10,13,265,9,7,50,5,54,85,51,135,5,16,2,163,34,121,20,40,113,11,61,6,4,192,8,2,76,82,48,83,110,11,53,1,6,107,2,8,35,0,0,5,44,194,36,14,17,83,21,38,34,50,4,46,159,11,9,1,4,0,45

提出ファイルには、
2019-12-01 00:00:00から2019-12-07 23:30:00まで、336期分のレコードをご記載ください。
提出されたファイルに余分な行や列が含まれていた場合はエラーとなりますので、ご注意ください。

コンペティションルール

■Open Review Competition

本コンペでは、開催期間終了後 賞金対象者のコードを公開し、ユーザーの皆様にチーティング有無をレビューしていただき順位確定させる、オープンレビュー方式のコンペティションを行います。

賞金対象ユーザー
コンペ終了後1週間以内：
トピックにて、学習過程の分かるコードの公開をお願いいたします。 （簡易解説までつけていただけると助かります。）

コード公開後1週間：
レビュアー（ユーザー）より、チーティングの疑いに関するコメントがある場合は、ご回答をお願いいたします。
※チーティングとは無関係のコメント（ノウハウに関する質疑 等）についてもご回答いただけると幸いですが、順位確定の判断材料とは致しません。

レビュアー（ユーザーの皆様）
コード公開後1週間： 公開コードを確認いただき、チーティングが疑われる場合は、トピックを通して質疑の投稿をお願いいたします。

レビュアーからの質疑と、回答状況をふまえて、最終的に運営側で順位確定を判断します。

■順位決定ロジック

1. コンペ期間中はPublicリーダーボード（以下LB）により暫定評価を、最終結果についてはPrivate LBにより評価します。
   ※ Private LBはコンペ終了と同時に表示されます。
2. Private スコア計算に使われるファイルについては、2つまで選択可能です。
   ※ 未選択の場合は、Public スコアの上位ファイルが提出上限まで自動選択されます。
3. スコアが同値の場合は、早い日時に提出いただいたユーザーが上位となります。
4. コンペ終了後であっても、不正が発覚の際は、対象ユーザーは失格となり、全体の順位が繰り上がります。
   順位繰上げにより賞金対象者となられた場合は、繰上げ日より一週間以内に、トピックにてコードを公開いただき、「Open Review Competition」と同様のフローにて順位を確定させていただきます。

■タイムライン

開始日　2023/9/12 0:00 JST
提出締切　2023/12/17 22:00 JST
終了日　2023/12/17 24:00 JST

エントリー締め切り なし

■システム利用

• 参加者ごとに1つのアカウントでご参加ください
• チーム参加の場合は、最大5名までエントリー可能です
• 1日あたり、各チーム最大5回までの提出が可能です

■禁止事項

• ユーザー間での情報共有
  コンペティションに関連するコード・データを、チーム外のユーザーと共有することはできません。全参加者が利用できる場合に限り、共有可能です。
• 外部データの使用
  原則、本コンペティションの基本情報/データから取得できるデータのみを用いてチャレンジして下さい。コンペ外データを用いて学習されたモデルの使用も禁止とします。
  ただし例外として、トピック上で運営承認された外部データのみ、使用を許可いたします。承認プロセスについては、「外部データの使用申請について」をご確認ください。

※コンペ期間中であっても、不正が疑われる場合は、運営より確認のためメール連絡させていただくことがございます。一週間以内にご回答いただけない場合も、不正と判断させていただきます。

■外部データの使用申請について　※ 2023/9/28 追記

原則外部データ/学習済みモデルの使用は禁止としておりますが、正解データの入手につながらない場合は、下記承認プロセスにより使用できることといたします。

１．トピックを作成し、取得元情報とデータ（格納先URLも可）を添付
２．運営にて判断・承認
注）ただし、コンペ終了まで7日をきってからの申請は禁止とします。

■運営からのお願い

公平性の担保、チーティング等の不正防止のため、予告なくルールの追加・変更を行う場合がございます。
ご不便をおかけすることもあるかと思いますが、サービス向上のためご了承ください。

FAQ

このコンペティションでは賞金はでますか？

はい。
最も精度の高い学習モデルを作成した優勝者には、賞金を贈呈します。
順位確定までのプロセスについては、ルール「Open Review Competition」を参照ください。

チームで参加できますか？

可能です。チームページから作成いただけます。

どこでアカウントをつくればいいですか？

こちらから作成いただけます。

コンペティション参加にはアカウント登録が必要となりますのでご注意ください。

コードを提出するにあたって Seed を固定する必要はありますか？

Seed を固定することが推奨です。
ただし、Seed を固定しなくても提出用コードとしては認められます。

概要

このチュートリアルでは、時系列のタクシーの需要データに対して

• データの読み込み
• データの確認と前処理
• statsmodelsを用いたVARモデルの作成，学習
• 提出用データの作成

を行います。

#環境確認
import pandas as pd
import numpy as np
import statsmodels
!python3 --version
print(pd.__version__)
print(np.__version__)
print(statsmodels.__version__)
import matplotlib
print(matplotlib.__version__)

Python 3.11.4
1.5.2
1.23.5
0.14.0
3.6.3

データのロード

まずはデータを読み込んで見ましょう。csvデータの読み込みは複数のやり方がありえますが、pandasのread_csv関数はその中でも機能が豊富で、扱いやすいためこれを使います。
これを使うと、csvデータを読み込み、pandas.DataFrameにして返してくれます。

','.join(['tpep_pickup_datetime'] + list(map(str, range(79))))

'tpep_pickup_datetime,0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16,17,18,19,20,21,22,23,24,25,26,27,28,29,30,31,32,33,34,35,36,37,38,39,40,41,42,43,44,45,46,47,48,49,50,51,52,53,54,55,56,57,58,59,60,61,62,63,64,65,66,67,68,69,70,71,72,73,74,75,76,77,78'

#データの読み込みと前処理
import pandas as pd
train_data = pd.read_csv("train_data.csv", index_col='tpep_pickup_datetime')
print(train_data.shape)

(51072, 79)

また、DataFrameには.head()というメソッドが定義されており、これを呼び出すとDataFrameの先頭の数行を確認できます。

train_data.head()

データの確認と前処理

いくつかのデータを可視化してみましょう。時系列データの可視化にはmatplotlibを用います。

import matplotlib.pyplot as plt
%matplotlib inline
fig, ax = plt.subplots(8, 2, figsize=(12, 16))
for i in range(16):
    ax[i//2, i%2].plot(train_data.iloc[:, i])

plt.plot(train_data.iloc[:48*30, 0])

[<matplotlib.lines.Line2D at 0x65e37ba00>]

30日の需要数をプロットしてみました。一週間ごとに大きな需要があるようです。また一日の中でも需要の波がありそうです。

from statsmodels.tsa.seasonal import seasonal_decompose
Y = seasonal_decompose(train_data.iloc[:, 0], period=48*365)
T = Y.trend
S = Y.seasonal
e = Y.resid

plt.plot(T[::1000])

[<matplotlib.lines.Line2D at 0x668405840>]

plt.plot(S[:48*30])

[<matplotlib.lines.Line2D at 0x668460850>]

続いて、下記のコードを使用して使用するデータ全体の概観を確認します。

train_data.dtypes

0     float64
1     float64
2     float64
3     float64
4     float64
       ...   
74    float64
75    float64
76    float64
77    float64
78    float64
Length: 79, dtype: object

データの形式を見ると、すべてのデータはfloat64型になっているようです。

all(train_data.dropna() == train_data)

True

欠損値は存在しないようです。

予測モデルの作成,学習

VARの引数に回帰したいデータ、model.fitの引数には何期前までのデータを利用して回帰をするかを与えます。

from statsmodels.tsa.api import VAR
model = VAR(train_data.values)
results = model.fit(5)

モデルの評価

また、コンペの評価指標となるrmseについても計算できます。
正解データを用いてrmseを計算するために最終期のデータを除いて学習を行い、最終期のデータを予測したいと思います。
モデルを元にした予測値は、model.forecast('説明変数')で表します。

eval_model = VAR(train_data.values[:-1])
eval_results = eval_model.fit(5)
eval_pred = eval_results.forecast(train_data.values[:-1], 1)
print(np.sqrt(np.mean((eval_pred - train_data.values[-1])**2)))

30.588294045337044

今回作成したモデルの平均平方二乗誤差は30.14程度でした。

提出データの作成

最後に、作成したモデルを使用して提出データを作成します。
forecastメソッドを用いて学習データの1期先のデータを予測します。

pred = results.forecast(train_data.values, 48*7)

submit_df = pd.DataFrame(pred, columns=train_data.columns)

submit_df = submit_df.astype(int)
submit_df.columns = train_data.columns
submit_df.index = pd.date_range(start='2019/12/01 00:00:00', end='2019/12/07 23:30:00', freq='30T')
submit_df.index.name = 'tpep_pickup_datetime'

submit_df.to_csv('submission.csv')

「タクシー需要予測」コンペティション参加規約

コンペティションへの参加に際しては、ProbSpace利用規約（以下、「利用規約」といいます。）に加え、本ProbSpace参加規約（以下「本規約」といいます。）に同意いただく必要があります。利用規約にて定義された用語は、本規約においても同様の意味で用いられるものとします。

第1条（適用）

1. 参加者（第2条に定義します。）は、コンペティションに参加した時点で、本規約、利用規約、その他ご同意いただいた規約のすべて、及びコンペティションサイトに掲載されているコンペティションに関するルールの一切に同意したものとみなされます。
2. 本規約、利用規約、その他ご同意いただいた規約のすべて、及びコンペティションサイトに掲載されているコンペティションに関するルールは、コンペティションの終了後も参加者に適用されます。

第2条（定義）
本規約において次の各用語の定義は、それぞれ以下に定めるとおりとします。

1. 「本コンペ」とは、当社ウェブサイト上で開催されるAI開発又はデータ分析等に関するコンペティションのうち、本規約に紐づく特定のコンペティションを意味します。
2. 「主催者」とは、当社またはユーザーのうち、本コンペを主催する者を意味します。また、本コンペが、当社の顧客又は提携先の企業、学校その他の団体等がスポンサードするものである場合は、当該団体等も主催者の定義に含まれます。
3. 「参加者」とは、ユーザーのうち、主催者側以外の立場で本コンペに参加する方を意味します。
4. 「成果物」とは、本コンペにおいて参加者により開発される学習済みモデル、そのソースコード及び乱数シード等の設定値を意味します。
5. 「入賞者」とは、当社より本コンペに入賞した旨の通知を受けた参加者を意味します。
6. 「知的財産権」とは、著作権（著作権法第27条及び第28条に定める権利を含みます。）、特許権、実用新案権、商標権、意匠権、その他のノウハウ及び技術情報等の知的財産権（それらの権利を取得し、又はそれらの権利につき登録等を出願する権利を含みます。）を意味します。

第3条（権利の帰属）

1. 本コンペで発生した成果物に関する知的財産権は、参加者に帰属します。

第4条（入賞者の義務）

1. 入賞者は、本コンペで公開した成果物を、MITライセンスを適用し、商用利用の許諾条項及び著作権人格権の包括的不行使条項をライセンス条項に付与した形式で、オープンソースソフトウェアとして公開する義務を負うものとします。その前提として、入賞者は、成果物について本項に基づく方法でオープンソース化する権利を有していることを当社に対して表明保証するものとします。
   ※第三者が、授業・研修・セミナー等で活用できるようにするための規約となります。ご理解のほどよろしくお願いいたします。
2. 当社は、以下の3点の確認が完了した時点で、本コンペの賞金または商品を、入賞者に対して授与するものとします。
   1. 入賞者が、前項に基づいて成果物のオープンソース化を実施したこと
   2. 入賞者が、本規約、利用規約、その他ご同意いただいた規約のすべて、及びコンペティションサイトに掲載されているコンペティションに関するルールの一切に違反していないこと
   3. 当社が定める方法による本人確認
3. 当社は、入賞者が第1項に基づいてオープンソース化した成果物を、自由に商用利用することができます。

第5条（禁止事項）

1. 参加者は、本コンペにおいて、以下の各号のいずれかに該当する行為を行ってはならないものとします。
   1. クラッキングやチート行為、なりすまし、盗用等の不正行為
   2. 第三者の知的財産権その他の権利を侵害する内容ないし態様で、参加者公開事項を公開する行為
   3. 主催者（当社以外の者に限ります。）に対する直接連絡、相談、依頼、勧誘、勧誘対応等の活動（但し、当社を介して当社が認めた方法により行うものは除きます。）
   4. 本コンペにおいて、当該コンペと直接関係のない成果物等を提出すること
   5. 本規約における参加者としての地位又は参加者としての権利義務について、譲渡、移転、担保設定、その他の処分をすること
   6. その他、本規約、参加ルール及び利用規約に違反する行為
2. 参加者が前項に規定する禁止行為を行ったと当社が認める場合、当社は、当該参加者に事前に通知することなく、当該参加者の本コンペにおける失格処分、当社サービスの全部又は一部の利用停止、ユーザー登録の抹消、その他当社が必要と判断した措置をとることができるものとします。

第6条（本コンペの変更、中断、終了等）

1. 当社は、参加者に事前の通知をすることなく本規約に基づく本コンペの開催内容の変更、本コンペの一時的な中断又は終了を行うことができます。
2. 当社は、本条に基づき当社が行った措置により生じた結果及び損害について、一切の責任を負わないものとします。

第7条（損害賠償）

1. 参加者は、本コンペに関連して、自らの責に帰すべき事由により、当社、主催者その他の第三者に損害を与えた場合には、その一切の損害（逸失利益、弁護士費用を含みます。）を賠償するものとします。
2. 参加者が本規約の規定に違反したことにより主催者（当社を除きます。）その他の第三者が当社に対して何らかの訴え、異議、請求等がなされた場合において、当社から処理の要請がなされたときは、参加者は自己の責任と費用負担において、当社に代わって当該第三者との紛争を処理するとともに、当社がかかる訴え、異議、請求等により被った一切の損害（逸失利益、弁護士費用を含みます。）を賠償するものとします。

第8条（本規約の変更）
当社は、必要と判断した場合には、参加者に対して事前に通知する（本コンペにかかる当社ウェブサイト上での告知その他当社が適当と認める方法を含みます。）ことにより、いつでも本規約を変更することができるものとします。なお、変更内容の通知後、参加者が当社の定める期間内に本コンペへの参加を取り消す手続をとらなかった場合には、当該参加者は変更後の規約に同意したものとみなされます。当社は、本規約の変更により参加者に生じたすべての損害について一切の責任を負いません。

第9条（その他）
本契約の準拠法は日本法とし、本契約に起因し又は関連する一切の紛争については、当社の本店所在地を管轄する裁判所を第一審の専属的合意管轄裁判所とします。

（制定）2020年6月22日