クローラーの処理の流れ

➀ 対象ページをダウンロードする

 

➁ ダウンロードしたページを解析する

 

➂ そこから必要なデータを抜き出す

 

➃ データを加工する

 

➄ 出力する