ウェブスクレイパーAPIとは?
ウェブスクレイパーAPIは、収集したいページのURLを受け取り、その内容を返します。IPのローテーション、ブロック、再試行、JavaScriptのレンダリングはAPIが処理するため、プロキシやブラウザを自分で管理する必要はありません。
WING PROXYのウェブスクレイパーAPIは住宅用IPを自動で割り当て、結果をHTMLまたはJSONで返します。支払いは、リクエストしたページが正常に返ってきたリクエストの分だけです。
プロキシを自分で管理するには、IPの状態、再試行のタイミング、ブラウザのフィンガープリントに対応する必要があります。ウェブスクレイパーAPIはこれらすべてを1つのリクエストで処理するため、開発者はデータの活用に集中できます。
月額プランは1,000リクエストあたり$0.50から始まり、大きなプランでは1,000リクエストあたり$0.24まで下がります。
ウェブスクレイパーAPIの料金は1,000リクエストあたりいくらですか?
ウェブスクレイパーAPIの料金は、月額プランに応じて1,000リクエストあたり$0.50から$0.24までです。大きなプランほど月の結果数が多く、1,000件あたりの価格が低くなります。
1,000件あたり$0.24のScaleプランは、$0.50のStarterプランより52%安くなります。月の量が増えたら段階を上げると、同じ予算ではるかに多くのデータを収集できます。
月額料金はUSDT(TRC20)でチャージした残高から支払い、月の結果数の範囲内で自由にリクエストを振り分けられます。
| プラン | 月額料金 | 月の結果数 | 1,000件あたり |
|---|
| Starter | $10 | 20,000 | $0.50 |
| Growth | $50 | 125,000 | $0.40 |
| Pro | $140 | 400,000 | $0.35 |
| Business | $300 | 1,000,000 | $0.30 |
| 法人向け | $520 | 2,000,000 | $0.26 |
| Scale | $960 | 4,000,000 | $0.24 |
ウェブスクレイパーAPIはどのように動作しますか?
URLを付けてリクエストを送ると、APIが適切なIPとブラウザ環境を選んでページを開き、空のページやブロック画面なら再試行し、成功した結果だけを返します。あなたは返ってきた結果を保存して分析するだけです。
JavaScriptで内容を描画するページもブラウザと同じように開き、ページが完全に描画された後の内容を取得できます。ヘッドレスブラウザを自分で動かして管理する必要はありません。
APIはデバイスやブラウザ環境を変えながら通常の訪問と同じようにページを開くため、ブロック画面ではなく目的の内容を取得できる可能性が高まります。
- URLとオプション(国、出力形式)を付けてリクエストを送信
- APIがIPを割り当ててページを開く
- ブロックや失敗は自動で再試行
- 成功した結果をHTMLまたはJSONで取得
ウェブスクレイパーAPIで収集できるデータは?
公開されているほとんどのウェブページを収集できます。よくある例は、マーケットプレイスの商品と価格、SNSの公開投稿、求人情報、不動産や旅行の価格、ニュースやブログの記事です。
リクエストで国を指定すると、その国の訪問者が見るとおりのページを取得できます。国ごとの価格や在庫の比較に特に便利です。
HTMLから繰り返されるリストや表を取り出し、必要な項目だけを残すこともできます。結果をJSON、CSV、HTMLで取得し、既存のデータベースや分析ツールにそのまま取り込めます。
このAPIは、海外のマーケットプレイスで同じ商品を国ごとに比較したり、職種や地域ごとに求人情報を集めて採用動向を分析したりするのによく使われています。
不動産の物件情報やホテル、航空券の価格など毎日変わる情報もスケジュールに沿って収集でき、日付ごとの価格動向を分析できます。
自分のプロキシでスクレイピングする場合との違いは?
自分でスクレイピングするには、プロキシ管理、再試行のルール、ブラウザの設定を自分で構築する必要があります。ウェブスクレイパーAPIがこれらを代わりに行うため、スクレイピングのコードが短くなり、サイトの構造が変わったときの保守も減ります。
料金は成功した結果に基づくため、失敗したリクエストに費用はかかりません。規模が大きく、対象サイトが多様なほど、APIを使うメリットが大きくなります。
リクエストが積み重なってもAPIが順序よく送信するため、ジョブは最後まで実行されます。予定どおりに進める必要がある定期レポートや価格追跡に適しています。
すでに自前のスクレイパーを運用しているなら、ブロックの多いサイトだけをAPIに移すこともできます。簡単なサイトはそのまま、難しいサイトだけをAPIに送れば、費用と保守の両方を節約できます。
ウェブスクレイパーAPIの料金には何が含まれますか?
すべてのプランに、スクレイピングに必要な同じ機能が含まれます。
アップグレードしても機能は同じで、変わるのは月の結果数と1,000件あたりの価格だけです。小さなプランで設定をテストし、同じコードのまま大きなプランに移れます。
- 成功した結果のみお支払い
- ブロック対応と自動再試行
- JavaScriptレンダリング
- 国を指定したリクエスト
- HTMLまたはJSONで出力
- 住宅用IPを自動で割り当て
- APIキーによる認証
- ダッシュボードで使用量を確認
どのウェブスクレイパーAPIプランを選べばよいですか?
月に必要な結果数を見積もり、少し余裕のあるプランを選びましょう。1日約700件ならStarter、約4,000件ならGrowth、約13,000件ならProが目安です。
月4,000,000件を超える場合は、カスタムプランで結果数とリクエスト頻度を設定します。支払いはUSDT(TRC20)でチャージした残高から行い、APIドキュメントにはcurl、Python、Node.jsのコード例があります。
月額プランはその月に使う結果をカバーします。忙しい月は段階を上げ、落ち着いた月は合った段階に切り替えれば、費用を使用量に合わせられます。
価格はすべてUSDです。結果を使い切る前に段階を上げた場合、残りの期間は低い価格で続きます。
ウェブスクレイパーAPIの始め方は?
アカウントトークンで登録し、USDT(TRC20)で残高にチャージしてプランを選び、APIキーを作成します。APIドキュメントのコード例にキーを加えれば、すぐに最初のリクエストを送れます。
APIキーはダッシュボードで作成でき、いつでも再発行できます。初回チャージが反映されるとサポートも利用でき、対象サイトに最適なリクエスト設定について相談できます。
- 登録ボタンでアカウントトークンを作成
- USDT(TRC20)で残高にチャージ($50~$10,000)
- 月の結果数に合ったプランを選ぶ
- APIキーを作成し、コード例で最初のリクエストを送信