Vercel 是否封鎖了 GPTBot、ClaudeBot 等 AI 爬蟲?
預設不會。Vercel 的 AI Bots 受管規則集預設關閉;Bot Protection 與 Attack Mode 會讓 GPTBot、ClaudeBot 等已驗證的機器人通過。只有 AI Bots 規則集設為 Deny、自訂防火牆規則符合其名稱,或 robots.txt 禁止時,才會擋下 AI 爬蟲。
重點事實
- Vercel 於 2025 年 5 月 13 日推出一鍵式 AI 機器人受管規則集,可封鎖 GPTBot、ClaudeBot、PerplexityBot 與 Bytespider,所有方案免費。 (Vercel 更新記錄:新的一鍵 AI 機器人受管規則集(2025 年 5 月 13 日))
- Vercel 文件(2026-09-10 更新)指出,AI Bots 受管規則集預設為關閉,顯示為「Allow」,可選的動作為 Log 或 Deny。 (Vercel 文件:WAF 受管規則集)
- Vercel 的 Bot Protection 規則集也預設為關閉;開啟時會排除已驗證的機器人。Vercel 的目錄將 GPTBot、OAI-SearchBot、ChatGPT-User、ClaudeBot 與 PerplexityBot 列為已驗證。 (Vercel 文件:Bot Management)
- Attack Mode 在所有 Vercel 方案中免費,並讓已驗證目錄中的已知機器人直接通過,不需挑戰。 (Vercel 文件:Attack Mode)
- OpenAI 表示,若網站選擇退出 OAI-SearchBot,就不會出現在 ChatGPT 搜尋的回答中;robots.txt 的變更約需 24 小時才會生效。 (OpenAI: Overview of OpenAI crawlers)
我要在哪裡查看 Vercel 是否在我的專案中封鎖 AI 機器人?
在 Vercel 儀表板打開專案,然後選擇 Firewall 與 Rules。以下三處決定這件事:
| 設定 | 預設 | 何時會封鎖 AI 爬蟲 |
|---|---|---|
| 「AI Bots Ruleset」(Bot Management) | 「Allow」(未啟用) | 設為「Deny」 |
| 「Bot Protection」(Bot Management) | 「Off」 | 很少:已驗證的機器人會被排除,但未驗證的會收到挑戰 |
| 自訂規則 | 無 | 規則符合 GPTBot 等使用者代理,或使用「Block AI Bots」範本並設為 Deny 或 Challenge |
| Attack Mode | 停用 | 對已驗證的機器人不適用,它們不經挑戰即可通過 |
為什麼我的 Vercel 網站會在不知情的情況下封鎖 ChatGPT?
通常是因為有人為了節省用量而開啟了一鍵封鎖。在 Vercel 社群論壇 2026 年 2 月的一則討論中,一個免費方案帳戶在 OpenAI 爬蟲耗盡其資源後被暫停,而一位 Vercel 員工建議在防火牆中封鎖 AI 機器人。
這解決了帳單問題,卻也讓該網站從那些爬蟲能讀取的範圍中消失。任何成本或流量事件發生後,都應檢查防火牆。
如何用命令列測試?
讀取正式網域的 robots.txt,並用每個爬蟲的名稱請求首頁。回傳 200 是好跡象;403 或挑戰頁面則表示有規則符合該名稱。
# 1. 正式網域上的 robots.txt
curl -s https://www.example.com/robots.txt
# 2. 每個爬蟲名稱的狀態碼(非 200 表示有規則符合該名稱)
for ua in GPTBot OAI-SearchBot ChatGPT-User ClaudeBot Claude-SearchBot PerplexityBot; do
echo "$ua $(curl -s -o /dev/null -w '%{http_code}' -A "$ua" https://www.example.com/)"
done我能只封鎖 AI 訓練,卻仍留在 ChatGPT 搜尋中嗎?
可以,方法是依名稱逐一封鎖爬蟲,而不是一次全擋。OpenAI 將用於訓練的 GPTBot 與用於 ChatGPT 搜尋的 OAI-SearchBot 分開;Anthropic 則將 ClaudeBot 與 Claude-SearchBot 分開。
Vercel 的 AI Bots 規則集把它們視為同一組。若要只擋訓練,請在 robots.txt 中禁止 GPTBot 與 ClaudeBot,或為這些使用者代理寫自訂防火牆規則,並保留搜尋爬蟲的存取。
Vercel 預覽部署對 AI 搜尋是問題嗎?
不會,它們本來就不應被收錄。Vercel 會自動在每個預覽部署加上 X-Robots-Tag: noindex 標頭。
例外:當自訂網域指向非正式分支時,Vercel 會省略該標頭,因此除非您自行加上,測試用的網域可能會被建立索引。
逐步操作
- 檢查 AI Bots 規則集. 在 Firewall、Rules、Bot Management 中,確認「AI Bots Ruleset」顯示「Allow」或「Log」,而不是「Deny」。
- 檢查自訂規則. 尋找符合 GPTBot、ClaudeBot、PerplexityBot 或「Block AI Bots」範本的規則,並記下其動作。
- 檢查 robots.txt. 請您的 AI 程式代理顯示框架產生的 robots.txt,並確認 OAI-SearchBot 與 Claude-SearchBot 已被允許。
- 逐一測試爬蟲名稱. 對正式網域執行上面的 curl 迴圈,留意任何非 200 的結果。
- 如非封鎖不可,依名稱封鎖. 若原因是成本,只封鎖訓練用的爬蟲;或先使用「Log」,再決定是否改用「Deny」。
常見錯誤
- 為了節省用量而開啟一鍵 AI 封鎖,卻忘了它也會阻止 ChatGPT 搜尋與 Perplexity 的爬蟲。
- 只檢查 robots.txt,卻忽略同一個爬蟲正被防火牆規則回應 403。
- 測試預覽網址(帶有 noindex),而不是正式網域。
- 因為 Vercel 在其上省略 noindex,讓測試用的自訂網域維持可被建立索引的狀態。
easyIndex 如何解決
easyIndex 從不碰您的 Vercel 專案:由您的 AI 程式代理透過 MCP 逐步執行每項變更,easyIndex 則在線上檢查每一頁,而不是相信代理的回報。儀表板會顯示 AI 爬蟲何時讀取哪些頁面,因此若防火牆變更讓它們停止讀取,讀取次數會跟著歸零。每個網站每月 US$30,含 7 天免費試用。
常見問題
Vercel 免費的 Hobby 方案會封鎖 AI 爬蟲嗎?
預設不會。AI Bots 規則集在所有方案中都可用,包括 Hobby,直到有人將它設為 Log 或 Deny 前都維持未啟用。
Vercel 的 Bot Protection 會封鎖 GPTBot 嗎?
不會。Vercel 說 Bot Protection 會排除已驗證的機器人,而其目錄將 GPTBot、OAI-SearchBot 與 ClaudeBot 列為已驗證。
開啟 Attack Mode 會影響我在 AI 回答中的能見度嗎?
Vercel 說已驗證的機器人不經挑戰即可通過 Attack Mode,而 OpenAI、Anthropic 與 Perplexity 的 AI 爬蟲都在該目錄中。
解除封鎖後,要多久 ChatGPT 才會再讀取我的網站?
OpenAI 說 robots.txt 的變更約需 24 小時才會到達其系統;防火牆的變更則在您發布後生效。
延伸閱讀
- 有哪些 AI 檢索器?我要如何在 robots.txt 中允許它們?
- Cloudflare 是否擋住了我網站上的 ChatGPT 與其他 AI 爬蟲?
- ChatGPT 和 Claude 看得到我以 JavaScript 建置的網站嗎?
- Next.js SEO:我要如何讓 ChatGPT 引用我的網站?
- easyIndex 如何運作?我需要準備什麼?多久會有成效?
- easyIndex 費用多少?
最後驗證日期 .