如何禁止OpenAI爬取或部分爬取
OpenAI文档GPTBot禁止抓取网站的说明,修改文件robots.txt
或者部分爬取
投稿:@ZaiHuaBot
频道:@TestFlightCN
via 🆕 科技新闻投稿📮TestFlight - Telegram Channel (author: 在花⭐️投稿📮Bot)
OpenAI文档GPTBot禁止抓取网站的说明,修改文件robots.txt
User-agent: GPTBot
Disallow: /或者部分爬取
User-agent: GPTBot
Allow: /directory-1/
Disallow: /directory-2/投稿:@ZaiHuaBot
频道:@TestFlightCN
via 🆕 科技新闻投稿📮TestFlight - Telegram Channel (author: 在花⭐️投稿📮Bot)