# 妲己 · Daji 18+ AI Companion · robots.txt
# RTA-5042 兼容 · 允许 LLM/搜索引擎索引（成年用户）
# Note: 部署到域根 /robots.txt（站点 2026-07 起从 /daji/ 子路径迁到根）
# rules 已全部用根路径前缀

# ============ 通用搜索引擎 ============
User-agent: Googlebot
Allow: /

User-agent: Bingbot
Allow: /

User-agent: Baiduspider
Allow: /

User-agent: 360Spider
Allow: /

User-agent: Sogou web spider
Allow: /

User-agent: Sogou inst spider
Allow: /

User-agent: YandexBot
Allow: /

User-agent: DuckDuckBot
Allow: /

User-agent: Slurp
Allow: /

User-agent: Applebot
Allow: /

User-agent: PetalBot
Allow: /

# ============ LLM / 生成式引擎 ============
User-agent: GPTBot
Allow: /

User-agent: ChatGPT-User
Allow: /

User-agent: OAI-SearchBot
Allow: /

User-agent: ClaudeBot
Allow: /

User-agent: Claude-Web
Allow: /

User-agent: anthropic-ai
Allow: /

User-agent: PerplexityBot
Allow: /

User-agent: Perplexity-User
Allow: /

User-agent: Google-Extended
Allow: /

User-agent: Applebot-Extended
Allow: /

User-agent: cohere-ai
Allow: /

User-agent: Cohere-User
Allow: /

User-agent: CCBot
Allow: /

User-agent: FacebookBot
Allow: /

User-agent: meta-externalagent
Allow: /

User-agent: Meta-ExternalAgent
Allow: /

User-agent: Bytespider
Allow: /

User-agent: DoubaoSpider
Allow: /

User-agent: KimiBot
Allow: /

User-agent: Amazonbot
Allow: /

User-agent: YouBot
Allow: /

User-agent: Diffbot
Allow: /

User-agent: ImagesiftBot
Allow: /

User-agent: Timpibot
Allow: /

# 神马搜索 mobile · 中国移动搜索 ~10% 份额
User-agent: YisouSpider
Allow: /

# 字节跳动头条搜索（与 Bytespider 分开记，更合规）
User-agent: ToutiaoSpider
Allow: /

# Mistral AI 助手浏览
User-agent: MistralAI-User
Allow: /

# Quora Poe AI 助手
User-agent: PoeBot
Allow: /

# Microsoft Copilot / Edge 浏览
User-agent: SemrushBot
Allow: /

# ============ 默认放行 + 路径屏蔽 ============
User-agent: *
Allow: /
# 仅屏蔽"无 noindex meta 的私密/非内容资源"——SPA 应用壳 + 后台 + 接口（避免 Disallow 与 noindex 冲突）
Disallow: /admin
Disallow: /api/
Disallow: /app/
Disallow: /webapp/
Disallow: /m/
# 排序/筛选与参数化聊天入口防爬虫预算浪费（保留无参 /chat/ 可读以使搜索引擎读取 noindex meta）
Disallow: /*?sort=
Disallow: /*?filter=
Disallow: /chat/?*
# 注意：/chat/ /invite/ /wallet/ /profile/ /gen-studio/ /studio/ 无参路径保留 Allow，
#       让爬虫能抓到并读取 noindex 指令把它们正确移出索引；但屏蔽 /chat/?p=* /chat/?alt=* 等近万个参数化组合，
#       防止 GPTBot/ClaudeBot/Bingbot 70%+ 抓取预算消耗在 SPA 聊天动作按钮上。

# ============ 站点地图 ============
Sitemap: https://dajiai.me/sitemap-index.xml