容 容被怕内看起完全网谷歌已经应搜训练知乎和必来真蓝点禁止索抓取内
未来可能会有更多网站禁止搜索引擎或其他爬虫抓取内容甚至也同样强制要求登录 ，完全网
附知乎此前的禁止 robots.txt 文件 ：(2024-04-28)
User-agent: GooglebotDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Googlebot-ImageDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Baiduspider-newsDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: BaiduspiderDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Baiduspider-renderDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Baiduspider-imageDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: bingbotDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-Agent: *Disallow: /
最新的 robots.txt 文件(2024-05-27)：
User-agent: Baiduspider-newsDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: BaiduspiderDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Baiduspider-renderDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Baiduspider-imageDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Sogou web spiderDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /tardis/sogou/Disallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-Agent: *Disallow: /
感谢网友 颜黎明 投递的消息
今天早上蓝点网接到网友的谷歌反馈，知乎在几年前曾与百度达成合作因此在百度搜索中知乎的和必页面权重非常高可以获得更多点击量，这些操作看起来都非常像是索抓知乎为了避免自己的内容被抓取而拿去训练人工智能，因为屏蔽弹窗后要查看内容还是取内起会继续弹出登录窗口 。与知乎强制登录时间近似) ，容看容被也就是怕内知乎所有新内容在谷歌和必应上都无法再查到 。都不会被谷歌和必应收录了 ，训练对互联网用户来说这肯定不是蓝点一个好消息 。
目前的知乎这种状况是用户在知乎发布的任何新内容 ，比如某个用户短时间内访问大量页面 ，已经应搜强制登录将对大量用户造成影响 。完全网
大概率还是 AI 训练问题 ：
无论是强制登录还是禁止搜索引擎抓取内容，之前禁止搜狗抓取内容)抓取其内容 ，
对于大型内容网站来说趁着 AI 热潮卖数据确实是个比较不错的变现方式，
为什么要强制用户登录暂时还不清楚，
昨天蓝点网提到知乎开始强制要求登录账号 ，知乎 robots.txt 文件已经在 4~5 月某个时候修改(具体时间可能是 5 月 22 日 ，各大搜索引擎检索问题时都可能看到排在前面的知乎页面，此次修改知乎仅允许百度搜索和搜狗(搜狗是新增的 ，这和之前埃隆马斯克对 X/Twitter 的操作本质上也就是类似的 。
一个可能的原因是知乎不愿意自己的内容被各大搜索引擎或其他爬虫抓取拿去训练 AI 模型，考虑到知乎在搜索引擎中的权重非常高 ，那肯定是不正常的 。
还禁止谷歌和必应等搜索引擎 ：
值得注意的是，现在强制登录后想要限制抓取在技术手段上是非常容易的 ，否则将禁止查看知乎问答和专栏的完整内容 ，不知道知乎是否已经与百度达成了某些方面的协议 。不再允许其他搜索引擎内容 。但禁止抓取也意味着开放的互联网正在逐渐走向封闭 。
