网页抓取数据百度百科(百度科技园行动度基因沙龙之SEO、网站域名、百度页面)

　　网页抓取数据百度百科(百度科技园行动度基因沙龙之SEO、网站域名、百度页面)

　　上个月，百度站长平台在百度科技园举办了蝶变行动基因沙龙。会上就网站SEO、网站域名、百度爬虫页面、APPLink等进行了交流讨论。以下为活动问答：包括JS代码收录、URL链接长度、海外域名对排名的影响等。问答详情如下：

　　一、SEO 问题解答

　　Q：使用百度统计进行广告跟踪时，配置的URL链接会很长。这种跟踪会影响搜索引擎优化吗？

　　A：这种有多个URL版本的统计代码肯定会对SEO产生影响。对于这种情况有两个建议，一个是使用两组url进行真正的蜘蛛抓取和用户展示。另一种选择是停止使用百度统计，你可以使用谷歌中的跟踪，他可以使用#链接，事件跟踪，并参考美团网。所有链接加上事件跟踪。如果是生成的，也是用#号生成的，不加额外的参数。

　　Q：如果一个页面一开始不符合百度的SEO标准，后来改成符合标准，百度需要多长时间才能提供好的结果？

　　A：不同的站点可能会贡献不同的流量。因此，Spider 爬行的侧重点不同。有些站可能会发现更多新链接，有些站可能会查看旧链接。建议推到百度上，像首页一样抓取一般是没有问题的。

　　Q：推送审核需要多长时间，一周还是半个月？

　　A：如果说推送符合抓取标准，可以立即抓取。

　　问：网站有两种 URL，旧的和新的。更换大约需要两年时间。现在旧 URL 将跳转到新 URL。由于服务器问题，网络中断了半个小时。搜索 关键词 后，旧的 url 出现了。现在基本上所有方法都无法恢复。在这种情况下我们应该怎么做？

　　A：使用修改工具重新提交，保证修改成功，不会有问题。如有问题，截图并报告给工程师排查。

　　Q：由于网站使用的是海外域名（暂时无法更改），有什么办法可以提高搜索量或爬取量？

　　A：百度搜索引擎都是在中国备案的，最好使用国内的服务器和域名。

　　Q：有些网站注册使用了很多域名，很多域名并不是供用户搜索的。现在这些域名都被注销了，但是还是可以找到的。我关了一次，但是没有用。我不知道如何处理这个？

　　A：如果不需要那些站？你可以把它们关掉。短时间关闭新域名可能会为用户调用旧域名。当这个域名被关闭时，我们不会为用户进行长期调用。这些东西也不会被发现。

　　Q：网站是母婴类网站，PC端搜索流量很差。想知道有没有办法？

　　A：与医疗、养生、保健、母婴等问题类似，百度对搜索结果的展示非常谨慎。百度只对优质的网站开放他们的展示可能性，网站很可能很长时间都得不到流量。如果网站在SEO方面没有大问题，可以检查一下内容是否在争抢一些热门词。建议整个网站的权重和流量达到一定规模后再做热词。如果一开始就这样做关键词，当网站名声不是很高的时候，就不会有流量了。在这种情况下，网站 可能会更好地找到他们自己的区分和相关词之一。

　　问：网站 从事教育行业。现在通过官网的认证是安全或权威的认证。认证后会有潜在的特殊待遇或无所谓。

　　A：比如认证方面，你是真的，还有一个是假的。从用户的认知来看，你就是官网。

　　问：关于数据化、软件和PDF和Word显示的问题，包括哪些类型和多少资源？应该和文章的内容一起发布，还是PDF和文章一样？也有矛盾。产品及操作希望用户下载后直接可用，不会对PDF、WORD产生一些压缩或工具处理。有些用户会被引导到Word，不管是无意还是无意，应该怎么办？

　　A：百度搜索栏现在默认称为网页搜索。顾名思义，我们向用户展示了一个网页。后面的库还有一种文件格式。搜索结果都是供用户下载使用的，他们可以去学习和展示图书馆的内容。

　　Q：有没有渠道告诉搜索引擎我们的页面内容发生了变化，我们通常如何处理？一个老页面已经收录，排序了，过了一段时间他发起了新资源的添加和更改？

　　A：目前还没有这样的渠道。首先，Spider 会检查一些东西。他发现网站经常出现在这种情况下，他的相关检查流量会增加。如果你担心，你应该把他放在站点地图中。

　　Q：网站原本只是一个主页，一个APP下载。我们现在正在发布内容。过去，这些内容无法被抓取。现在，我们是否需要提交修订以将其发布到目录或子域中？

　　A：这个是放在域名下的，一个子目录用来放分类的东西，没有修改。改首页，改版就没有其他问题了。使用主动推送工具的效果还是很明显的。如果内容质量非常好，您可以使用所有配额。

　　Q：自动推送份额多久调整一次？因为我觉得你的份额对于我们几千万或几百万的海量数据来说太小了。

　　A：我们也很关心一个网站有没有这种爆发力，突然增加这么多，我们觉得很不正常。你要循序渐进，不要又短又快，一夜之间吃成胖子。第二，你有这么多优秀的数据，你可以关注百度的另一个平台，你就变成了一个API，让别人使用你的数据。其他人为您的数据使用付费，您可以注意这一点。

　　Q：URL的绝对路径和相对路径是否会受到超链接的影响？修改后我们的页面有翻页，翻页链接是12345，上面有标签。每次抓到12345都抓不到。模拟抓，感觉抓不到。Spider会抓取页面上的A标签吗？

　　A：影响不大，能正常访问就可以了。不管是绝对路径还是相对路径，只要地址为Spider或者用户畅通无阻，并且页面渲染时地址完整，这条路径就可以顺利爬取。

　　对于not收录的问题，可以参考其他的点，比如页面本身没有被访问或者目录级别比较高。页面首页推送的链接会被百度一层一层抓到。如果路径正常，会从首页爬取Spider路径。

　　首先要做的是查看不是收录的链接日志是否已经被捕获。如果它被捕获而不是 收录，则可能是页面本身的问题。你也可以看一个周期，因为我们用一天。二是看日志中是否有长尾，是否隐藏或没有有效抓取或建关时推荐。如果你能看到日志，你可以看看日志来分析它。

　　可以调整首页的变化，提出建议，做个测试看看是链接问题还是蜘蛛没有抓到的问题。还有push等方法可以解决，从而判断不收录是什么原因。学院有一个解决许多问题的文件，类似于流程图。当这个戒指出现时，为什么？如果够长，可以看看下面的树枝。

　　Q：站点之前，所有的框架都是通过JS来展示的。后来百度没有收录，进行了PHP改版。外观是一样的。现在感觉这个PHP不是很规范。什么是百度非标收录？

　　A：酒店行业很多内容不是实时加载的，而是通过JS慢慢获取页面上的内容。如果搜索引擎捕捉到它，那就是导航，这就是问题所在。以前有很多空白页收录，质量很差。关于 Pattern 认为质量低的模式，内容可能是一样的，所以考虑换个目录。

　　二、APPLINK问题解答

　　Q：现在网站的APP已经准备好了，加入APPLINK会不会有什么大的变化？

　　A：H5网站和APP有对应关系吗？比如这里是100条H5站的内容，有100条APP的内容，应该是匹配的。关键是把网站放在行首，一定要调整好。

　　Q：目前APP引流是Android和IOS，但有一小部分是Windows Phone。这个APP需要多长时间？

　　A：分两点，我们来看看诺基亚的Windows平台战略。如果我们看到他的一些动作，我们一定会注意的。因为其实我们早期有一个关于APPLINK接入协议的协议。我们可以有WindowsPhone调用的机制。用户点击了一个结果，如果点击了结果，我们那里就有一个Android IE，它可以接受IE并将信息发回给用户。只要在前端实现一些信息，就可以做好。劳动量似乎不是很大，是可以实现的。除了WindowsPhone和手表，毕竟还可以调APP，大家可以看看。

　　Q：APP和网页版，很多APP都嵌入在H5网页中，里面只是一个外壳。百度做的AppLink，他点击后，从百度APP弹到糯米APP，然后弹走。他用百度搜索了很多数据。百度用户可以点击下一个网站。如果你把他推到糯米，我们后面的人就没有机会了。

　　A：其实APPLINK不是技术壁垒的问题，是努力的问题。对于大型网站，您可以自己做。对于APPLINK，未来可能会有各方面的调整。对于小站来说，如果小站连接起来，目前就有这个优势。因为小站访问也可以跳转到小站。

　　Q：加入APPLINK后，如果小站数据不够，会一下*敏*感*词*出来吗？

　　A：当你回到你的站，至少进入你自己的生态。事实上，从搜索的角度来看，我们的目标是满足用户的需求。如果我们引导到网站，如果网站不能满足需求，用户自然会被转移。将用户引向你是网站满足用户需求的动力。我认为应该是这样的。

　　Q：如果整个页面有APPLINK，会有一个分发按钮。分配按钮的条件是什么？

　　A：没有条件，你把APP包给我们，我们给你分发。

　　Q：目前除了你的团队之外，还有几个百度内容的手机助手。有什么区别吗？

　　A：这是一个早期的尝试。我们都知道移动端和PC端已经合并了。作为一个整体，我们输出了一组解决方案。可能上半年我们把这件事推的很紧。当时我们也很困惑。那个时候整个生态合并之后，现在我们整体的输出是由APPLINK来做比较合理。移动助手不是搜索结果。输出可能在不同的产品线中，APPLINK 出现在搜索结果中。

　　Q：加入APPLINK对移动站平台有影响吗？

　　答：还没有。但他会有一个正常的点击。

　　Q：Android生态最麻烦的就是有时候不能调整。这种问题不调整，会不会指导下载操作？

　　A：一般有两种情况是不能调整的。一个是安装包，因为安卓或者IOS包还有一个版本问题。因为网上提交的版本是用户没有更新新版本，或者有可能出现用户安装了新版本，但又删除了，有时无法调整的情况。在这种情况下，将访问 H5 站。现在有监控系统。如果我们不能去H5站，我们会发现搜索流量异常，我们会修复它。最快的情况是处理问题反馈。