爬虫的原理是网站 SEO优化 专员需侧重的点，不过对于了解爬虫原理的我们优化所必备的就是如何去分析并且了解爬虫这个工具，那么可以通过爬虫分析出来一些是进阶的如相关性，有名性，用户行为等。夯实基础，会加深对 SEO 的理解，提高网站seo优化效率。
网站SEO优化就好像是建造大楼一样，需要先从地基入手在稳固根基，所以我们需要熟悉并且精通爬虫的原理，并且分析各个原理的真实作用性，对于日常的SEO工作会有极大的帮助!
搜索引擎原理的操作本身就是我们SEO侧重的点，爬虫更是不可或缺的一个环境，对我们SEO优化的角度来看，SEO与爬虫是密不可分的!
通过简单的流程，这个流程也就是搜索引擎原理，就可以看到seo与爬虫的关系，如下：
网络<—>爬虫<—>网页内容库<—>索引程序<—>索引库<—>搜索引擎<—>用户。
网站上线之后，起原理就是基本述求使网站内容被用户索引到，这个概率是越高越好，爬虫在这方面的作用就体现的淋漓尽致，SEO优化后内容有多少被搜索引擎看到，并且有效传输给搜索引擎很是重要，爬虫在抓取的时候就体现的这样方面!
一：爬虫是什么?
爬虫有很多名字，比如web机器人、spider等，它是一种可以在无需人类干预的情况下自动进行一系列web事务处理的软件程序。
二：爬虫爬行方式是什么?
web爬虫是一种机器人，它们会递归地对各种信息性的web站点进行遍历，获取个web页面，然后获取那个页面指向的所有的web页面，依次类推。因特网搜索引擎使用爬虫在web上游荡，并把他们碰到的文档全部拉回来。然后对这些文档进行处理，形成一个可搜索的数据库。简单来说， 网络爬虫 就是搜索引擎访问你的网站进而收录你的网站的一种内容采集工具。例如：百度的网络爬虫就叫做BaiduSpider。
三：爬虫程序本身需要优化的注意点
链接提取以及相对链接的标准化
爬虫在web上移动的时候会不停的对 Html 页面进行解析，它要对所解析的每个页面上的URL链接进行分析，并将这些链接添加到需要爬行的页面列表中去。
避免环路的出现
web爬虫在web上爬行时，要特别小心不要陷入循环之中，至少有以下三个原因，环路对爬虫来说是有害的。
他们会使爬虫可能陷入可能会将其困住的循环之中。爬虫不停的兜圈子，把所有时间都耗费在不停获取相同的页面上。
爬虫不断获取相同的页面的同时，服务器段也在遭受着打击，它可能会被击垮，阻止所有真实用户访问这个站点。
爬虫本身变的毫无用处，返回数百份完全相同的页面的因特网搜索引擎就是这样的例子。
同时，联系上一个问题，由于URL“别名”的存在，即使使用了正确的数据结构，有时候也很难分辨出以前是否访问过这个页面，如果两个URL看起来不一样，但实际指向的是同一资源，就称为互为“别名”。
标记为不爬取
可以在你的网站中创建一个纯文本文件robots.txt，在这个文件中声明该网站中不想被蜘蛛访问的部分，这样，该网站的部分或全部内容就可以不被搜索引擎访问和收录了，或者可以通过robots.txt指定搜索引擎只收录指定的内容。搜索引擎爬行网站个访问的文件就是robot.txt。同样也可以把链接加上rel=”nofollow”标记。
避免环路与循环方案
规范化URL
广度优先的爬行
以广度优先的方式去访问就可以将环路的影响小化。
节流
限制一段时间内爬虫可以从一个web站点获取的页面数量，也可以通过节流来限制重复页面总数和对服务器访问的总数。
限制URL的大小
如果环路使URL长度增加，长度限制就会终终止这个环路
URL黑名单
人工监视
四：基于爬虫的工作原理， 前端开发 需注意的seo设置?
1：重要内容站点突出。
合理的title、description和keywords
虽然现在搜索对这三项的权重慢慢减小，但还是希望能够合理的写好他们，只写有用的东西，不要在这里写小说，要表达重点。
title：只强调重点即可，重要关键词出现不要超过2次，而且要靠前，每个页面title要有所不同description：把网页内容高度概括到这里，长度要合理，不可过分堆砌关键词，每个页面description要有所不同，keywords：列举出几个重要关键词即可，也不可过分堆砌。
2：语义化书写HTML代码，符合W3C标准
对于搜索引擎来说，直接面对的就是网页HTML代码，如果代码写的语义化，搜索引擎就会很容易的读懂该网页要表达的意思。
3：重要位置放置重要内容。
利用布局，把重要内容HTML代码放在前。
搜索引擎抓取HTML内容是从上到下，利用这一特点，可以让主要代码优先读取，让爬虫抓取。
4：尽量避免使用js。
重要内容不要用JS输出。
爬虫不会读取JS里的内容，所以重要内容必须放在HTML里。
5：尽量避免使用iframe框架。
尽少使用iframe框架
搜索引擎不会抓取到iframe里的内容，重要内容不要放在框架中。
6：图片需使用 alt标签 。
为图片加上alt属性
alt属性的作用是当图片无法显示时以文字作为代替显示出来，对于SEO来说，它可以令搜索引擎有机会索引你网站的图片。
7：需要强调的地方可以加上title属性
在进行SEO优化时，适合将alt属性设置为图片本来的含义，而将ttitle属性为设置该属性的元素提供建议性的信息。
8：为图片设置尺寸。
为图片加上长宽
图片大的会排在前面一点。
9：保留文字效果
如果需要兼顾 用户体验 和SEO效果，在必须用图片的地方，例如个性字体的标题，我们可以利用样式控制，让文本文字不会出现在浏览器上，但在网页代码中是有该标题的。
注意：不可使用d ISP lay:none;的方法让文字隐藏，因为搜索引擎会过滤掉display:none;里边的内容，就不会被蜘蛛检索了。
10：通过代码精简，云加速等方式提升网站打开速度。
网站速度是搜索引擎排序的一个重要指标。
11：合理使用 nofollow标签 。
对于指向外部网站的链接要使用rel=”nofollow”属性告诉爬虫不要去爬其他的页面。
SEO本身就是为了给网站一个加分的选择，以上针对爬虫所做好网站SEO优化是必备的侧重点，这些就是为了提升网站在搜索引擎的友好度。SEO优化不是单单一个优化因素而决定排名，本身优化就是从中找出不足，优化网站使网站SEO优化之后使搜索引擎为网站加分，且其中一个点或者几个点的优化优势特别明显，那么相对比同等级别的网站，排名会更有优势!
