抓取存储

Ⅰ 搜索引擎工作原理

搜索引擎的工作原理总共有四步：

第一步：爬行，搜索引擎是通过一种特定规律的软件跟踪网页的链接，从一个链接爬到另外一个链

接，所以称为爬行。

第二步：抓取存储，搜索引擎是通过蜘蛛跟踪链接爬行到网页，并将爬行的数据存入原始页面数据库。

第三步：预处理，搜索引擎将蜘蛛抓取回来的页面，进行各种步骤的预处理。

第四步：排名，用户在搜索框输入关键词后，排名程序调用索引库数据，计算排名显示给用户，排名过程与用户直接互动的。

不同的搜索引擎查出来的结果是根据引擎内部资料所决定的。比如：某一种搜索引擎没有这种资料，您就查询不到结果。

(1)抓取存储扩展阅读：

定义

一个搜索引擎由搜索器、索引器、检索器和用户接四个部分组成。搜索器的功能是在互联网中漫游，发现和搜集信息。索引器的功能是理解搜索器所搜索的信息，从中抽取出索引项，用于表示文档以及生成文档库的索引表。

检索器的功能是根据用户的查询在索引库中快速检出文档，进行文档与查询的相关度评价，对将要输出的结果进行排序，并实现某种用户相关性反馈机制。用户接口的作用是输入用户查询、显示查询结果、提供用户相关性反馈机制。

起源

所有搜索引擎的祖先，是1990年由Montreal的McGill University三名学生（Alan Emtage、Peter

Deutsch、Bill Wheelan）发明的Archie（Archie FAQ）。Alan Emtage等想到了开发一个可以用文件名查找文件的系统，于是便有了Archie。

Archie是第一个自动索引互联网上匿名FTP网站文件的程序，但它还不是真正的搜索引擎。Archie是一个可搜索的FTP文件名列表，用户必须输入精确的文件名搜索，然后Archie会告诉用户哪一个FTP地址可以下载该文件 。

由于Archie深受欢迎，受其启发，Nevada System Computing Services大学于1993年开发了一个Gopher（Gopher FAQ）搜索工具Veronica（Veronica FAQ）。Jughead是后来另一个Gopher搜索工具。

参考资料来源：网络-搜索引擎

Ⅱ 搜索引擎通过什么来识别我们的网站

一、爬行。
即发现网址链接的过程。
二、抓取存储。
此时搜索引擎的程序会向网站所在服务器提出请求，下载当前网站的整个页面，然后存储到搜索引擎自己的数据存储服务器上。搜索引擎下载处理网页的能力很快，可以同时进行成千上万个。
三、处理。
首先是对它下载下来网站的处理，如提取文字，进行中文分词，去除一些无用内容，以及判断文字内容是否是原创等。
其次是索引，所有处理过的网站最终形成一个关键词和关键词所在位置的集合。如一个网站上有哪些词，这些词出现多少次，在什么地方出现，是否有强调（如加粗等）。
通过以上两个步骤，搜索引擎以关键词的形式来识别你这个网站的内容与哪些主题相关。
四、排名
将存储在搜索引擎自己数据库里的内容与用户搜索词进行匹配，决定最终的排名。

Ⅲ 大数据采集与存储的基本步骤有哪些

数据抽取

针对大数据分析平台需要采集的各类数据，分别有针对性地研制适配接口。对于已有的信息系统，研发对应的接口模块与各信息系统对接，不能实现数据共享接口的系统通过ETL工具进行数据采集，支持多种类型数据库，按照相应规范对数据进行清洗转换，从而实现数据的统一存储管理。

数据预处理

为使大数据分析平台能更方便对数据进行处理，同时为了使得数据的存储机制扩展性、容错性更好，需要把数据按照相应关联性进行组合，并将数据转化为文本格式，作为文件存储下来。

数据存储

除了Hadoop中已广泛应用于数据存储的HDFS，常用的还有分布式、面向列的开源数据库Hbase，HBase是一种key/value系统，部署在HDFS上，与Hadoop一样，HBase的目标主要是依赖横向扩展，通过不断的增加廉价的商用服务器，增加计算和存储能力。

关于大数据采集与存储的基本步骤有哪些，青藤小编就和您分享到这里了。如果您对大数据工程有浓厚的兴趣，希望这篇文章可以为您提供帮助。如果您还想了解更多关于数据分析师、大数据工程师的技巧及素材等内容，可以点击本站的其他文章进行学习。