爬虫也被称为网络蜘蛛（Spider），是一种自动化的软件程序，能够在互联网上漫游，按照一定的规则和算法抓取数据。 爬虫技术广泛应用于搜索引擎、 数据挖掘 、信息提取等领域，是互联网技术的重要组成部分。
作为爬虫的初学者，网页越简单越好，因为网页的结构越简单，则组织框架更清晰，容易在程序中对所需要的元素进行寻找，当然，也有很多这样的网页存在，特别是静态网页，这样的网页十分适合初学来练习。
但是实际应用中，需要面对的网页十分复杂，特别是一些动态网页，有登录、搜索、点击等一系列操作，那么这些需要有人工完成的任务，程序又该如何实现呢？
若想实现：需要下载浏览器及其对应的驱动器，这里推荐EDGE或者谷歌浏览器，浏览器版本和驱动器版本要相互对应。