综合研究了市面上的判例和相关文献，发现关于爬虫是否违法主要取决于三点：
Robots协议也叫 robots.txt 是一种存放于网站根目录下的 ASCII 编码的文本文件，它通常告诉网络搜索引擎的漫游器（又称网络蜘蛛），此网站中的哪些内容是不应被搜索引擎的漫游器获取的，哪些是可以被漫游器获取的。
Robots 协议就是告诉爬虫，哪些信息是可以爬取，哪些信息不能被爬取，严格按照 Robots 协议 爬取网站相关信息一般不会出现太大问题。
不是说只要遵守 Robots 协议的爬虫就没有问题，不能大规模爬虫导致对方服务器瘫痪，这等于网络攻击。
2019年05月28日国家网信办发布的《数据安全管理办法（征求意见稿）》中，拟通过行政法规的形式，对爬虫的使用进行限制：
网络运营者采取自动化手段访问收集网站数据，不得妨碍网站正常运行；此类行为严重影响网站运行，如自动化访问收集流量超过网站日均流量三分之一，网站要求停止自动化访问收集时，应当停止。
恶意利用爬虫技术抓取数据，攫取不正当竞争的优势，甚至是牟取不法利益的，则可能触犯《反不正当竞争法》。实践中，非法使用爬虫技术抓取数据而产生的纠纷其实数量并不少，大多是以不正当竞争为由提请诉讼。
综上来看，其实爬虫大多都会触犯这三条，有很大的风险。特别是一些接单群或者咸鱼、淘宝接的项目，不仔细审查的话，很容易就进坑了。
飞援是一个新兴的程序员接单平台。