最近 LinkedIn 爬虫大量抓取网站,需要确定那些是 LinkedIn 的爬虫,经过对 IP 地址反向查询,确定了 hostname。
确定了 IP 地址段之后,我们需要确定每个 IP 的 hostname 是不是:x.fwd.linkedin.com
下面是使用 Python 确定每个 IP 地址的 hostname,代码示例:
- import socket
-
- # 定义 IP 地址范围
- start_ip = "108.174.2.0"
- end_ip = "108.174.255.255"
-
- # 将 IP 地址字符串转换为整数,以便在范围内进行迭代
- def ip_to_int(ip):
- parts = ip.split(".")
- return (int(parts[0]) << 24) + (int(parts[1]) << 16) + (int(parts[2]) << 8) + int(parts[3])
-
- start_ip_int = ip_to_int(start_ip)
- end_ip_int = ip_to_int(end_ip)
-
- # 遍历 IP 地址范围并获取主机名
- for ip_int in range(start_ip_int, end_ip_int + 1):
- ip = ".".join(str((ip_int >> i) & 255) for i in (24, 16, 8, 0)) # 将整数转换回 IP 地址字符串
- try:
- hostname, _ = socket.gethostbyaddr(ip)
- print(f"IP: {ip} -> Hostname: {hostname}")
- except socket.herror:
- # 如果无法解析主机名,则打印 N/A
- print(f"IP: {ip} -> Hostname: N/A")
这样就可以确定那些 IP 地址是 LinkedIn 的爬虫了。