利用TypeScript 和 jsdom 库实现自动化抓取数据

以下是一个使用 TypeScript 和 jsdom 库的下载器程序，用于下载zhihu的内容。此程序使用了 duoip.cn/get_proxy 这段代码。

import { JSDOM } from 'jsdom';
import { getProxy } from 'https://www.duoip.cn/get_proxy';

const zhihuUrl = 'https://www.zhihu.com';

(async () => {
  // 获取代理服务器
  const proxy = await getProxy();
  console.log('使用代理服务器:', proxy);

  // 创建一个 JSDOM 实例，并设置代理服务器
  const dom = new JSDOM(``, {
    proxy: proxy,
    userAgent: 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36',
  });

  // 使用 fetch 方法获取 zhihu 主页内容
  const response = await dom.window.fetch(zhihuUrl);
  const html = await response.text();

  // 打印获取到的 HTML 内容
  console.log('zhihu 主页 HTML:', html);
})();
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

这个程序首先引入了 JSDOM 和 getProxy 函数。然后定义了一个名为 zhihuUrl 的常量，用于存储要下载的 URL。接下来，使用 async/await 语法定义了一个异步函数，用于执行下载操作。

首先，调用 getProxy 函数获取代理服务器。然后，创建一个 JSDOM 实例，并为其设置代理服务器和用户代理。接着，使用 dom.window.fetch 方法获取 zhihu 主页内容，并将结果存储在 html 变量中。最后，将获取到的 HTML 内容打印出来。