码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 常规动态网页爬取


    1.抓取动态网页“http://www.ptpress.com.cn”内容,将新书推荐中生活板块的书籍书名、价格和作者爬取并保存。

    1. import requests
    2. import json
    3. import openpyxl
    4. url = 'https://www.ptpress.com.cn/recommendBook/getRecommendBookListForPortal?bookTagId=d5cbb56d-09ef-41f5-9110-ced741048f5f'
    5. headers = {
    6. 'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 '
    7. '(KHTML, like Gecko) Chrome/95.0.4638.69 Safari/537.36 Edg/95.0.1020.44',
    8. 'Cookie':'gr_user_id=796019e3-dc58-40f5-a6df-892a38008bcd; '
    9. 'acw_tc=2760822416373059896443147efcf3dd457a5539d63a07fdafd12f3041cd93; '
    10. 'JSESSIONID=A0FD72E84771D06417CF145392DAA679; '
    11. 'gr_session_id_9311c428042bb76e=1a1d8cc2-0de9-4409-adc4-07de4cdb503f;'
    12. ' gr_session_id_9311c428042bb76e_1a1d8cc2-0de9-4409-adc4-07de4cdb503f=true'
    13. }
    14. text_json = requests.get(url=url,headers=headers)
    15. res = json.loads(text_json.content)
    16. def save_execl(res):
    17. wb1 = openpyxl.Workbook()
    18. sheet = wb1.active
    19. sheet.title = "人民邮电新书推荐"
    20. title = ['书名', '作者', '价格']
    21. sheet.append(title)
    22. for re in res['data']:
    23. author, discountPrice = json_detail(re['bookId'])
    24. sheet.append([re['bookName'], author, discountPrice])
    25. wb1.save('生活类新书基本信息.xlsx')
    26. def json_detail(bookid):
    27. url = 'https://www.ptpress.com.cn/bookinfo/getBookDetailsById'
    28. bookid = bookid
    29. params = {
    30. 'bookId': bookid,
    31. }
    32. text_json = requests.post(url=url, headers=headers, params=params)
    33. res = json.loads(text_json.content)['data']
    34. author = res['author']
    35. discountPrice = res['discountPrice']
    36. print(res['bookName'], author, discountPrice)
    37. return author, discountPrice
    38. save_execl(res)

    爬取结果:

  • 相关阅读:
    SpringBoot-Web开发-请求映射与请求参数处理
    iOS卡顿原因与优化
    3D开发工具HOOPS:助力Navisworks数据处理与3D模型可视化!
    【QT中的容器|摄像头|jpeg库的移植和使用|explicit 关键字|逗号表达式】
    Mysql之常用函数、聚合函数&合并(union&union all)【第四篇】
    探索设计之路-Photoshop【魔棒和快速选择工具】
    项目管理中,如何使用进度猫制定项目计划?
    达梦SQL优化:如何定位慢的SQL
    VUE基础的一些实战总结
    nginx的rev->handler的更新历程
  • 原文地址:https://blog.csdn.net/m0_74972727/article/details/133881511
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号