• B站每日自动签到&传统单节点网站的 Serverless 上云


    什么是函数?刚刚考完数学没多久的我,脑力里立马想到的是自变量、因变量、函数值,也就是y=f(x)。当然,在计算机里,函数function往往指的是一段被定义好的代码程序,我们可以通过传参调用这个定义好的函数,实现我们所需要的功能。那么,今天的函数计算FC又是什么?

    云计算时代的当下,容器化技术与各种工具发展的DevOps,已经把开发与运维的工作进行了新的统筹,开发人员在完成代码的编写后,无需考虑环境,直接提交到各种流水线就可以完成测试、开发、部署,项目构建微服务,由容器完成环境的封装。但是往往我们最终还是需要投入精力到业务上线的集群,是私有云环境还是公有云?是裸金属服务器还是云实例ECS?是自购还是租用?

    当然,DevOps的落地,服务器\集群的运维,这些都是需要投入大量的资源与精力,DevOps是一条捷径,但不是唯一的出路。因此函数计算FC的出现,带来了无服务Serverless的架构,让开发者在开发和部署的时候,不在有部署服务复杂的感觉,对服务器的无感化,可以使开发者真正的关注在自己的代码上。阿里云Serverless函数式极简编程可专注于业务创新,无采购和部署成本、提供监控报警等完备的可观测能力。函数计算是事件驱动的全托管计算服务,真正的无需去考虑服务器的运维管理,只需要完成开发的代码进行上传,函数计算会通过角色策略去规划计算资源,弹性的方式执行函数,最后高效的执行部署。优雅!

    Serverless 将会有那些适用场景?是个人?还是生产?那么这次我将部署两种不同方向的应用对Serverless进行测评

    一、通知系统与Webhook,Trigger触发与Chat机器人。许多系统中涉及到的push类功能,例如邮件、短信、Webhook。当然Webhook的能力不只是信息通知,不过这里所指的通知功能必然是需要基础设施也就是服务器来支撑运行,如果将这些功能直接由Serverless来操作,我们便无需支付运维一台服务器,节省了大量的工作与费用。同样,我们可以利用Serverless事件驱动模型实现定时自动触发任务,自动签到自动发送。

    二、其次当然是Web类的应用。基于各类Web框架的应用部署,构建基于Java、Python、PHP等语言的站点,Serverless很容易实现如wordpress这样的博客应用的上线。配合其他云产品,Codeup、OSS、RDS等,更能实现高可用高性能的Web应用,如官方提供的Kod云盘系统。

    一、使用Serverless实现B站每日登陆签到

    作为一个老b站用户,b站等级无疑是妥妥的"名片",当然我早已是六级大佬的一员了。b站升级所需的经验值是关键,登陆、投币、观看都会积累经验。为了可以快速升级,这次我将使用阿里云Serverless,实现每日b站的登陆经验Get,观看视频经验Get,观看直播银瓜子Get(白嫖的直播送礼道具),并且配合钉钉机器人,实现Webhook的消息推送。

    1.创建Serverless服务及函数

    进入函数计算FC控制台,选择【服务及函数】,点击【创建服务】

    在【创建服务】的页面中,输入服务名称,并选择启用日志功能,日志更能可以帮助我们更好的排查错误

    这里我当然需要标注服务的功能,即实现bilibili的日常登陆签到。

    进入【创建函数】页面,选择【使用标准Runtime从零创建】

    配置函数名称,选择运行环境为Python3,并且选择从文件夹上传代码。

    注意,这里如果有依赖包需要提前下载到代码包下,我这里需要用到requests包 ,在本地需要执行 pip install -t . <模块名称>。不过后续也可以在控制台处执行下载命令

    这里的Python功能实现的脚本是定时触发类的,因此我们选择请求处理程序类型为【处理事件请求】

    下方配置触发器,选择定时触发器,输入名称,选择【指定时间】,我这里选择的是每日的23点进行脚本的运行

    Python脚本内容

    1. # -*- coding: utf8 -*-
    2. import requests
    3. import json
    4. import time
    5. import re
    6. import sys
    7. import codecs
    8. from bs4 import BeautifulSoup
    9. from json.decoder import JSONDecodeError
    10. # B站登陆Cookie
    11. cookie = ""
    12. # Webhook地址
    13. webhook = "https://oapi.dingtalk.com/robot/send?access_token=xxxx"
    14. # 自动观看的BV号,杰伦新专-最伟大的作品
    15. bid = 'BV1ua411p7iA'
    16. uid=re.match('(?<=DedeUserID=).*?(?=;)',cookie)
    17. sid=re.match('(?<=sid=).*?(?=;)',cookie)
    18. csrf=re.match('(?<=bili_jct=).*',cookie)
    19. # 部分编码问题
    20. sys.stdout = codecs.getwriter("utf-8")(sys.stdout.detach())
    21. # bv转为av
    22. def bv_to_av(bv):
    23. headers={
    24. 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.163 Safari/537.36',
    25. }
    26. r = requests.get('https://api.bilibili.com/x/web-interface/view', {'bvid': bv}, headers=headers)
    27. response = decode_json(r)
    28. try:
    29. return str(response['data']['aid'])
    30. except (KeyError, TypeError):
    31. return '883409884'
    32. # json解析
    33. def decode_json(r):
    34. try:
    35. response = r.json()
    36. except JSONDecodeError:
    37. return -1
    38. else:
    39. return response
    40. # 自定义钉钉机器人推送
    41. def pushinfo(info,specific):
    42. # 定义推送内容,格式参考https://open.dingtalk.com/document/group/message-types-and-data-format
    43. # 注意机器人的关键词
    44. data = {
    45. "msgtype": "text",
    46. "text": {
    47. "title":"Taoreset",
    48. "content": "【Taoreset-Serverless推送】\n"+info+specific
    49. }
    50. }
    51. headers = {'content-type': 'application/json'} # 请求头
    52. r = requests.post(webhook, headers=headers, data=json.dumps(data))
    53. r.encoding = 'utf-8'
    54. print (r.text)
    55. # 阿b登录,得登陆经验
    56. def login():
    57. headers={
    58. 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.163 Safari/537.36',
    59. 'Cookie':cookie
    60. }
    61. response = requests.session().get('http://api.bilibili.com/x/space/myinfo',headers=headers)
    62. rejson = json.loads(response.text)
    63. code = rejson['code']
    64. msg = rejson['message']
    65. if code == 0:
    66. print('登录成功')
    67. return True
    68. else:
    69. print('登录失败:'+msg)
    70. return False
    71. # 获取用户信息
    72. def get_user_info():
    73. headers = {
    74. 'Cookie':cookie
    75. }
    76. response = requests.session().get('http://api.bilibili.com/x/space/myinfo?jsonp=jsonp',headers=headers)
    77. rejson = json.loads(response.text)
    78. code = rejson['code']
    79. msg = rejson['message']
    80. if code == 0:
    81. userInfo=['账号:'+str(rejson['data']['silence']),
    82. '硬币:'+str(rejson['data']['coins']),
    83. '经验:'+str(rejson['data']['level_exp']['current_exp'])+"/"+str(rejson['data']['level_exp']['next_exp']),
    84. '等级:'+str(rejson['data']['level']),
    85. '昵称:'+str(rejson['data']['name'])
    86. ]
    87. print(userInfo[0])
    88. print (userInfo[1])
    89. print(userInfo[2])
    90. print(userInfo[3])
    91. print(userInfo[4])
    92. return userInfo
    93. else:
    94. print("用户信息获取失败:"+msg)
    95. return "用户信息获取失败:"+msg
    96. # 直播签到,赚银瓜子儿
    97. def do_sign():
    98. headers = {
    99. 'Cookie':cookie
    100. }
    101. response = requests.session().get('https://api.live.bilibili.com/sign/doSign',headers=headers)
    102. rejson = json.loads(response.text)
    103. code = rejson['code']
    104. msg = rejson['message']
    105. if code == 0:
    106. print('直播签到成功!')
    107. return True
    108. else:
    109. print("直播签到失败:"+msg)
    110. return False
    111. # 看BV号视频,得观看经验
    112. def watch():
    113. aid=bv_to_av(bid)
    114. headers = {
    115. 'Cookie':cookie
    116. }
    117. response = requests.session().get('http://api.bilibili.com/x/web-interface/view?aid='+str(aid),headers=headers)
    118. rejson = json.loads(response.text)
    119. code = rejson['code']
    120. #print(response.text)
    121. if code == 0:
    122. cid = rejson['data']['cid']
    123. duration = rejson['data']['duration']
    124. else:
    125. print('视频信息解析失败')
    126. return False
    127. payload = {
    128. 'aid': aid,
    129. 'cid': cid,
    130. 'jsonp': "jsonp",
    131. 'mid': uid,
    132. 'csrf': csrf,
    133. 'played_time': 0,
    134. 'pause': False,
    135. 'realtime': duration,
    136. 'dt': 7,
    137. 'play_type': 1,
    138. 'start_ts': int(time.time()),
    139. }
    140. response = requests.session().post('http://api.bilibili.com/x/report/web/heartbeat',data=payload,headers=headers)
    141. rejson = json.loads(response.text)
    142. code = rejson['code']
    143. if code == 0:
    144. time.sleep(5)
    145. payload['played_time'] = duration - 1
    146. payload['play_type'] = 0
    147. payload['start_ts'] = int(time.time())
    148. response = requests.session().post('http://api.bilibili.com/x/report/web/heartbeat',data=payload,headers=headers)
    149. rejson = json.loads(response.text)
    150. code = rejson['code']
    151. if code == 0:
    152. print(f"av{aid}观看成功")
    153. return True
    154. print(f"av{aid}观看失败 {response}")
    155. return False
    156. def main(*args):
    157. if login():
    158. ui = get_user_info()
    159. desp='直播签到:'+str(do_sign())+'\n\n'+'观看视频:'+str(watch())+'\n\n'+ui[0]+'\n\n'+ui[1]+'\n\n'+ui[2]+'\n\n'+ui[3]+'\n\n'+ui[4]+'\n\n'
    160. pushinfo('哔哩哔哩签到成功',desp)
    161. else:
    162. pushinfo('哔哩哔哩签到失败','')
    163. if __name__ == '__main__':
    164. main()

    2.修改函数配置

    完成函数的创建后就进入了函数管理的界面。函数代码这里就显示了我们上传的代码文件,所有代码执行的本地路径都在/code目录下。

    如果有依赖模块提示没有,在下方的控制台终端输入命令也可以完成模块安装下载,所有工作目录下的代码修改,完成后都需要点击部署代码进行部署上传。

    pip install -t . requests bs4

    其余需要修改一下函数的配置,点击【函数配置】,找到【环境信息】编辑,修改【请求处理程序】,修改函数入口为<要执行的代码文件名.执行的函数名>,我这里脚本的文件名为bilibiliSignin.py,代码里的主函数为main,因此函数入口就为

    3.完成函数功能测试

    选择【测试函数】,即可立即对函数进行触发,点击测试函数进行测试

    完成测试后下方就会显示日志输出内容,方便查看结果和排错

    完成效果,定时触发23点准时完成签到,并由钉钉的机器人推送消息

    欸嘿,大伙一起吧Serverless脚本跑起来,早日迎接B站六级会员!!!

    脚本参考Github ,by sanshuifeibing

    二、Serverless农产品电商网站上云改造

    这里我拿隔壁软件专业(俺是网络技术的)的一个大作业项目作为部署的案例。项目是非常简单并且功能单一的,但是也是非常经典的前后端分离项目,由于我开发不太会,项目具体技术就不献丑了。之前据说是有什么版权的,我就不放源代码了hhhh

    在改造之前,我相信是很多中小型公司业务的经典AllinOne结构,把业务涉及到的所有服务中间件运行在一台服务器/虚拟机上,虽然现在看可能完完全全是实验室环境,但是实际看到的依然有很多项目是这么做的。坏处也不用多提,部署运维难、难以进行资源的扩容、后续改造复杂、性能差没有应用高可用技术等等。

    Serverless的农产品电商平台上云,项目比较简单,规划就在同一地域了。主要是将前端HTML页面与后端Jar包运行分别由两个单独的Serverless函数完成运行计算。其余支撑服务上云,分别用对应的云产品实现,这里Redis服务由于我自己ECS上有运行redis服务,就不再单独购买云数据库Redis版了,当然推荐使用阿里云的Redis云数据库产品。

    1.Serverless服务创建

    进入函数计算控制台,选择【服务及函数】,点击【创建服务】

    输入创建服务的名称与描述,开启日志功能,点击确定,完成服务的创建

    服务创建完成后,进入【服务详情】,找到【网络配置】,点击【编辑】

    选择允许访问VPC,选择自定义配置,选择VPC、vSwitch、安全组,这里需要和后续其他支撑的云产品(数据库等)保持在同一VPC下。因此需要做好云上网络的规划,也要看一下产品是否在地域下有没有库存。

    2.前端页面Serverless函数创建

    完成服务创建后,点击【创建函数】,进入函数的创建页面

    选择【使用自定义运行时平滑迁移WebServer】,输入函数名称,选择运行环境为【Nginx】,上传前端html代码与nginx的配置文件,选择监听端口为80,即为原nginx中间件的服务端口。

    完成函数创建后,进入到函数详情界面,可以在函数代码中对代码进行编辑修改,代码改动后需要点击部署代码重新上传。上述也提到了,这里需要将Nginx服务配置一同上传,其中需要拷贝一份/etc/nginx/mime.types文件到当下目录,避免mime文件类型映射错误

    这里放nginx关键配置,根据自己的业务情况修改,注意配置中端口监听需要与函数创建监听端口保持一致,同时网页代码的路径设置为/code

    1. http {
    2. include mime.types; #注意引入此文件
    3. keepalive_timeout 900;
    4. server {
    5. listen 80;
    6. server_name localhost;
    7. location / {
    8. root /code;
    9. index index.html index.htm;
    10. proxy_set_header Host $host;
    11. proxy_set_header X-Real-IP $remote_addr;
    12. proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    13. }
    14. location /users {
    15. proxy_pass http://serverless.后端函数访问地址.run;
    16. #Nginx反代传给后端的函数,地址在后续后端函数创建完可以拷贝
    17. }
    18. location /items {
    19. proxy_pass http://serverless.后端函数访问地址.run;
    20. #Nginx反代传给后端的函数,地址在后续后端函数创建完可以拷贝
    21. }

    可以在调用日志查询相关日志

    当函数触发运行,Serverless将会根据访问请求自动起实例,在这里可以手动登陆实例,去进行中间件服务的日志、运行环境的一些查看与排错。

    3.后端Serverless函数创建

    回到函数服务界面,再次点击【创建函数】,进入函数的创建页面

    选择【使用自定义运行时平滑迁移WebServer】,输入函数名称,选择运行环境为【Java】,上传打包好的Jar包文件。

    根据具体业务修改【启动命令】与【监听端口】。我这里需要监听业务端口为8080,并且需要在运行时传入数据库连接的参数,这里所配置的数据库源用户名密码连接地址,在后续的云数据库RDS中会进行相关设置。

    后端函数创建完成后进入函数详情界面,其余功能与上述前端函数相同,不再复述

    点击【触发器管理】,此处HTTP触发器提供了公网与内网访问地址,我们拷贝内网地址在前端中间件反代配置处填入此域名,实现访问前端触发后端函数

    4.云数据库RDS MySQL Serverless创建与迁移导入

    原有Allinone架构中没有做到数据库服务的独立与高可用,在此次云化部署,我们将选用阿里云公测中的云数据库Serverless版本。RDS MySQL Serverless提供了CPU、内存的实时弹性能力,具有资源用量低、简单易用、弹性灵活和价格低廉等优点,合理优化使用成本,进一步降本增效。

    RDS MySQL Serverless实例创建

    进入云数据库RDS控制台,点击【创建实例】,开始创建实例的流程,在【基础资源】设置界面,选择Serverless版,其余根据实际进行选择

    Serverless RDS创建时【实例配置】需要注意网络VPC的设置,要与Serverless服务所设定的VPC一致,实现内网数据互通。确定订单后,等待实例创建完成即可

    RDS数据库用户设置

    完成实例创建,选择管理实例。在左侧任务栏选择【账号管理】,点击【创建账号】创建数据库账户供电商平台后端进行连接。

    输入账户名、密码,选择为普通账户,点击确定完成用户创建

    RDS 业务数据库创建

    选择左侧栏中【数据库管理】,选择【创建数据库】

    输入农产品电商业务所需的库名,并且授权账户给前一步设置的用户,点击创建完成库的设置。

    RDS 服务连接地址

    我们的Serverless函数中所需要连接库的地址,在rds实例中【数据库】连接处可以查到,不过需要提前设定白名单

    我们将内网地址进行拷贝,并且也完成了连接用户、密码、库的配置,就可以配置到Serverless函数或者是后端代码中了

    RDS 业务数据库的导入恢复

    数据库的上云关键是数据内容的迁移,这次部署的业务数据库很少又很小,因此使用简单的备份SQL脚本文件作为迁移的方式。MySQL/Mariadb的数据导出有多种方式,可以根据实际需求进行备份导出,当然大型业务库有专用的备份迁移工具,这里不细说了。

    进入DMS数据管理服务,选择【数据库开发】,在【数据变更】下点击【数据导入】。

    根据具体备份方式导入数据库,我这里选择上传备份的sql脚本,提交申请开始导入数据

    数据导入完成,数据迁移完成

    5.Redis服务上云与静态资源CDN

    Redis服务上云,前文也提到了,这里Redis服务由于我自己ECS上有运行redis服务,就不再单独购买云数据库Redis版了,ECS也处于同一VPC之下,可以实现内网互通。当然推荐使用阿里云的Redis云数据库产品。

    静态资源的CDN,包括css\js\图片的加速,原有架构中已经存放在阿里的CDN服务上了,我这里就不多做改动了。

    6.公网业务访问域名配置

    最后一步,用户最终访问的是前端Serverless函数,如同阿里云给出的提示,访问默认的公网地址不会做任何中间件解析,而是直接下载首页html静态文件,因此我们需要自己配置访问域名。

    回到函数计算控制台,选择【域名管理】,点击【添加自定义域名】

    输入自定的域名,配置路由,选择对应函数的服务名称、函数名称、版本号LATEST(最新)

    将需要解析的CNAME值,拷贝

    拷贝CNAME记录值,点击【云解析DNS控制台】,进入解析设置,点击【添加记录】

    选择记录类型【CNAME】,输入主机头,填入拷贝的记录值,确认完成添加

    7.农产品电商项目Serverless上云效果

    首页,访问效果,前端函数无误

    农产品详情页访问

    用户注册功能测试,数据库连接与写入无误

    RDS中数据已成功写入

    用户登陆测试

    订单提交测试,后端函数无误

    三、使用Serverless应用模板快速构建litemall电商应用系统

    1.基于官方模板创建应用

    Serverless应用提供了大量的官方应用模板,我们可以根据给出的模板来修改自己的业务,因此熟悉模板的部署也很重要。

    进入到函数计算FC的控制台页面,点击【应用】,选择【通过模板创建应用】,选择【商城案例】

    通过详情查看部署模板的信息,以及查询源代码,点击立即创建可以快速体验Serverless应用的创建,本地部署可以通过ServerlessDev工具进行部署

    2.对创建应用进行配置

    点击立即创建后,我们进行应用的初始化配置。

    部署类型有两种:1.通过第三方代码仓库部署,2.直接部署

    两者区别就是使用自己的仓库代码后续可以通过push更新项目发布,而直接部署需要手动配置。

    这里就可以看到,我们的交付触发也是以Git仓库push提交为主,每次提交会自动触发部署。

    如是自己配置应用,需要根据业务配置s.yaml文件,参考:https://www.serverless-devs.com/fc/yaml/readme

    这里我选择Gitee仓库进行部署,但是需要进行仓库第三方应用的授权

    点击前往授权,跳转到gitee的站点进行OAuth授权请求,点击同意授权

    阿里用户在第一次使用FC函数计算时,需要对角色策略进行添加的,我这里已经使用过FC了,若提示需要添加策略,按照提示点击添加即可。

    其他高级配置,需要根据业务进行修改,这里注意地域的选定,后续的其他弹性资源都会在此地域下,我这里选择本地杭州。

    完成配置后点击创建,代码已经新建上传到我的Gitee仓库了。这里提供的s.yaml可以作为配置的参考,后续根据所部署的业务去修改yaml

    3.应用部署上线

    应用创建完成,首次自动进行部署,这里部署状态可以看到正在部署

    查看部署日志,如果部署出现错误也可以从日志信息中查询报错。

    部署经历了前置环境、资源同步、资源检查、执行部署这四个步骤后,我们的电商应用就完成了部署

    首次部署完成,也是最新latest的一次部署版本,可以通过部署历史自由的进行回滚

    4.访问部署上线的电商应用

    访问测试的域名,就可以看到我们上线的litemall电商系统,进入电商应用的后台管理

    litemall电商系统是一个开源的前后端分离带微信小程序的电商系统,具有电商平台基础的会员管理、商城管理、商品管理、推广管理、系统管理、配置管理、统计报表。

    litemall电商系统,需要配置最小开发环境有以下:

    MySQL

    JDK1.8或以上

    Maven

    Nodejs

    5.更换业务域名访问

    同样,当我们正常上线了FC的业务时,Serverless用的是默认访问地址

    函数计算上线提供的域名是以..http://fc.aliyuncs.com//proxy///[action?queries]为默认的,若是正常业务访问我们必然要修改访问的域名。

    进入到函数计算FC的首页,点击高级功能下的域名管理,这里可以看到我们上线电商应用时的默认域名已经路由信息

    我们选择添加自定义域名

    输入域名的名称,也就是购买备案的域名下的自定义二级域名

    点击路由配置,选择服务名称,这里是我们部署的电商系统litemall,选择函数名称与版本

    拷贝公网CNAME地址,后续在DNS域名管理处添加解析

    进入到域名管理下,添加一条记录,记录类型选择CNAME,输入主机记录,将刚刚拷贝的公网CNAME地址粘到记录值,点击添加即可

    回到函数计算FC,在最后点击创建即可,回到主页看到我们新绑定的域名

    最后,拿手机访问我自定义配置的公网地址

    电商服务正常上线,公网地址正常访问主页

    商品的详情购买页面

    最后

    Serverless相对其他方案来说,也是非常容易上手并高效的技术方案。上面的部署测试,其实还有很多需要改进的地方,例如第二个农产品电商上云项目,真正可靠的云上业务还需要负载均衡、高可用多地容灾、安全等其他云产品的引入我想把案例的重点放在Serverless服务器无感化上,本人也使用过不少阿里云的技术产品,深知对底层基础设施运维难度。

    虽然这几个月学习生活比较繁忙,但是还是对社区的各种活动非常感兴趣,也想做一些更好的测试。这次的Serverless无论是对个人用户,还是企业用户。都是一种非常不错的选择,弹性资源与按需付费,更加节省资源与Money,更加优雅!

    原文链接

    本文为阿里云原创内容,未经允许不得转载。

  • 相关阅读:
    hadoop03--flume集群搭建
    【洛谷 B2003】输出第二个整数 题解(顺序结构+输入输出)
    MVCC 过程中会加锁吗?
    C++ 多线程 学习笔记
    Lua脚本实现setnx命令
    MyBatis详解(一)
    基于FPGA的远程升级系统概述
    mac 中配置idea自带maven环境变量
    网络协议详解:TCP Part1
    编程挑战赛第六期我带我的小侄子来了【赛题解析】
  • 原文地址:https://blog.csdn.net/weixin_43970890/article/details/126014927