白露时节、秋雨殷勤,ModelWhale 也迎来了新一轮的版本更新,多层面持续优化你的使用体验。
本次更新中,ModelWhale 主要进行了以下功能迭代:
优化 Canvas 多人自研开发流程(团队版✓)
新增 Canvas 组件历史版本使用(团队版✓)
新增 异步请求的模型服务(专业版✓ 团队版✓)
优化 模型服务实例监控(专业版✓ 团队版✓)
新增 注入分析前预运行代码(专业版✓ 团队版✓)
新增 数据共同编辑、项目仅查看权限设置(团队版✓)
新增 Notebook 自定义字体大小、行间距(基础版✓ 专业版✓ 团队版✓ )
ModelWhale Canvas 拥有“算法封装”+“算法快捷使用”能力,组织内算法工程师可以自研 Canvas 组件封装代码,分发 Canvas 分析模板供组织成员直接使用,快速搭建研究框架、低代码完成数据分析工作。
组件拥有 3 种状态,包括待测试、测试中、已上线;通常涉及 3 个角色,包括组件创建者、组件协作开发者、组件使用者。“组件创建者”创建组件并提测后,可以和“组件协作开发者”共同测试、编辑、迭代算法组件,期间可以生成多个版本记录迭代过程;待组件完成开发后,由“组件创建者”上线组件、组件最终版本(其他过程迭代版本,将自动隐藏);上线后,“组件使用者”即可在自己的 Canvas 画布中自由使用该算法组件。
上线后的 Canvas 组件也支持二次编辑迭代:“组件创建者”、“组件协作开发者”可以基于已上线的组件版本对代码、参数、端口等信息进行优化调整,而后由“组件创建者”上线新的组件版本(也支持隐藏其他组件版本)。更多使用说明,详见: Canvas 低代码工具(开发)。
组织内算法工程师(组件开发者们)完成组件的更新迭代、上线了新的组件版本后,现已支持组织用户(组件使用者)继续使用组件以往的历史版本,以基于原有的 Canvas 分析模板、Canvas Flow 工作流继续工作:组件使用者无需再额外理解“组件版本概念”、了解“组件变更日志”,也减少了组件开发者的解释成本。
Canvas 组件的更新向前兼容,即:更新后不会造成原有功能不可用。如有需要,组织用户可以随时“切换组件版本”或“选择使用默认版本”;更多使用说明,详见: Canvas 低代码工具(使用)。
将训练好的模型应用于实际场景,需要进行模型服务部署:让模型的价值在真实应用场景下更好地发挥,也可以反哺模型迭代优化。然而,单次推断时间较长的模型服务,在调用时会产生一些问题,比如需要模型开发者每次修改 ngnix 和 timeout,或者在应用层将请求改造为异步,以顺利调用模型。现 ModelWhale 模型 Rest 服务,已支持【同步返回】和【异步返回】两种请求形式;其中,(1)同步请求的模型服务,支持进一步设置“扩容机制”、“扩容阈值”;(2)异步请求的模型服务,支持在 ModelWhale 调用监控中选择“放弃”,满足多种场景下的模型调用需求。更多使用说明,详见:模型服务部署。
ModelWhale 支持对已部署的模型服务进行资源使用监控,以便模型开发者:(1)在模型服务使用量上升、触发阈值时,及时扩容;(2)及时回收不再使用的模型服务实例(比如一些修改配置后的旧实例),避免因资源占用而造成浪费。
此外,ModelWhale 除了可以很好地监控 CPU 模型服务外,现也支持监控 GPU 模型服务:模型开发者可以在 ModelWhale 查看 GPU 模型服务的显存及 GPU 的使用情况,以追踪了解服务的实际运行情况 。更多使用说明,详见:模型服务部署-模型监控。
结合你的研究分析习惯,你可能希望在开始数据探索前预先加载某些工具库、分析代码,或者提前注入环境变量,以构建所需研究环境。现在,你可以在 ModelWhale “个人设置 - 偏好设置 - 注入 Kernel 代码” 中将它们输入填写。
保存后并在进入编程界面(Notebook、Canvas)前勾选配置,每次连接到 Kernel(包括首次连接、断开后重连、重启 Kernel 连接),我们都将自动为你执行相关代码、构建所需的软件分析环境,提高你开展研究工作的效率。
ModelWhale 配有严格、灵活的权限系统,供你进行安全、高效的内容分享及协作。
(1)针对数据集,我们在已有的“可查看使用”、“可分发管理”的权限设计上,新增“可共同编辑”权限:以便他人与你共同编辑更新数据文件、描述文档、数据库及对象存储连接等信息;
(2)针对代码项目,我们在已有的“可 fork(生成内容副本)”、“可共同编辑”的权限设计上,新增“仅查看”权限:他人仅可以浏览项目内容,无法通过在线 fork(生成内容副本)、下载的形式进行内容搬运复刻。
ModelWhale 数据科学平台上的其他内容实体,包括但不限于预训练模型、因子成果库、参数组合结果库、算法库、模型服务等,也均支持类似的权限管控。
ModelWhale Notebook 具有良好的代码展示性,可用作“项目报告”承载你的研究成果。
内容展示方面,你可以(1)跨项目、跨 Notebook “引用”以往报告,比如历史试验数据分析结果、专业报告中的图片与结论等,增加研究报告的严谨性;也可以(2)隐藏代码输入/仅展示代码输出,让报告内容更加简洁。
内容排版方面,你除了可以(1)使用 Markdown Cell 进行文档目录排版外;现在还(2)支持自定义字体大小、行间距,制作出更美观的研究报告。
此外,单击 Code Cell,现已默认进入编辑状态,可以进行更快捷的代码编辑。
更多使用说明,详见: Notebook - 分析报告书写。
以上就是本期 ModelWhale 版本更新的全部内容。
进入 ModelWhale.com,免费试用专业版(个人研究)或试用团队版(组织协同),获赠 CPU 和 GPU 算力!(建议使用电脑端进行试用体验)
如果对 ModelWhale 有任何建议、疑问,或有试用续期需求,欢迎【联系MW】,MoMo 很高兴为你服务、与你交流。