• Alexon:在云原生环境中快速部署应用服务


    Alexon是一个旨在快速部署WEB应用服务到分布式系统中的工具,适用于云原生环境。 Alexon由SymeCloud Limited(syme.dev) 发布,使用GNU Guile编写而成,支持函数编程概念。
    SymeCloud 公司主要致力于 AI-Infra 方面的研发,从 OpenAI 泄露出的技术架构来看,基于大语言模型的推理产品的主要工程难度在于部署。产品级 LLM 并不是简单地跑个单节点,而是有复杂的架构划分与数据流优化组合,这使得原本就复杂的云原生体系在LLM领域将面对更加高复杂度的挑战。Alexon 的目标就是利用函数式编程的特性和模板系统为LLM推理系统的快速试错和部署尽可能降低复杂度,为后续的系统研究铺平道路。
    Alexon 将为您处理 Kubernetes、DNS、负载平衡和所有复杂问题,使您无需接受大量培训即可使您的项目转向云原生,这样您就可以花更多的时间开发您的产品并改善用户体验。
    使用Alexon无需花费大量时间来配置 Kubernetes或K3S 组件,只需要编写一个manifest文件并应用它即可。
    运行一个博客系统:
    1 编写Application manifest
    apiVersion: syme.dev/alexon/app/v1-alpha
    kind: Application
    name: my-blog
    port: 8080
    nodes:
      nodeFile:
        path: /etc/alexon/templates/colt.yaml
    2 编写Worker-Node manifest
    apiVersion: syme.dev/alexon/worker/v1-alpha
    kind: Worker
    cluster: colt
    nodeDef:
      name: colt
      image: registry.gitlab.com/nalaginrut/colt:latest
      workdir: /colt
      cmd: art work --refresh
      ports:
        - name: http
          bind: 3000:3000
    3 alexon app create my-app.yaml 并 在浏览器中访问Worker-Node的8080端口

    Alexon扮演了一个由Kubernetes、Docker、Nginx、CoreDNS等众多组件组成的“雇佣兵团”的领导者角色。Alexon 提供了用于部署和管理容器化应用程序的简化解决方案,旨在简化在分布式环境中构建和部署应用程序的过程,并基于微服务架构,可轻松扩展和高可用性。推荐使用docker来部署Alexon。

    docker run -it --rm \

    -v $PWD:/alexon \

    -v /var/run/docker.sock:/var/run/docker.sock \

    registry.gitlab.com/symecloud/alexon:latest \

    "$@"

  • 相关阅读:
    电子学会2021年6月青少年软件编程(图形化)等级考试试卷(一级)答案解析
    面试说:聊聊JavaScript中的数据类型
    c++语言核心及进阶
    第二次上机作业 大连理工大学
    代码随想录算法训练营第三十六天| 435. 无重叠区间 763.划分字母区间 56. 合并区间
    聊聊公司的那点事
    Qt基础窗口类
    【论文阅读】A Survey on Video Diffusion Models
    杭电多校-Shinobu loves trip-(预处理+同余定理)
    有营养的算法笔记五
  • 原文地址:https://blog.csdn.net/UsamaBinLaden6976498/article/details/134010482