公共云计算平台可以帮助企业充分利用全球服务器来增强其私有数据中心。这使得基础设施能够扩展到任何位置,并有助于计算资源的灵活扩展。混合公共-私有云为企业计算应用程序提供了强大的灵活性、价值和安全性。
然而,随着分布在全球各地的实时人工智能应用程序的增多,对本地处理能力的需求也越来越大,特别是在远离集中式云服务器的远程位置。由低延迟或数据驻留要求驱动的特定工作负载,需要在本地或特定位置部署。
了解人工智能计算相关内容,请参阅:了解人工智能计算: 人工智能入门
为了应对这些挑战,许多企业选择边缘计算,这是一种专注于处理数据来源的范式。与传统的云处理不同,边缘计算在边缘设备上本地执行操作,将数据存储在源头。这种方法消除了对互联网连接的依赖,允许设备作为独立的网络节点运行。
从本质上讲,云计算是通过互联网(“云”)提供计算服务(包括服务器、存储、数据库、网络、软件、分析和智能),以实现更快的创新、灵活的资源和更大的规模经济。
与传统的本地IT设置相比,云计算有助于实现以下目标:
降低IT成本:云计算消除了与采购硬件和软件以及建立和运营本地数据中心相关的前期成本。这包括服务器机架、电力和制冷消耗,以及IT专业人员监督基础设施管理的需求。此外,企业只需为使用的计算资源付费,可以很好地控制其运营成本。
简化的IT管理:借助云基础设施的按需部署,企业可以在很短的时间内部署应用程序,并更快地进入市场。云服务提供商为客户提供了专业的IT管理人员的支持,使员工能够集中精力处理其业务运营的基本需求。
提高可靠性:因为数据可以在云提供商网络上的多个冗余站点之间进行镜像,云计算使数据备份、灾难恢复和连续性业务更容易、更具成本效益。此外,云计算允许您根据需求自动配置或取消配置资源。此功能可以降低成本并提高组织的整体效率。
边缘计算是一种将企业应用程序更接近数据源的分布式计算框架,例如物联网设备或本地边缘服务器。边缘计算因其将计算能力引入网络或设备边缘的方法而得名,能够实现更快的数据处理、增强带宽并确保数据主权。
边缘计算减少了将所有设备生成的数据发送到集中式数据中心或云所导致的带宽和延迟问题,这对于数据科学和人工智能等现代应用尤为重要。
由于低延迟或数据驻留要求,某些工作负载需要保留在本地或特定位置。这就是边缘计算的优势发挥作用的地方。
更低的延迟:对于许多应用程序来说,毫秒之差都会产生巨大差别。数据传输需要时间,但边缘的数据处理可以消除或减少数据传输。边缘计算可以在本地处理数据,而无需访问互联网。这将计算能力扩展到以前无法访问或远程位置。
模型准确性:AI严重依赖高精度模型,尤其是需要实时响应能力的边缘场景。在网络带宽不足的情况下,典型的解决方案通常选择减小模型的输入数据大小。这会导致图像尺寸减小、视频跳帧和音频采样率降低。当在边缘实施时,利用数据反馈循环可以提高AI模型的准确性,从而实现多个模型的并发操作。
数据安全:数据在本地进行分析,而边缘计算允许组织将所有敏感数据和计算保存在局域网和企业防火墙内。这降低了在云端的网络安全攻击风险,并有助于更好地遵守严格且不断变化的数据法律。
容器化应用程序在边缘和云计算环境中都具有实用性。这些易于部署的软件包支持在各种操作系统上运行应用程序。它们被设计为与主机操作系统分离,确保在不同平台和云端具有良好的兼容性。
云容器和边缘容器之间的主要区别在于它们的位置。边缘容器位于网络边缘,靠近数据源,而云容器则在集中式数据中心内运行。已经集成了容器化云解决方案的组织可以将其部署无缝扩展到边缘。
在许多情况下,组织选择云原生技术来监督其边缘AI数据中心。这种选择是由边缘AI服务器的分布式特性驱动的,通常覆盖10,000个位置,且并未配置物理安全或训练有素的员工。因此,确保边缘AI服务器的安全性、弹性和大规模高效管理成为一项迫切任务,这进一步促使了采用云原生解决方案。
尽管云计算和边缘计算具有不同的功能,但大多数组织都同时使用两者。以下是云计算和边缘计算在部署工作中的区别。
云计算和边缘计算各自具有不同的优势和功能,因此对于许多组织来说,云和边缘的融合是必要的。组织能够根据实际情况,在集中或分布间进行选择。混合云架构使企业能够利用本地系统提供的安全性和易管理性,同时利用公有云服务提供的资源。
混合云解决方案的定义因组织而异。它可以包括在云中进行训练并在边缘部署,使用边缘的云管理工具在数据中心进行训练,甚至在边缘进行训练,或是利用云中的集中模型进行联邦学习。将云和边缘结合在一起的可能性是多种多样的。