MY Database

从单体到微服务
多年来，企业中开发应用程序时使用了不同的架构范例。以传统的应用程序开发领域为例 — 一切都始于单片应用程序，其中应用程序的所有功能都直接编码到应用程序本身中。一切都在那里：从身份验证到数据查询，再到数据转换和显示，都在那个巨大的单片代码块中。

但随着时间的推移，组织意识到这种方式效率低下、过于复杂，而且难以适应。我们转向了更加模块化的面向服务架构 (SOA)。SOA 一度很流行，它使用 XML 和 Web 服务来分解应用程序单体。近年来，我们在微服务方面又迈进了一步。如今，标准范例是使用 JSON 格式在微服务之间来回传递数据，这些微服务通常在 Kubernetes 上运行。它大大简化了应用程序开发，因此我们都受益匪浅。

从单体到微服务

那么，在企业中构建 LLM 驱动的应用程序的当前范例是什么？

毫不奇怪，大多数开发人员都是从在 LangChain 等框架之上构建单体应用程序开始的（尽管不可否认的是，这些大代码块确实听起来更酷，因为我们称它们为“链”！）这很有意义。如果您需要开始并快速构建某些东西作为概念验证，您可能会使用单体应用程序架构，以便整个 POC 都是独立的。

可以肯定的是，这是尝试 LLM 的好方法。它速度快，可以快速获得令人印象深刻的结果，并且可以帮助我们思考这些新应用程序将能够做什么。这是一件好事！但它的扩展性不佳，而且几年后它不会成为最成功的公司 菲律宾电话号码数据 所做的事情。为了保持竞争优势，您将需要在整个业务范围内构建数十个甚至数百个应用程序。

LLM混乱

LLM 网格
组织需要转变架构范式。一个应用程序，而是如何在企业中构建所有由 LLM 驱动的应用程序。从单片架构向面向服务的架构转变中吸取教训，这里的关键是抽象和标准化。

企业中由 LLM 驱动的应用程序的这种新架构范例就是 LLM Mesh。

LLM Mesh 有三个主要原则：

首先，LLM Mesh 提供了一个抽象层，通过该层可以访问 LLM 和所有相关服务。这标准化了与这些不同服务的接口，因此如果您想更改底层服务，则无需在应用程序中进行任何更改。