LLMs app stack and architecture

从LLM开始走入大家的视野之后，基于大模型的应用，也层出不穷，特别是类似chatgpt这样的应用，通过语音聊天输入用户关心的问题，一步步的获取模型能理解的参数，从而生成用户想得到的结果；

然后在聊天的基础之上，大模型也根据用户的有效输入可以生成多模态的结果，文生图，文生视频等；

那基于大模型之上的应用目前都是怎样的技术栈和架构设计呢，本文将给出浅显的认知，供大家参考。

下面是我最近研究和参考的应用架构(dify)：https://github.com/langgenius/dify; 之后我和根据自己的理解和学习，针对这个AI应用平台做进一步的分析和分享。