大模型应用技术分享——Prompt Engineering、RAG、Agent、VectorStore
一、LLM 介绍 1.1 LLM是什么? LLM(Large Language Model, 大语言模型)是一种基于深度学习 Transformer 架构 的自然语言处理模型,通常拥有数十亿甚至上千亿的参数。这类模型通过大规模的数据训练,能够理解和生成自然语言文本,并可以在各种任务上表现出强大的能力
一、LLM 介绍 1.1 LLM是什么? LLM(Large Language Model, 大语言模型)是一种基于深度学习 Transformer 架构 的自然语言处理模型,通常拥有数十亿甚至上千亿的参数。这类模型通过大规模的数据训练,能够理解和生成自然语言文本,并可以在各种任务上表现出强大的能力
一、向量 Vector & Embeddings 1.1 什么是向量? 在数学和计算机领域,向量有着不同的含义 ==数学概念——Vector(向量)== 数学上的通用概念,是一个有方向和大小的实体,可以在几何空间中表示,也可以是一个 n 维的数值序列。 形式:向量通常如下图所示 ,可以表示几何点、物
Milvus 集群线上问题记录 问题现象 下午 2点多,突然线上Milvus集群全部崩溃了,具体表现如下: 大量Node OOM 机器负载本不高,但1-2分钟内cpu、内存、负载全部被打满
Milvus 多租户方案选型 方案选型 在 milvus 中实现多租户方案,有以下几个备选方案 方案 方案名称 方案详细设计 优点 缺点 A 一个集合用于所有租户 使用单个集合通过添加租户字段来区分租户来实现多租户是比较简单的。对特定租户进行 ANN 搜索时,使用 expr 过滤掉其他租户的数据。这