Azure Machine Learning – Azure AI 搜索中的矢量搜索

矢量搜索是一种信息检索方法，它使用内容的数字表示形式来执行搜索方案。由于内容是数字而不是纯文本，因此搜索引擎会匹配与查询最相似的矢量，而不需要匹配确切的字词。本文简要介绍了 Azure AI 搜索中的矢量支持。其中还解释了与其他 Azure 服务的集成，以及与矢量搜索开发相关的术语和概念

关注TechLead，分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师，项目管理专业人士，上亿营收AI产品研发负责人。

file

Azure AI 搜索中的矢量搜索是什么？

矢量搜索是一项新功能，用于从搜索索引为矢量嵌入编制索引，以及存储和检索矢量嵌入。可以使用它来助力相似性搜索、多模式搜索、推荐引擎或实现检索增强生成 (RAG) 体系结构的应用程序。

下图显示了矢量搜索的索引编制和查询工作流。

file

在索引编制端，可以准备包含嵌入的源文档。尽管集成矢量化目前是作为公共预览版提供的，但正式版 Azure AI 搜索不会生成嵌入。如果你需要遵守非预览版功能策略，则你的解决方案应包含对 Azure OpenAI 或其他模型的调用，这些模型可以将图像、音频、文本和其他内容转换为矢量表示形式。将_矢量字段_添加到 Azure AI 搜索上的索引定义中。使用包含矢量的文档有效负载加载索引。索引现在可供查询。

在查询端，可以在客户端应用程序中收集查询输入。添加一个用于将输入转换为矢量的步骤，然后将矢量查询发送到 Azure AI 搜索上的索引以进行相似性搜索。 Azure AI 搜索在结果中返回包含所请求的 k 个最近邻域 (kNN) 的文档。

可以将矢量数据与字母数字内容一起作为文档中的字段编制索引。矢量查询可以单独发出，也可以与筛选器和其他查询类型（包括同一搜索请求中的字词查询（混合搜索）和语义排名）结合发出。

可用性和定价

矢量搜索作为所有区域中所有 Azure AI 搜索层级的一部分提供，不收取额外的费用。

备注

在 2019 年 1 月 1 日之前创建的一些较旧搜索服务部署在不支持矢量工作负载的基础结构上。如果你在尝试将矢量字段添加到架构时收到错误，则原因是服务已过时。在这种情况下，必须创建新的搜索服务来试用矢量功能。

矢量搜索支持哪些方案？

矢量搜索适合的方案包括：

对文本进行矢量搜索。使用嵌入模型（例如 OpenAI 嵌入）或开源模型（例如 SBERT）对文本进行编码，并使用同样编码为矢量的查询检索文档。
跨不同数据类型进行矢量搜索（多模式）。对图像、文本、音频和视频甚至它们的混合形式进行编码（例如，使用 CLIP 等模型），并对它们执行相似性搜索。
多语言搜索。使用多语言嵌入模型在单个矢量空间中以多种语言表示文档，以查找文档，无论它们采用哪种语言。
混合搜索。矢量搜索是在字段级别实现的，这意味着，你可以生成包含矢量字段和可搜索文本字段的查询。查询将并行执行，结果将合并为单个响应。（可选）添加[语义排名]，以使用为必应提供支持的相同语言模型进行 L2 重新排名，从而获得更高的准确度。
筛选的矢量搜索。查询请求可以包含矢量查询和[筛选表达式]。筛选器适用于文本和数字字段，可用于元数据筛选，并且在根据筛选条件包含或排除搜索文档时非常有用。尽管矢量字段本身不可筛选，但你可以设置可筛选的文本或数字字段。搜索引擎可以在执行矢量查询之前或之后处理筛选器。
矢量数据库。使用 Azure AI 搜索作为矢量存储来充当大型语言模型 (LLM) 或其他应用程序的长期内存或外部知识库。例如，对于检索增强生成 (RAG) 应用程序，可以将 Azure AI 搜索用作 [Azure 机器学习提示流中的_矢量索引_]。

可以使用其他 Azure 服务来提供嵌入和数据存储。

Azure OpenAI 提供嵌入模型。演示和示例针对 [text-embedding-ada-002] 和其他模型。我们建议使用 Azure OpenAI 来生成文本嵌入。
[图像检索矢量化图像 API（预览版）]支持图像内容的矢量化。我们建议使用此 API 来生成图像嵌入。
Azure AI 搜索可以自动为来自两个数据源的矢量数据编制索引：[Azure Blob 索引器]和 [Azure Cosmos DB for NoSQL 索引器]。
LangChain 是用于开发由语言模型提供支持的应用程序的框架。使用 Azure AI 搜索矢量存储集成可以简化使用 LLM 的、将 Azure AI 搜索用作矢量数据存储的应用程序的创建。
语义内核是一个轻型 SDK，可用于将 AI 大型语言模型 (LLM) 与传统编程语言集成。它很适合用于在将输入发送到嵌入模型的较大工作流中对大型文档进行分块。

矢量搜索概念

如果你不熟悉矢量，本部分将解释一些核心概念。

关于矢量搜索

矢量搜索是一种信息检索方法，其中的文档和查询表示为矢量而不是纯文本。在矢量搜索中，机器学习模型生成源输入（可以是文本、图像、音频或视频内容）的矢量表示形式。使用内容的数学表示形式可为搜索方案提供共同的基础。如果所有内容都是矢量，则查询可以在矢量空间中查找匹配项，即使关联的原始内容与查询位于不同的媒体中或采用不同的语言。

为何使用矢量搜索

矢量可以使用机器学习模型来捕获上下文中单词和短语的含义，而不是仅仅依赖于词法分析和单个查询字词的匹配，因而克服了传统的基于关键字的搜索的局限性。通过捕获查询的意图，即使文档中不存在确切的字词，矢量搜索也可以返回符合用户需求的更相关结果。

此外，矢量搜索可应用于不同类型的内容，例如图像和视频，而不仅仅是文本。这使得新的搜索体验成为可能，例如多语言应用程序中的多模式搜索或跨语言搜索。

嵌入和矢量化

_嵌入_是内容或查询的一种特定矢量表示形式，它们由捕获文本语义或其他内容（例如图像）的表示形式的机器学习模型创建。自然语言机器学习模型已基于大量的数据进行训练，可以识别单词之间的模式和关系。在训练过程中，他们会试着在一个称为_编码器_的中间步骤中将任何输入表示为实数矢量。训练完成后，可以修改这些语言模型，使中间矢量表示形式成为模型的输出。生成的嵌入是高维矢量，其中具有相似含义的单词在矢量空间中距离更近，如了解嵌入 (Azure OpenAI)中所述。

矢量搜索在检索相关信息方面的有效性取决于嵌入模型将文档和查询的含义提取到结果矢量中的有效性。最佳模型已基于其所代表的数据类型进行了全面的训练。你可以评估现有模型（例如 Azure OpenAI text-embedding-ada-002），引入自己的、已直接在问题空间中训练的模型，或者微调通用模型。 Azure AI 搜索不会对你选择的模型施加限制，因此请选择最适合你的数据的模型。

若要为矢量搜索创建有效的嵌入，必须考虑到输入大小限制。我们建议在生成嵌入之前按照数据分块准则进行操作。这种最佳做法可确保嵌入准确捕获相关信息并实现更高效的矢量搜索。

什么是嵌入空间？

_嵌入空间_是矢量查询的语料库。在搜索索引中，它是填充了来自同一嵌入模型的嵌入的所有矢量字段。机器学习模型通过将各个单词、短语或文档（用于自然语言处理）、图像或其他形式的数据映射到由实数（表示高维空间中的坐标）矢量组成的表示形式，来创建嵌入空间。在此嵌入空间中，相似的项位置相互靠近，而不相似的项位置相距较远。

例如，谈论不同种类的狗的文档将在嵌入空间中紧密聚类到一起。有关猫的文档也会相互接近，但与狗的聚类相距较远，不过它们仍属于动物的邻域。云计算等不同的概念则与此有很大的差异。在实践中，这些嵌入空间是抽象的，没有明确定义的、人类可解释的含义，但核心思想保持不变。

近似最近邻域

近似最近邻域搜索 (ANN) 是一种用于在矢量空间中查找匹配项的算法。此类算法采用不同的数据结构或数据分区方法来显著减少搜索空间，以加速查询处理。

ANN 算法牺牲了一些准确度，但提供了可缩放且更快的近似最近邻域检索，这使得它们非常适合用于在现代信息检索应用程序中平衡准确度和效率。你可以调整算法的参数，以微调搜索应用程序的召回率、延迟、内存和磁盘占用空间要求。

Azure AI 搜索将 HNSW 用于其 ANN 算法。