论文赏析 | PandaDB:一种异构数据智能融合管理系统 ​

为增强对结构化属性、非结构化属性的统一表示能力，本文针对属性图模型进行了扩展，提出层叠属性图模型和智能属性图模型。

定义 2-1: 

定义 2-2:

为实现结构化、非结构化数据的融合管理和关联查询分析，本文采用智能属性图模型，基于Neo4j开源版本，设计并实现了异构数据智能融合管理系统PandaDB。本部分第2.1节介绍PandaDB的总体架构，第2.2节~第2.5节分别介绍各模块的设计思路和实现细节。

3.1 总体架构

PandaDB基于智能属性图模型组织数据，底层数据被分为图结构数据、结构化属性数据和非结构化属性数据这3部分。其中，图结构数据指图的节点和边等描述图结构的数据;结构化属性数据指数值、字符串、日期等类型的数据;非结构化属性数据泛指除结构化数据之外的数据，如视频、音频、图片、文档等。PandaDB以BLOB对象的形式存储非结构化数据，并将其表示为实体(节点)的属性。根据上述3类数据的应用特点，PandaDB设计了分布式多元存储方案。

PandaDB集群采用了无主架构设计,图5中,PandaNode是其中的节点,包含查询引擎和存储引擎两部分.属性数据和非结构化数据存储在外置分布式存储工具中,PandaNode只保存图结构数据,通过属性存储接口与外置存储交互.

Fig.5  Architecture of PandaDB

图5  PandaDB总体架构设计

3.2 存储机制

PandaDB将BLOB引入了Neo4j的类型系统，同时对Neo4j的存储结构进行了改造。存储结构如图6所示，除了Neo4j保留区，BLOB的属性字段同时记录了BLOB的元数据,包括唯一标识blobid、长度length和MIME类型。

Fig.6  Design of BLOB storage structure

图6  BLOB存储结构设计

为实现对外部BLOB存储系统的调用，PandaDB中设计了BlobValueManager接口，定义了getById(×)/ store(×)/discard(×)等操作方法。作为BlobValueManager的一个实现，HBaseBlobValueManager基于HBase集群实现BLOB数据的存取。在该方案中，为支持大规模BLOB的存储，HBase被设计成包含N列的宽表，采用blobid/N作为HBase表的rowkey，blobid%N对应于HBase的某一列。

为加速BLOB的读取，BLOB的内容读取被封装为一个InputStream，在用户通过Bolt协议获取BLOB内容或进行语义计算的时候，这种流式读取的机制提高了运行的性能。

多元存储带来了存储事务保证的复杂性，客户端在写入数据时，将写操作请求发送到PandaDB的Leader节点,然后由Leader节点执行具体的写入操作。eader节点的具体操作流程如下：

3.3 查询机制

PandaDB查询引擎主要实现查询语句的解析、逻辑计划的生成与优化、物理计划的优化与执行.基于Neo4j，PandaDB查询引擎主要改进如下几个部分。

Fig.7  CypherPlus query process

图7  CypherPlus查询流程

图8从查询语法、查询计划、执行引擎这3个层面示出了PandaDB查询机制的设计。解析引擎将查询语句中的符号转化为语义算子，执行引擎根据规则集选择AI模型处理对应的数据，并将结果返回。

Fig.8  Query mechanism of intelligent property graph

图8  智能属性图查询机制

为加速非结构化数据的查询，PandaDB实现了语义索引功能。非结构化数据中的信息被认为是一种语义信息，如图片中的人脸、图片中汽车的车牌号、录音中所包含的文字信息等。AI模型从非结构化数据中抽取信息的过程可以看作是数据从高维空间到低维空间的映射，在低维空间映射的结果可以作为数据在该场景下的语义索引。

如在人脸比对查询的过程中，需要比较不同图片中人脸的相似度，通常的做法是利用人脸识别模型抽取人脸特征，比较两个特征的相似度。在PandaDB中，以向量形式表示的人脸特征被视为该非结构化在当前查询场景下的语义索引。系统处理涉及人脸比对的查询时，优先检查是否有对应的语义索引，若该查询对应的语义索引存在，则不向AIPM发起处理请求，直接比较语义索引得到结果。

语义索引可以减少查询引擎对AI服务的请求次数，从而避免了重复的数据传输，有利于提高系统效率。

3.4 属性数据协存

PandaDB引入属性数据协存机制，用于实现结构化属性数据的全文索引，提高节点属性的过滤查询效率。目前，PandaDB支持ElasticSearch作为协存引擎。

图9示出PandaDB协存模块的写入流程,协存机制的关键设计如下。

Fig.9  Write progress of property co-store module in PandaDB

图9  PandaDB协存模块的写入流程

3.5 AI算法集成与调度

AI算法集成与调度主要包括本地算法驱动管理和AI算法服务框架。

(1) 本地算法驱动管理

为了对不同的抽取器(SubPropertyExtractor)和语义比较器(SemanticCompartor)进行统一管理，PandaDB制定了驱动管理规则库。图10是对规则库中部分内容的展示，其中，DogOrCatClassifier用以抽取宠物类型，适用于blob/image类型的属性。CosineStringSimilarity用以计算两个文本串的余弦相似度，仅适用于两个string类型的属性。

Fig.10  Extractor and semantic comparator matching rule set

图10  抽取器和语义比较器匹配规则库

(2) AI算法服务框架

PandaDB中的信息抽取能力通过AI服务方式实现，AIPM为PandaDB提供AI服务，它可以屏蔽不同AI模型之间的依赖冲突问题，降低人工智能模型的部署和维护难度，便于PandaDB按需扩展AI算子。图11给出了AIPM与系统之间的交互逻辑。系统以HTTP请求的方式向AIPM发出查询请求，请求的路径与AI算法具有对应关系，AIPM接受到查询请求，调用对应的AI算法处理数据，以JSON字符串的形式返回结果。为了增强AI算子的可扩展性，AIPM设计了统一的集成接口，并要求算子提供对这些接口的支持。图12是AI模型管理框架的示意图。

Fig.11  Interaction of PandaDB and AIPM

图11  AIPM与PandaDB交互框架

Fig.12  AI model management Framework

图12  AI模型管理框架

为验证模型设计及PandaDB实现的有效性,本文针对属性协存、分布式方案、非结构化数据信息查询进行了测试；同时，通过应用案例验证PandaDB对结构化和非结构化数据的融合管理能力。

4.1 属性协存性能测试

本测试验证基于ElasticSearch属性协存方案的性能,对Neo4j和引入协存方案后的PandaDB的查询性能进行对比，测试环境见表2。

Table 2  Information about test environment

表2  测试环境信息

实验中使用的Cypher查询语句见表3。实验中对每条查询语句分别进行多次测试并取执行时间的平均值(如表4、图13所示)。为避免冷启动带来的性能影响,测试前对系统进行了预热。

Table 3  Query statement in propery co-store test

表3  协存方案验证测试的查询语句

Table 4  Test result for property co-store

表4  协存方案验证测试结果

Fig.13  Comparison of query time in co-store

图13  协存方案查询响应时间对比

从测试结果可看出：由于采用了ElasticSearch作为节点属性的协存和索引，在上述查询语句执行测试中，PandaDB占据明显优势；尤其在节点多属性过滤查询和模糊匹配查询中，性能平均提升2~6倍。

4.2 分布式性能测试

为验证分布式架构带来的查询响应能力的提升，本文在物理机集群上(物理机配置见表2)部署了PandaDB和Neo4j单机版，对并发查询请求的吞吐率进行评估。因Neo4j社区版仅支持单机，故其中PandaDB部署在3台物理机，Neo4j部署在一台物理机。

本文选择了图计算分析中的常见查询作为测试用例，如计算节点出度和入度。将超时阈值设定为300s，在满足90%查询不超时的前提下，Neo4j的吞吐量为每秒15次查询，PandaDB的吞吐量为每秒40次查询。PandaDB的吞吐量接近Neo4j的3倍。

4.3 非结构化数据查询加速测试

为实现对非结构化数据查询的加速，PandaDB采用了构建语义索引的方式，减少数据传输和调用AI服务的次数。本小节基于人脸检测场景,使用LFW数据集构建对比实验，通过对比各种方案下的查询耗时，验证语义索引方案的加速效果。

本实验的任务目标为：从样本集中找到与目标人脸图片相似度最高的人脸图片。本实验共分4组对比，各组实验内容及实验条件细节如下。

表5给出了在不同样本数下，各方案执行同一个查询的耗时。SEMIDX方案相比于其他方案减少了数据传输和重复的数据抽取，故理论上该方案在4个方案中速度最快。

从表5中可以看出:在样本数相同的条件下，SEMIDX方案具有最短的查询时间。在样本数超过2000的检索性能对比中，加速比超过1万倍。

Table 5  Comparison of query time under different methods

表5  不同方法的查询耗时对比

4.4 案例：学术图谱实体消歧与可视化

学术图谱泛指以学术内容为主体的领域知识图谱，典型应用如AMiner和AceKG。本文基于KDD2020的参会人员信息构建了一个小型的学术图谱，其中包含论文、作者、机构等3类节点,根据论文创作关系和学者与机构间的隶属关系，将作者照片、论文的PDF全文等非结构化数据作为属性直接保存在PandaDB中。

图14是KDD2020数据的可视化展示(基于开源项目InteractiveGraph:https://github.com/grapheco/ InteractiveGraph)，其中，头像属性存储在PandaDB，且在PandaDB的基础上提供了“以图找图”的功能，即实现了基于头像的快速匹配。

Fig.14  Visualization of KDD2020

图14  KDD2020数据的可视化展示

学术图谱原始数据中通常会出现学者重名、不同机构的简称或缩写相同等情况，因此，图谱创建过程中通常面临实体消歧问题。目前，大多数实体消歧方法都以聚类为基础，文献[15-17]使用表层特征值计算实体间相似度，但这种方法不能充分利用上下文特征。因为基于表层特征的方法面临信息不足的问题，有学者尝试引入外部信息，如WikiPedia中的信息，将这些知识资源作为实体的扩展特征，辅助提升聚类准确性，代表工作如文献[18,19]。文献[20,21]使用图计算的方法，充分利用网络数据的结构信息，但并不具有很好的普适性。近年来，随着深度学习技术的巨大进步，有学者利用embedding技术[22]和神经网络技术[23]，这类方法相比于传统方法具有更好的效果，但准确性方面仍不能满足人们的预期。本案例基于PandaDB，提出了一种融合结构化属性和非结构化属性的消歧方法。如图15所示，某学术图谱中有两个姓名分别为Park Bill和Tom Green的人物节点以及一个名为Data Vis的论文节点，需要判断T.Green和Tom Green是否为同一实体，从而判断Park Bill和Tom Green之间是否存在合作关系。由于论文中存在的属性数据不足，消歧很有困难。基于PandaDB对非结构化信息抽取及语义比较能力，可以充分利用Tom Green的照片以及论文作者照片列表，从而达到消歧目的.图15下半部分给出了完成该操作的CypherPlus语句，其中，<:操作符表示包含关系，只需要找到对应的节点，判断n.photo<:p.screenshot成立与否，即可计算出二者之间是否存在合作关系。

Fig.15  Diagram of entity disambiguation based on PandaDB

图15  基于PandaDB实现实体消歧示意图

为实现数据应用中的多元异构数据的统一管理和分析，一种方法是通过 ETL 工具，采用某种统一的形式处理异构数据。但这种方法成本较高，而且数据和分析需求的变化会使原本的 ETL 流程失效[24]。异构数据管理可以支持对多模型数据的存储和统一查询。学术界在上世纪 80 年代就提出了联邦数据库的解决概念，Multibase[25]是其中的代表系统，这类系统的特点是定义全局 schema 和基于映射的查询语言，用户基于全局 schema 查询,系统将查询映射到分区 schema.另一类以 Spark SQL[26]为代表的系统提供统一的 API，允许用户以关系模型使用数据，在提升效率和简化查询方面有较好的效果。BigIntegator[27]，Forward[28]，D4M[29]等系统整 合了 NoSQL，其中 Forward 以基于 json 的数据模型组织数据，D4M 使用关联阵列(associative-array)数据模型，这种较为灵活的模型使系统可以在异构数据上执行查询。在数据管理领域，属性图模型[30]是一种常用的管理图数据的数据模型，属性图中的节点和关系都可以被 赋予标签和关联任意键值对形式的属性[31]。属性图增加了节点和边的信息，同时又没有改变图的整体结构。目前，属性图模型被图数据库业界广泛采用[32][33],包括著名的图数据库 Neo4j[34]、Titan[35]等。Neo4j是目前应用较为广泛的一款开源图数据库，其具有从原生图数据存储到可视化插件，再到图数据分析插件的丰富生 态。JanusGraph[36]是在 Titan 基础上开发的一种基于属性图的分布式图数据库。JanusGraph 采用存储层和查询引擎分离的设计，可以使用 Cassandra 或 HBase 作为存储层。JanusGraph 通过使用第三方分布式索引库 ElasticSearch、Solr和Lucene 实现检索功能。其他的图数据库还包括：Amazon的Neptune[37]、微软的Azure CosmosDB[38]、TigerGraph[39]、OrientDB[40]等。人工智能技术已经广泛的应用到图像识别、语音识别、机器翻译等领域中。为了实现对语音、图片等多种信息的理解，多模态机器学习的研究尝试在机器学习的角度整合模型对非结构化数据的理解能力[41][42]。人工智能与数据库的交叉研究一直是学术界研究的热点内容。人工智能与数据库的融合存在AI4DB（AI for 沈志宏 等: PandaDB:一种面向异构数据的智能融合管理系统 20 Database）和 DB4AI（Database for AI）两个方向[43]。AI4DB 旨在通过 AI 技术提高 DB 的效率和能力，如自动化数据库参数调优[44] [45]、基数估计[46]、索引推荐[47]、查询优化[48][49]等。DB4AI，是以数据库为AI算法提供数据服务，供算法进行训练和学习。例如，借助数据库的统一 SQL 接口，为用户提供自定义的函数协助构建模型；通过数据库张量计算协助模型训练；通过持久化AI模型以重复使用。随着大数据时代的来临，海量数据的存储与计算使得单机服务已经无法满足需求，越来越多的任务需要分布式系统支持。保证分布式系统的可靠性和一致性至关重要。解决这个问题的一个著名算法是由 Lamport 提出 的 Paxos 算法[50][51]。此后为了适应不同的工程环境，研究人员在 Paxos 的基础上提出了很多新的算法[52]。比较著名的有 Multi-Paxos[51][53]、Liskov等人提出的 VR (viewstamped replication)算法[54][55]、雅虎公司设计的 ZAB(Zookeeper’s atomic broadcast)算法[56]、Ongaro 等人提出的 Raft 算法[57]等。

本文从结构化/非结构化数据的融合管理和即席查询需求角度出发，分析了目前多元异构数据融合管理方面统一表示和交互式查询等难点。在此基础上提出具备对异构数据实现统一表示能力的属性图扩展模型，并提出针对在线查询和计算的属性操作符与查询语法。在第3节，本文提出基于智能属性图模型的分布式数据融合管理系统PandaDB，该系统实现了结构化/非结构化数据的高效存储管理，并提供了灵活的 AI 算子扩展机制，具备对多元异构数据内在信息的即席查询能力。测试实验和案例证明，PandaDB在大规模属性过滤查询和高并发查询响应上具备较好的性能表现。同时PandaDB可应用在学术图谱实体消歧与可视化等多元异构数据融合管理的场景。目前PandaDB还存在着一些不足，一方面，AIPM模块与系统相对独立部署，这种模式降低了系统的耦合性，有利于扩展和维护，但面对大规模的非结构化数据信息查询请求时，模块间信息传输的开销较大。未来应研究更为合理的 AI 功能集成机制，结合多元异构数据即席查询的场景特性设计任务调度方法，提升系统性能。另一方面，从智能属性中抽取内嵌式属性的操作，目前还缺乏有效的缓存和预测机制，造成即席抽取的过程延时较 大。PandaDB将进一步结合应用，进一步提升系统的性能和稳定性，从而提升多元异构数据融合管理的能力。