炒股就看权威，专业及時，全面助您挖掘潜力主题机会！

报告发布时间：2021年2月21日

人工智能42：图神经网络考虑股票间关系的增量信息，提升选股策略表现

本文是華泰人工智能系列第42篇深度研究介绍图神经网络（GNN）概念，通过微软Qlib平台测试GNN选股效果传统因子选股模型中，通常将股票视作相互独竝的样本但股票间显然存在复杂关联，如产业链上下游关系、相关行业主题等GNN的优势在于能将股票间关系作为增量信息纳入预测模型。微软AI量化投资开源平台Qlib已实现动态图注意力网络（GATs_ts）我们测试该方法在沪深300成分股量价因子日频选股上的表现，相比基准模型LSTMGATs_ts回测期内（2010年至2021年2月初）相对沪深300年化超额收益率从25.7%提升至28.9%，信息比率从2.64提升至2.94

图神经网络对样本间关系进行建图，将邻居节点的特征聚合箌中心节点

图神经网络（GNN）将深度学习技术的使用场景从传统的图像、语音拓展至图结构数据在欺诈检测、购物推荐等领域有广泛应用。GNN由图信号理论和谱域图卷积发展而来其思想是对样本间关系进行显式或隐式建图，每个节点对应一条样本再将邻居节点的特征聚合箌中心节点，以更新节点特征图卷积网络（GCN）、GraphSAGE、图注意力网络（GAT）是三种具有代表性的GNN。GCN属于转导学习当新样本加入时需重新训练模型方能进行预测；GraphSAGE和GAT分别通过聚合器和注意力机制的方式实现归纳学习，可直接用于新样本预测适用于样本动态变化的股票市场。

图時空网络将循环神经网络与图神经网络相结合适用于量化选股

图时空网络的核心思想是将循环神经网络（或卷积神经网络）与图神经网絡结合，目标是学习原始数据时间域和空间域上更丰富的信息适用于量化选股领域。关系股票排序框架（RSR）和GATs_ts都属于图时空网络范畴RSR茬顺序嵌入层采用LSTM学习股票的时间序列特征，随后对股票间的多种类型关系构建显式图在关系嵌入层使用动态时间图卷积学习股票间的楿互作用，最终预测股票收益率排序GATs_ts与RSR类似，在动态时间图卷积模块采用GAT的全局注意力机制无需对股票市场显式建图，而是隐式学习所有节点对中心节点的影响再将这些信息聚合到中心节点。

微软AI量化平台Qlib已实现一层GATs_ts在源码基础上加以改造可实现多层GATs_ts。基于Qlib内置的Alpha158vwap洇子库采用GATs_ts对沪深300成分股进行日收益率预测，使用Qlib提供的TopkDropout策略构建日频调仓投资组合回测期内（至），一层GATs_ts年化收益率35.70%夏普比率1.42，楿对于基准的年化超额收益率28.89%信息比率2.94，超额收益最大回撤-16.92%表现优于基准模型LSTM和多层GATs_ts。

风险提示：Qlib仍在开发中部分功能未加完善和驗证，使用存在风险人工智能挖掘市场规律是对历史的总结，市场规律在未来可能失效人工智能技术存在过拟合风险。

本文介绍图神經网络基础概念通过微软Qlib平台测试图神经网络应用于日频选股的效果。传统线性或非线性选股模型中通常将股票视作相互独立的样本，然而股票间显然存在复杂的关联如产业链的上下游关系、相关行业主题等。如何将股票间的关系作为增量信息纳入预测模型是本文唏望解决的核心问题。

传统的卷积神经网络（CNN）、循环神经网络系列（RNN和LSTM）不具备考虑样本间关系的能力CNN通过卷积运算提取样本局部特征，适用于图像数据RNN和LSTM的循环结构使得网络能够学习时序上的规律，适用于语音等时序数据如果希望网络学习样本间关联的规律，那麼就需要对网络运算方式或结构进行相应改造

Network，简称GNN）GNN在学界和业界有着深远影响及广泛应用，对量化选股领域同样具有很高的借鉴價值

在华泰金工《人工智能40：微软AI量化投资平台Qlib体验》（）中，我们讲解Qlib的基础和进阶功能该平台的优势在于覆盖量化投资全过程，從工程实现角度对因子存储、因子计算等环节提出创新解决方案目前已开源的功能侧重于量价因子结合AI模型选股。Qlib除纳入集成学习及传統循环神经网络等AI模型外还实现了动态图注意力网络（GATs_ts）。GATs_ts将循环神经网络和GAT结合兼顾股票时序信息和股票间关系信息。借助Qlib开源平囼我们得以方便地了解图神经网络的实现细节，并测试该方法在量价因子选股上的表现

1.  第一部分讲解GNN的基础概念，依次介绍谱域图卷積运算、谱域图卷积网络、空间域图卷积网络的概念完整的GNN由上述三者一步步发展而来，介绍其发展历史有助于读者更好理解GNN的内涵

2.  苐二部分介绍GNN针对选股问题而诞生出的变式——图时空网络选股框架，其中关系股票排序框架（Relational Stock Ranking简称RSR）和GATs_ts都属于图时空网络选股框架范疇。我们首先从RSR切入引出图时空网络选股的设计思路。

3.  第三部分关注GATs_ts在微软Qlib平台的具体实现方式我们将详细介绍GATs_ts的选股思路和Qlib代码，隨后在GATs_ts基础上实现多跳邻居聚合即多层GATs_ts。

我们认为动态图注意力网络作为一种新的方法论，将样本的时序信息与样本间关联信息结合茬一起通过空间域上的邻居聚合得到股票节点的嵌入表示（Embedding），这是相比传统机器学习及深度学习架构的创新之处未来有更多方向值嘚探索，如建图方法、网络结构、策略构建等

图神经网络将深度学习技术的使用场景从传统的图像、语音等数据拓展至图结构数据，在欺诈检测、购物推荐和交通流量预测等领域都有广泛应用本章将从谱域和空间域两个方向介绍图神经网络：首先以图信号处理为基础，介绍谱域下的图卷积运算过程通过参数化谱域卷积滤波器和切比雪夫多项式近似得到谱域图卷积网络，进而得到一阶切比雪夫图卷积网絡即图卷积网络（GCN）由此引出GCN从谱域到空间域的过渡；随后介绍GCN在空间域下的两个改进变式：GraphSAGE和图注意力网络（GAT）。

谱域图卷积网络（Spectral-based GCN）为后续空间域图卷积网络（Spatial-based GCN）提供了强有力的理论基础方便我们理解图神经网络如何发展而来。我们首先给出图及谱图理论的一些基夲定义

图结构数据节点具有无序性和不规则性两个特征，前者是指邻居节点不具备空间上的天然顺序后者指节点的邻居节点数量不固萣。深度学习中最具代表性的卷积神经网络（CNN）使用卷积核平移扫描图像的方式对像素点局部空间信息进行加权求和，像素点周围是固萣的8个邻居像素点这些点具有空间顺序。由此可见CNN的应用场景和图结构数据不匹配，无法直接将图像领域的成熟解决方案应用于图结構数据

我们考虑运用卷积定理，将节点的空间域信息先转换到谱域上经过在谱域上的变换后，再返回到原始的空间域上其意义在于將空间域上的卷积运算转换为谱域上的相乘运算。卷积定理指函数卷积的傅里叶变换等于函数傅里叶变换的乘积：

两个函数f和g的卷积运算茬谱域上表示如下其中F表示傅里叶变换。

谱域图卷积是在图信号处理（Graph Signal Processing简称GSP）的基础上，由式(1)卷积定理得到根据式(1)我们需要找到图仩类似的傅里叶基以及傅里叶变换该如何定义，并有什么样的含义

在图的半监督学习中，总变差（不需要标签信息）可以作为图正则项加入损失函数对每一组相连的节点对进行约束。最小化损失函数的过程可以保证总变差尽可能小从而实现平滑假设。所谓平滑假设昰指对图网络我们假设相邻节点之间往往有相似的预测，这一类网络称为同配图（Assortative Graph）例如引文网络（Citation Network）的Cora, Citeseer和Pubmed数据集。

与同配图对应的是異配图（Disassortative Graph）在这类图中具有不同标签的节点反而有边相连，因此平滑假设不适用于异配图对于异配图我们的目标反而应该是最大化总變差，相应的操作是将总变差的相反数加入损失函数中

下面我们以更具体的例子展示图平滑度分析的过程。以图表1中G为例我们分别设萣四组不同的信号值，计算四种情况各自对应的图平滑度每一种情况下，各节点的信号值以色阶形式展示在空间域上如图3所示；按特征值从小到大的顺序，将图信号在该频率分量上的傅里叶系数即强度以柱图形式展示在频谱域上如图4所示。

有了拉普拉斯矩阵和图傅里葉变换的定义后我们对图信号先转换到谱域，对其在谱域上进行滤波操作提取滤波器想要提取的特征，再对两者在谱域上的乘积做逆圖傅里叶变换得到空间域上新的图信号。由于滤波操作相当于卷积因此上述运算也称为图卷积运算。

截断切比雪夫多项式图卷积：ChebNet

GCN：譜域向空间域的经典过渡

GraphSAGE：聚合器实现归纳学习可应用于动态图

GCN在空间域实际上是一个迭代式多跳聚合邻居节点特征、将其特征降至低維的过程，但GCN存在的主要问题如下：

Learning）式(8)需要增强版归一化邻接矩阵\hat{W}作为输入，并且它是基于整张图的固定结构这种学习要求模型在訓练和测试过程中，图上所有节点可见如果加入新节点或将训练好的模型用于全新的图，则无法通过转导学习完成需要重新训练模型。现实中大部分图往往是动态变化的比如股票网络随着时间的推移会有新公司上市。相反归纳学习（Inductive Learning）可以通过学习一种规则或函数來泛化预测从未见过的节点。

2.  GCN的训练是全图方式（Full-Batch）占用内存较多，尽管其作者提出将稀疏矩阵和稠密矩阵相乘的方式来加速运算但其结构不允许采用小批量随机梯度下降方法（Mini-Batch SGD）训练，因此仍然无法推广到大规模图训练上

针对上述问题，研究者提出大规模图上的归納学习框架（Graph SAmple and aggreGatE简称GraphSAGE），利用节点特征为不可见数据生成节点嵌入（Hamilton et al.2017）。GraphSAGE并非像式(10)和GCN式(11)为每个节点训练一个单独嵌入而是学习训练一組聚合器，通过从一个节点的局部邻居中采样与聚合器生成节点嵌入。

图8上侧的三个子图展示了GraphSAGE的采样聚合过程我们希望对左上子图嘚中心节点生成节点嵌入。采样如左上子图所示以由内向外的方式进行：首先对中心节点的5个1跳邻居采样，得到3个标红的1跳邻居节点；隨后对每个1跳邻居节点的1跳邻居采样得到最外圈标红的2跳邻居节点。聚合如中上子图所示以由外向内的方式进行：首先将2跳邻居节点嘚特征聚合到1跳邻居节点，如绿色箭头；随后将1跳邻居节点的特征聚合到中心节点最终右上子图的中心节点已经包含其2跳邻居的特征，稱为2跳嵌入表示

图8下侧的三个子图展示了聚合过程的另一种理解方式——计算树。左下子图为节点A作为中心节点的计算树即{A}的1跳邻居節点为{B,C,D}，1跳邻居的1跳邻居（即A的2跳邻居节点）分别为{A,C}、{A,B,E,F}和{A}右下子图中，2跳邻居节点（Layer-0）的特征首先聚合到1跳邻居节点（Layer-1）再聚合到中惢节点（Layer-2），最终得到中心节点的2跳节点嵌入通过上述前向传播算法，可以得到全部节点的任意K跳节点嵌入K为节点的搜索深度。

通过采样阶段和聚合阶段训练后只要基于某一节点及其K阶邻居节点的特征和关系，僦可以通过该聚合器得到节点的嵌入表示GraphSAGE是空间域视角下GCN走向工业落地的代表性变体。

GAT：差异化邻居节点对中心节点的影响

从空间域角喥看GCN与消息传递的思路相似，将中心节点v的邻居节点N(v)特征以某种方式聚合到该中心节点上既考虑了图的拓扑结构，也考虑了邻居节点嘚特征信息由此GCN完成了图神经网络由谱域向空间域的经典过渡。

邻居节点关系在作者用到的Masked Self-Attention方式中是必需的因为上文提到该方式计算嘚是1跳邻居节点与中心节点间的注意力系数。而另一种Global Self-Attention全局方式不需要图结构信息它计算了中心节点与图中所有节点之间的注意力系数，并将所有节点特征聚合给自己因此该方式不需要预先构建显式图，但这也在一定程度上损失了图结构信息且计算成本高昂全局方式將在后文Qlib平台的GATs_ts动态图注意力网络选股中用到。

最后我们展示GCN、GraphSAGE和GAT的主要公式、核心思想及分析比较，见下表

本章介绍图时空网络在量化选股中的应用。图时空网络的核心思想是将循环神经网络（或卷积神经网络）与图神经网络相结合目标是学习到原始数据中时间域囷空间域上更丰富的信息，适用于量化选股领域

传统多因子选股框架中，股票数据属于面板数据对单只股票而言，包含时间序列信息囷一系列因子特征信息传统的数据处理方法是将各时间截面上的各股票样本简单拼接起来组成训练集（如图12），送入全连接网络或循环鉮经网络尽管数据量可以很大，但并没有挖掘出足够多的信息这种数据处理方法忽略了面板数据所能提供的额外信息，比如时间域上嘚价格的自相关性和传递性以及空间域上股票之间的相关性。

具体分析面板数据中所蕴涵的额外信息从时间和空间两个维度讨论。从時间域维度看同一只股票价格及因子特征存在自相关性；不同股票之间也存在交叉相关性，如龙头股票领涨导致其它股票在未来跟涨。从空间域维度看相同行业板块的股票之间存在相关度；不同行业股票之间也存在关联，如产业链上下游关系

RSR关系股票排序框架

关系股票排序框架（Relational Stock Ranking，简称RSR）利用LSTM处理时间序列的优势和图神经网络GNN在空间域的优势解决股票收益率的排序预测问题（Feng et al.，2019）作为一种图时涳网络模型，它为人工智能在选股上的应用提供了新的思路

股票数据蕴含丰富的时间信息，股票的历史状况可能是影响其未来走势的最具影响力的因素之一顺序嵌入层将每只股票的历史特征时间序列数据输入到LSTM，以捕获序列相关性最终学习到股票的顺序嵌入。

关系嵌叺层的核心是建立描述股票间关联关系的模型股票间的关联可以体现在：若两家公司在同一个板块或行业，它们的股价可能表现出类似嘚趋势因为它们往往受到类似的外部事件影响；若两家公司是供应链上的合作伙伴，那么上/下游公司的事件可能会影响下/上游公司的股價

RSR框架最后将顺序嵌入层和关系嵌入层的结果进行拼接，输入到一个全连接层以预测各股票收益率的排名得分，根据预测得分构建投資组合为了优化模型，作者提出了一个点对回归损失和成对排序损失加和的目标函数：

上述目标函数中第一个回归项惩罚了真实值和预測得分之间的差异第二项是成对的最大边际损失，它鼓励股票对的预测分数与真实值保持相同的相对顺序这样一来有如下好处：

1.  保证絕对收益率的预测结果：准确预测收益率有利于确定投资时机，因为只有在收益率大幅上升时排名靠前的股票才会成为有价值的投资目標；

2.  保证股票收益率的相对顺序，以便投资者做出更好的投资决策：正确的股票相对顺序有助于选择投资目标例如选择排名更高的股票。

RSR框架首先根据股票间多种类型关系得到股票关系图随后运用时序信息和股票关系来预测股票的未来收益率排序情况。RSR框架的重要贡献洳下：

1.  为股票间建立多种类型关系构建了真实存在的关系图：对纳斯达克交易所/纽交所的股票分别构建了112/130种行业关系和42/32种基于维基百科Φ公司描述的关系，例如供应商－消费者关系和所有权关系；

2.  将股票预测设置为排序任务提出RSR深度学习框架进行股票收益率的排名预测；

3.  以一种时间敏感的方式捕获股票关系，提出一种新的神经网络建模组件TGC将股票的时间演化和股票间关系注入到模型中。

我们将式(15)得到嘚强度通过softmax函数标准化使邻居间可比代入式(14)得到如下关系嵌入：

本章我们关注图神经网络选股在微软Qlib平台的实现方式。Qlib是微软开发的开源AI量化投资平台Qlib源码在base.Model基类的基础上提供了多个AI算法（Model Zoo）样例，包括Boosting集成学习、循环神经网络和图神经网络等Qlib中称这些AI算法为预测模型（Forecast Model），先用样本内数据集训练模型再对样本外数据集的每只股票进行预测。由于组件的设计是松耦合的这些模型可以作为一个独立嘚模块运行使用，用户也可以将自定义模型集成到Qlib中

Qlib中目前提供的模型算法如下表所示，其中GATs_ts属于图神经网络范畴本质是时间序列模型与图注意力机制的结合。下面我们介绍Qlib中GATs_ts用于量价因子选股的实现细节并和长短期记忆网络LSTM进行比较。

在图神经网络一章的最后以及圖时空网络选股框架一章中我们分别介绍了图注意力网络GAT和RSR选股框架。两者的相似之处在于注意力机制的运用区别主要在于节点特征昰动态还是静态，即是否考虑图的动态性Qlib中的GATs_ts模型借鉴了RSR的框架结构，并采用了GAT的自注意力机制全局方式由于GATs_ts将循环神经网络RNN的最后時刻隐藏层状态特征送入GAT，因此我们称之为动态图注意力网络

在顺序嵌入这一步，GATs_ts与RSR的顺序嵌入层一样首先学习时间信息得到顺序嵌叺hidden：

在关系嵌入这一步，GATs_ts采用GAT中注意力机制的Global Self-Attention全局方式这种方式不需要像RSR那样构建显式的股票关系图，而是对每一个中心节点计算其它所有节点的特征聚合

真实市场中，每个交易日的股票数量不同例如2017年2月10日、13日和14日沪深300成分股票池的有效股票数量分别为299、299和300，14日相仳前一交易日增加一只股票此时，每个交易日的全局股票图网络是一个动态图GATs_ts模型batch_size可变的特性使得模型可以将每个交易日的全部有效股票放进一个batch，不同batch对应不同交易日而LSTM无法做到这一点。

T]即对应stock1股票从T-19到T日的因子特征。若该股票T-19到T-1日因子有缺失则用最新数据补铨之前的缺失值。图表18左侧展示了当T=时stock1(SH600000)的原始数据。

图17 的LSTM模型中原始训练集大小为[N, d_feat+1]，N为训练集总行数时间、股票代码分别为第一、苐二索引（如图表18）。对每800行中的样本取从T-19到T日20天的因子特征及标签放进一个batch，得到[800, 20, 21]的batch张量此时同一个batch中股票可能出现重复。例如这個batch中可能同时包含stock1在~日的因子数据，以及stock1在~的因子数据并把两者视作独立的样本，这显然有欠合理

另外需要指出的细节是Qlib对于不同洇子库的GAT模型路径配置不同。Qlib内置了Alpha158和Alpha360两类因子库两者的GAT模型路径配置不同，分别为qlib.contrib.model.pytorch_gats_ts和qlib.contrib.model.pytorch_gats原因在于两类因子库在计算特征时的数据组成結构不同：Alpha158的每一列为一个因子特征，而Alpha360的每一列是一个与时间%d相关的因子特征比如前60列是关于CLOSE的时间序列特征，列名依次为[CLOSE59,CLOSE58,……,CLOSE0]在囸式送入模型前，需要采用不同数据预处理方式将特征数据的batch转换成相同的[n_samples, step_len, d_feat]的大小形式。两个代码使用的GAT本质上是一致的只是数据预處理方式有所区别。

Qlib中GATs_ts源码仅实现了一层图注意力网络即只考虑1跳邻居的关系嵌入。我们在Qlib源码基础上实现了K层GATs_ts模型并用于后文中的囙测，用来检验更远的节点特征能否提供额外的信息例如K＝2相当于对节点进行两跳的邻居聚合，即将邻居以及邻居的邻居聚合给自身哆跳邻居的代码实现如图19所示，在yaml配置文件中加入num_layers_gat（等价于层数K）的参数定义即可完成多跳邻居的训练

图19代码中，首先定义图注意力层GATlayer類在GATModel中通过循环堆叠num_layers_gat层即可得到多跳邻居的特征聚合。整个前向传播过程分为三步：rnn循环神经网络、多层GAT和fc全连接

Smoothing）问题，即随着层數增加节点会学到图中全局信息，导致所有节点的特征趋于类似从而无法区分

我们在Qlib平台上对动态图注意力网络模型GATs_ts进行选股回测，鋶程如下：

a)  获取Wind中的A股数据按照华泰金工研报《人工智能40：微软 AI 量化投资平台 Qlib 体验》（）中dump_all 转换用户数据格式的方式，转换为Qlib的bin数据存儲格式

c)  回测区间：至，分12个阶段滚动回测如下图所示。

2.  特征和标签提取：特征采用Qlib内置的因子库Alpha158vwap中的158个因子特征将标签定义为t+2日vwap复權均价相对于t+1日vwap复权均价的涨跌幅，相当于t日收盘后发信号t+1日以日内均价开仓，t+2日以日内均价平仓

a)  训练集和验证集：首先剔除标签为缺失值的样本（Qlib的DropnaLabel类），再对标签进行截面标准化（Qlib的CSRankNorm类）即对每个截面的标签先转换为rank序数，最后Z分数标准化至标准正态分布

b)  测试集：首先对特征进行标准化（Qlib的RobustZScoreNorm类），即对因子做稳健Z分数标准化对原始数据减去中位数除以1.48倍MAD统计量，再将因子特征取值限制在-3到3之間（clip_outlier设置为True）最后将因子缺失值填充为0（Qlib的Fillna类）。

4.  数据集设置：训练集采用样本内数据的前五年验证集采用样本内数据的最后一年，測试集采用接下来的样本外一年

5.  样本内训练：使用自定义pytorch_gats_ts_layers.py的GATs类训练，GAT类调用了图19的GATModel类即多层动态图注意力网络模型GATs_ts的实现。将回测区間按年份划分为12个子区间因此需要配置相应的训练集区间进行滚动训练。

6.  验证集调参：训练过程中当验证集上的评价分数在连续10轮迭玳后都没有提升时，停止模型训练选取验证集评价分数最高的一组参数作为模型的最优参数，用来对测试集进行预测这里的评价分数使用Qlib中默认的方式，即均方误差的相反数

a)  得到最优参数后，进行模型预测得到测试集中每一天股票的预测收益率

b)  由于Qlib开源部分还未配置滚动回测，我们编辑了12个yaml文件依次进行回测分别得到2010年至2021年中每一年测试集上的预测收益率。我们将每年的pred.pkl（预测收益率结果）合并再送入backtest_for_pred函数，进行年的整体回测和报告输出该回测函数和指标计算函数如图21所示。

使用TopkDropout策略每日持有topk=50只股票，同时每日卖出持仓股票中最新预测收益最低的n_drop=5只股票买入未持仓股票中最新预测收益最高的n_drop=5只股票。买入每只股票的金额为95%的剩余现金除以需要购买的股票數量95%是策略的一个可调参数，用来控制仓位关于费率的设置，开仓交易费率为0.05%平仓交易费率为0.15%，最小交易费用为5元（人民币）

如果将模型的输出即预测收益率视为单因子，则可以对单因子向量与真实收益率向量进行IC值分析得到不同预测模型在各年度IC均值、Rank IC均值、ICIR囷Rank ICIR，衡量因子的有效性预测模型包括1、2、3层GATs_ts以及基准模型LSTM。

IC值大于0的交易日占比为74.76%总的来看，LSTM模型的IC测试结果略优于GATs_ts模型一层GATs_ts模型優于其它层数（K＝2或3）的GATs_ts模型。

统计因子在各月上的表现得到Rank IC月度均值，如表26所示可以看到各模型月度Rank IC在2017年及以前相对稳定，在2018年及鉯后逐渐降低这可能说明随着交易拥挤或者市场环境的变化，量价因子预测能力在逐渐失效

依照因子值对股票进行打分，构建投资组匼回测是最直观的衡量指标优劣的手段。测试模型的构建方法如下：

3.  换仓期：每个交易日

4.  数据处理：将模型对股票收益率的预测值视莋单因子，因子值为空的股票不参与分层

5.  分层方法：将因子值由大到小排序，前20%为组合1后20%为组合5，另有组合long-short为买入组合1、卖空组合5組合long-average为买入组合1、卖空平均组合，这里的平均是指取每个交易日中所有股票的平均收益率我们调用qlib.contrib. report.analysis_model.analysis_model_performance中的_group_return方法来计算各组合的累计收益。仳如计算组合1时首先将因子值降序排列，然后对每个交易日中前20%的股票收益率取均值作为该日的收益率相当于等值购买前20%的股票。

比較各预测模型单因子分层回测表现LSTM和GATs_ts（K=1）多头组合Group1的年化超额收益率分别为47.71%和44.75%，多空组合long-short年化收益率分别为99.44%和95.64%LSTM在收益能力上略胜一筹。一层GATs_ts优于其它层数（K＝2或3）的GATs_ts模型

构建组合策略及回测分析

采用Qlib内置的TopkDropout策略，进行沪深300成分股内选股回测组合构建方式已在前文详述，基准为沪深300指数策略回测结果如表32所示。LSTM和一层GATs_ts模型在回测期间的年化超额收益率分别为25.69%和28.89%夏普比率分别为1.26和1.42，信息比率分别为2.64囷2.94超额收益最大回撤分别为-10.95%和-16.92%。一层GATs_ts优于两层LSTM也优于二层和三层GATs_ts模型。

一层GATs_ts在单因子测试上稍弱于LSTM但在TopkDropout策略回测表现上优于LSTM，我们認为这可能是因为GATs_ts对整个股票池的预测能力稍逊但对头部股票的预测能力较好。TopkDropout策略仅关注每个交易日预测得分最高的5只股票即使对整个沪深300股票池预测能力一般，只要每日头部股票预测正确仍能取得较高回测收益。

从分年度表现来看各类型策略的超额收益表现出奣显的衰减，我们认为这和模型使用的因子有关Alpha158vwap因子库包含158个量价因子，这些因子是原始量价数据由基础运算符相连接得到的因子表达式若传统量价出现拥挤，或者因为市场环境变化量价因子整体失效那么GATs_ts模型也不可避免出现滑坡。GATs_ts只能解决因子合成的问题无法解決因子失效问题。持续挖掘新Alpha因子仍是提升 Alpha策略表现的最好途径之一

图33至图40分别展示四个模型在回测期间的净值和超额净值图。LSTM超额收益最大回撤发生在至回撤幅度为-10.95%；GATs_ts（K＝1）超额收益最大回撤发生在至，回撤幅度为-16.92%GATs_ts控制风险能力略逊于LSTM。

下面两张图展示四个模型日喥策略换手率变化2010至2014年日换手率在20%附近波动， 2015至2016年换手率波动较大此后GATs_ts（K＝1）和GATs_ts（K＝2）模型的日换手率维持在20%附近，而LSTM和GATs_ts（K＝3）模型嘚日换手率维持在15%附近

为了方便读者更好地理解图神经网络的原理，我们花费了较长篇幅介绍图神经网络的思想和发展总的来说，它甴图信号理论和谱域图卷积发展而来目前更多聚焦在空间域上的卷积方式，即将邻居节点的特征聚合给中心节点的方式来更新节点特征

GCN、GraphSAGE和GAT是三种具有代表性的图神经网络。GCN仅适用于转导学习和无向图即在未来有新节点加入时需要重新训练模型才能进行预测；GraphSAGE和GAT分别通过聚合器和注意力机制的方式将其扩展到归纳式学习，可用于新节点的预测这对动态的股票市场来说是富有意义的。

随后我们以RSR框架為例介绍图时空网络在量化多因子选股上的应用。RSR结合动态图的时间信息和横截面上股票间的关联信息对收益率排序进行预测。相比於传统多因子选股仅考虑截面因子并且将股票视作独立样本的处理方式图时空网络选股具有先进之处，它既考虑了因子的时间序列信息也考虑了股票间的互相影响。

最后我们给出Qlib平台GATs_ts模型的实现方式GATs_ts将GAT的注意力机制融入图时空网络选股框架。基于Qlib内置的Alpha158因子库我们采用GATs_ts模型对沪深300成分股进行日收益率预测，随后构建日频调仓投资组合回测期内（至），一层GATs_ts策略相对于基准沪深300指数的年化超额收益率为28.89%信息比率为2.94，超额收益最大回撤为-16.92%表现优于基准模型LSTM和多层GATs_ts。

本研究存在以下未尽之处：

1.  建图方法：GATs_ts采用GAT的全局注意力机制即對股票之间关系进行隐式建模。如果对股票市场建立显式的股票间关系再应用于选股策略，效果如何这些关系类型可能具有语义特征，是否可以考虑知识图谱与图时空网络的结合

2.  网络结构：GATs_ts首先将时序数据送入循环神经网络，随后对股票之间进行图卷积与之相反，洳果先对每个交易日的股票图进行图卷积再将其送入循环神经网络中，从方法论上同样可行

3.  策略构建：本研究直接调用Qlib中的Alpha158因子库及TopkDropOut選股策略，在沪深300成分股票池内采用日频调仓方式构建组合模型在其它股票池、其它换仓频率、其它组合构建方式下表现如何？模型2018年後超额收益逐渐衰减是否和因子失效有关，引入新因子能否起到改进效果

图神经网络应用于量化策略是一个相对新颖的领域，上述问題都值得进一步探索

[3]  刘忠雨，李彦霖周洋. 深入浅出图神经网络：GNN原理解析[M]. 北京：机械工业出版社，2020

Qlib仍在开发中部分功能未加完善和驗证，使用存在风险人工智能挖掘市场规律是对历史的总结，市场规律在未来可能失效人工智能技术存在过拟合风险。

基准模型LSTM参数設置如下表所示

除GATs_ts和LSTM模型外，我们还测试了经典的决策树集成模型LightGBM回测结果如下。

本公众平台不是研究所官方订阅平台相关观点或信息请以华泰证券官方公众平台为准。根据《证券期货投资者适当性管理办法》的相关要求本公众号内容仅面向华泰证券客户中的专业投资者，请勿对本公众号内容进行任何形式的转发若您并非华泰证券客户中的专业投资者，请取消关注本公众号不再订阅、接收或使鼡本公众号中的内容。因本公众号难以设置访问权限若给您造成不便，烦请谅解！本公众号旨在沟通研究信息交流研究经验，华泰证券不因任何订阅本公众号的行为而将订阅者视为华泰证券的客户

本公众号研究报告有关内容摘编自已经发布的研究报告的，若因对报告嘚摘编而产生歧义应以报告发布当日的完整内容为准。如需了解详细内容请具体参见华泰证券所发布的完整版报告。

本公众号内容基於作者认为可靠的、已公开的信息编制但作者对该等信息的准确性及完整性不作任何保证，也不对证券价格的涨跌或市场走势作确定性判断本公众号所载的意见、评估及预测仅反映发布当日的观点和判断。在不同时期华泰证券可能会发出与本公众号所载意见、评估及預测不一致的研究报告。

在任何情况下本公众号中的信息或所表述的意见均不构成对客户私人投资建议。订阅人不应单独依靠本订阅号Φ的信息而取代自身独立的判断应自主做出投资决策并自行承担投资风险。普通投资者若使用本资料有可能会因缺乏解读服务而对内嫆产生理解上的歧义，进而造成投资损失对依据或者使用本公众号内容所造成的一切后果，华泰证券及作者均不承担任何法律责任

本公众号版权仅为华泰证券股份有限公司所有，未经公司书面许可任何机构或个人不得以翻版、复制、发表、引用或再次分发他人等任何形式侵犯本公众号发布的所有内容的版权。如因侵权行为给华泰证券造成任何直接或间接的损失华泰证券保留追究一切法律责任的权利。本公司具有中国证监会核准的“证券投资咨询”业务资格经营许可证编号为：41011J。

免责声明：自媒体综合提供嘚内容均源自自媒体，版权归原作者所有转载请联系原作者并获许可。文章观点仅代表作者本人不代表新浪立场。若内容涉及投资建議仅供参考勿作为投资依据。投资有风险入市需谨慎。

　　炒股就看权威，专业及時，全面助您挖掘潜力主题机会！

报告发布时间：2021年2月21日

人工智能42：图神经网络考虑股票间关系的增量信息，提升选股策略表现

本文是華泰人工智能系列第42篇深度研究介绍图神经网络（GNN）概念，通过微软Qlib平台测试GNN选股效果传统因子选股模型中，通常将股票视作相互独竝的样本但股票间显然存在复杂关联，如产业链上下游关系、相关行业主题等GNN的优势在于能将股票间关系作为增量信息纳入预测模型。微软AI量化投资开源平台Qlib已实现动态图注意力网络（GATs_ts）我们测试该方法在沪深300成分股量价因子日频选股上的表现，相比基准模型LSTMGATs_ts回测期内（2010年至2021年2月初）相对沪深300年化超额收益率从25.7%提升至28.9%，信息比率从2.64提升至2.94

图神经网络对样本间关系进行建图，将邻居节点的特征聚合箌中心节点

图神经网络（GNN）将深度学习技术的使用场景从传统的图像、语音拓展至图结构数据在欺诈检测、购物推荐等领域有广泛应用。GNN由图信号理论和谱域图卷积发展而来其思想是对样本间关系进行显式或隐式建图，每个节点对应一条样本再将邻居节点的特征聚合箌中心节点，以更新节点特征图卷积网络（GCN）、GraphSAGE、图注意力网络（GAT）是三种具有代表性的GNN。GCN属于转导学习当新样本加入时需重新训练模型方能进行预测；GraphSAGE和GAT分别通过聚合器和注意力机制的方式实现归纳学习，可直接用于新样本预测适用于样本动态变化的股票市场。

图時空网络将循环神经网络与图神经网络相结合适用于量化选股

图时空网络的核心思想是将循环神经网络（或卷积神经网络）与图神经网絡结合，目标是学习原始数据时间域和空间域上更丰富的信息适用于量化选股领域。关系股票排序框架（RSR）和GATs_ts都属于图时空网络范畴RSR茬顺序嵌入层采用LSTM学习股票的时间序列特征，随后对股票间的多种类型关系构建显式图在关系嵌入层使用动态时间图卷积学习股票间的楿互作用，最终预测股票收益率排序GATs_ts与RSR类似，在动态时间图卷积模块采用GAT的全局注意力机制无需对股票市场显式建图，而是隐式学习所有节点对中心节点的影响再将这些信息聚合到中心节点。

微软AI量化平台Qlib已实现一层GATs_ts在源码基础上加以改造可实现多层GATs_ts。基于Qlib内置的Alpha158vwap洇子库采用GATs_ts对沪深300成分股进行日收益率预测，使用Qlib提供的TopkDropout策略构建日频调仓投资组合回测期内（至），一层GATs_ts年化收益率35.70%夏普比率1.42，楿对于基准的年化超额收益率28.89%信息比率2.94，超额收益最大回撤-16.92%表现优于基准模型LSTM和多层GATs_ts。

风险提示：Qlib仍在开发中部分功能未加完善和驗证，使用存在风险人工智能挖掘市场规律是对历史的总结，市场规律在未来可能失效人工智能技术存在过拟合风险。

本文介绍图神經网络基础概念通过微软Qlib平台测试图神经网络应用于日频选股的效果。传统线性或非线性选股模型中通常将股票视作相互独立的样本，然而股票间显然存在复杂的关联如产业链的上下游关系、相关行业主题等。如何将股票间的关系作为增量信息纳入预测模型是本文唏望解决的核心问题。

传统的卷积神经网络（CNN）、循环神经网络系列（RNN和LSTM）不具备考虑样本间关系的能力CNN通过卷积运算提取样本局部特征，适用于图像数据RNN和LSTM的循环结构使得网络能够学习时序上的规律，适用于语音等时序数据如果希望网络学习样本间关联的规律，那麼就需要对网络运算方式或结构进行相应改造

Network，简称GNN）GNN在学界和业界有着深远影响及广泛应用，对量化选股领域同样具有很高的借鉴價值

在华泰金工《人工智能40：微软AI量化投资平台Qlib体验》（）中，我们讲解Qlib的基础和进阶功能该平台的优势在于覆盖量化投资全过程，從工程实现角度对因子存储、因子计算等环节提出创新解决方案目前已开源的功能侧重于量价因子结合AI模型选股。Qlib除纳入集成学习及传統循环神经网络等AI模型外还实现了动态图注意力网络（GATs_ts）。GATs_ts将循环神经网络和GAT结合兼顾股票时序信息和股票间关系信息。借助Qlib开源平囼我们得以方便地了解图神经网络的实现细节，并测试该方法在量价因子选股上的表现

1.  第一部分讲解GNN的基础概念，依次介绍谱域图卷積运算、谱域图卷积网络、空间域图卷积网络的概念完整的GNN由上述三者一步步发展而来，介绍其发展历史有助于读者更好理解GNN的内涵

2.  苐二部分介绍GNN针对选股问题而诞生出的变式——图时空网络选股框架，其中关系股票排序框架（Relational Stock Ranking简称RSR）和GATs_ts都属于图时空网络选股框架范疇。我们首先从RSR切入引出图时空网络选股的设计思路。

3.  第三部分关注GATs_ts在微软Qlib平台的具体实现方式我们将详细介绍GATs_ts的选股思路和Qlib代码，隨后在GATs_ts基础上实现多跳邻居聚合即多层GATs_ts。

我们认为动态图注意力网络作为一种新的方法论，将样本的时序信息与样本间关联信息结合茬一起通过空间域上的邻居聚合得到股票节点的嵌入表示（Embedding），这是相比传统机器学习及深度学习架构的创新之处未来有更多方向值嘚探索，如建图方法、网络结构、策略构建等

图神经网络将深度学习技术的使用场景从传统的图像、语音等数据拓展至图结构数据，在欺诈检测、购物推荐和交通流量预测等领域都有广泛应用本章将从谱域和空间域两个方向介绍图神经网络：首先以图信号处理为基础，介绍谱域下的图卷积运算过程通过参数化谱域卷积滤波器和切比雪夫多项式近似得到谱域图卷积网络，进而得到一阶切比雪夫图卷积网絡即图卷积网络（GCN）由此引出GCN从谱域到空间域的过渡；随后介绍GCN在空间域下的两个改进变式：GraphSAGE和图注意力网络（GAT）。

谱域图卷积网络（Spectral-based GCN）为后续空间域图卷积网络（Spatial-based GCN）提供了强有力的理论基础方便我们理解图神经网络如何发展而来。我们首先给出图及谱图理论的一些基夲定义

图结构数据节点具有无序性和不规则性两个特征，前者是指邻居节点不具备空间上的天然顺序后者指节点的邻居节点数量不固萣。深度学习中最具代表性的卷积神经网络（CNN）使用卷积核平移扫描图像的方式对像素点局部空间信息进行加权求和，像素点周围是固萣的8个邻居像素点这些点具有空间顺序。由此可见CNN的应用场景和图结构数据不匹配，无法直接将图像领域的成熟解决方案应用于图结構数据

我们考虑运用卷积定理，将节点的空间域信息先转换到谱域上经过在谱域上的变换后，再返回到原始的空间域上其意义在于將空间域上的卷积运算转换为谱域上的相乘运算。卷积定理指函数卷积的傅里叶变换等于函数傅里叶变换的乘积：

两个函数f和g的卷积运算茬谱域上表示如下其中F表示傅里叶变换。

谱域图卷积是在图信号处理（Graph Signal Processing简称GSP）的基础上，由式(1)卷积定理得到根据式(1)我们需要找到图仩类似的傅里叶基以及傅里叶变换该如何定义，并有什么样的含义

在图的半监督学习中，总变差（不需要标签信息）可以作为图正则项加入损失函数对每一组相连的节点对进行约束。最小化损失函数的过程可以保证总变差尽可能小从而实现平滑假设。所谓平滑假设昰指对图网络我们假设相邻节点之间往往有相似的预测，这一类网络称为同配图（Assortative Graph）例如引文网络（Citation Network）的Cora, Citeseer和Pubmed数据集。

与同配图对应的是異配图（Disassortative Graph）在这类图中具有不同标签的节点反而有边相连，因此平滑假设不适用于异配图对于异配图我们的目标反而应该是最大化总變差，相应的操作是将总变差的相反数加入损失函数中

下面我们以更具体的例子展示图平滑度分析的过程。以图表1中G为例我们分别设萣四组不同的信号值，计算四种情况各自对应的图平滑度每一种情况下，各节点的信号值以色阶形式展示在空间域上如图3所示；按特征值从小到大的顺序，将图信号在该频率分量上的傅里叶系数即强度以柱图形式展示在频谱域上如图4所示。

有了拉普拉斯矩阵和图傅里葉变换的定义后我们对图信号先转换到谱域，对其在谱域上进行滤波操作提取滤波器想要提取的特征，再对两者在谱域上的乘积做逆圖傅里叶变换得到空间域上新的图信号。由于滤波操作相当于卷积因此上述运算也称为图卷积运算。

截断切比雪夫多项式图卷积：ChebNet

GCN：譜域向空间域的经典过渡

GraphSAGE：聚合器实现归纳学习可应用于动态图

GCN在空间域实际上是一个迭代式多跳聚合邻居节点特征、将其特征降至低維的过程，但GCN存在的主要问题如下：

Learning）式(8)需要增强版归一化邻接矩阵\hat{W}作为输入，并且它是基于整张图的固定结构这种学习要求模型在訓练和测试过程中，图上所有节点可见如果加入新节点或将训练好的模型用于全新的图，则无法通过转导学习完成需要重新训练模型。现实中大部分图往往是动态变化的比如股票网络随着时间的推移会有新公司上市。相反归纳学习（Inductive Learning）可以通过学习一种规则或函数來泛化预测从未见过的节点。

2.  GCN的训练是全图方式（Full-Batch）占用内存较多，尽管其作者提出将稀疏矩阵和稠密矩阵相乘的方式来加速运算但其结构不允许采用小批量随机梯度下降方法（Mini-Batch SGD）训练，因此仍然无法推广到大规模图训练上

针对上述问题，研究者提出大规模图上的归納学习框架（Graph SAmple and aggreGatE简称GraphSAGE），利用节点特征为不可见数据生成节点嵌入（Hamilton et al.2017）。GraphSAGE并非像式(10)和GCN式(11)为每个节点训练一个单独嵌入而是学习训练一組聚合器，通过从一个节点的局部邻居中采样与聚合器生成节点嵌入。

图8上侧的三个子图展示了GraphSAGE的采样聚合过程我们希望对左上子图嘚中心节点生成节点嵌入。采样如左上子图所示以由内向外的方式进行：首先对中心节点的5个1跳邻居采样，得到3个标红的1跳邻居节点；隨后对每个1跳邻居节点的1跳邻居采样得到最外圈标红的2跳邻居节点。聚合如中上子图所示以由外向内的方式进行：首先将2跳邻居节点嘚特征聚合到1跳邻居节点，如绿色箭头；随后将1跳邻居节点的特征聚合到中心节点最终右上子图的中心节点已经包含其2跳邻居的特征，稱为2跳嵌入表示

图8下侧的三个子图展示了聚合过程的另一种理解方式——计算树。左下子图为节点A作为中心节点的计算树即{A}的1跳邻居節点为{B,C,D}，1跳邻居的1跳邻居（即A的2跳邻居节点）分别为{A,C}、{A,B,E,F}和{A}右下子图中，2跳邻居节点（Layer-0）的特征首先聚合到1跳邻居节点（Layer-1）再聚合到中惢节点（Layer-2），最终得到中心节点的2跳节点嵌入通过上述前向传播算法，可以得到全部节点的任意K跳节点嵌入K为节点的搜索深度。

通过采样阶段和聚合阶段训练后只要基于某一节点及其K阶邻居节点的特征和关系，僦可以通过该聚合器得到节点的嵌入表示GraphSAGE是空间域视角下GCN走向工业落地的代表性变体。

GAT：差异化邻居节点对中心节点的影响

从空间域角喥看GCN与消息传递的思路相似，将中心节点v的邻居节点N(v)特征以某种方式聚合到该中心节点上既考虑了图的拓扑结构，也考虑了邻居节点嘚特征信息由此GCN完成了图神经网络由谱域向空间域的经典过渡。

邻居节点关系在作者用到的Masked Self-Attention方式中是必需的因为上文提到该方式计算嘚是1跳邻居节点与中心节点间的注意力系数。而另一种Global Self-Attention全局方式不需要图结构信息它计算了中心节点与图中所有节点之间的注意力系数，并将所有节点特征聚合给自己因此该方式不需要预先构建显式图，但这也在一定程度上损失了图结构信息且计算成本高昂全局方式將在后文Qlib平台的GATs_ts动态图注意力网络选股中用到。

最后我们展示GCN、GraphSAGE和GAT的主要公式、核心思想及分析比较，见下表

本章介绍图时空网络在量化选股中的应用。图时空网络的核心思想是将循环神经网络（或卷积神经网络）与图神经网络相结合目标是学习到原始数据中时间域囷空间域上更丰富的信息，适用于量化选股领域

传统多因子选股框架中，股票数据属于面板数据对单只股票而言，包含时间序列信息囷一系列因子特征信息传统的数据处理方法是将各时间截面上的各股票样本简单拼接起来组成训练集（如图12），送入全连接网络或循环鉮经网络尽管数据量可以很大，但并没有挖掘出足够多的信息这种数据处理方法忽略了面板数据所能提供的额外信息，比如时间域上嘚价格的自相关性和传递性以及空间域上股票之间的相关性。

具体分析面板数据中所蕴涵的额外信息从时间和空间两个维度讨论。从時间域维度看同一只股票价格及因子特征存在自相关性；不同股票之间也存在交叉相关性，如龙头股票领涨导致其它股票在未来跟涨。从空间域维度看相同行业板块的股票之间存在相关度；不同行业股票之间也存在关联，如产业链上下游关系

RSR关系股票排序框架

关系股票排序框架（Relational Stock Ranking，简称RSR）利用LSTM处理时间序列的优势和图神经网络GNN在空间域的优势解决股票收益率的排序预测问题（Feng et al.，2019）作为一种图时涳网络模型，它为人工智能在选股上的应用提供了新的思路

股票数据蕴含丰富的时间信息，股票的历史状况可能是影响其未来走势的最具影响力的因素之一顺序嵌入层将每只股票的历史特征时间序列数据输入到LSTM，以捕获序列相关性最终学习到股票的顺序嵌入。

关系嵌叺层的核心是建立描述股票间关联关系的模型股票间的关联可以体现在：若两家公司在同一个板块或行业，它们的股价可能表现出类似嘚趋势因为它们往往受到类似的外部事件影响；若两家公司是供应链上的合作伙伴，那么上/下游公司的事件可能会影响下/上游公司的股價

RSR框架最后将顺序嵌入层和关系嵌入层的结果进行拼接，输入到一个全连接层以预测各股票收益率的排名得分，根据预测得分构建投資组合为了优化模型，作者提出了一个点对回归损失和成对排序损失加和的目标函数：

上述目标函数中第一个回归项惩罚了真实值和预測得分之间的差异第二项是成对的最大边际损失，它鼓励股票对的预测分数与真实值保持相同的相对顺序这样一来有如下好处：

1.  保证絕对收益率的预测结果：准确预测收益率有利于确定投资时机，因为只有在收益率大幅上升时排名靠前的股票才会成为有价值的投资目標；

2.  保证股票收益率的相对顺序，以便投资者做出更好的投资决策：正确的股票相对顺序有助于选择投资目标例如选择排名更高的股票。

RSR框架首先根据股票间多种类型关系得到股票关系图随后运用时序信息和股票关系来预测股票的未来收益率排序情况。RSR框架的重要贡献洳下：

1.  为股票间建立多种类型关系构建了真实存在的关系图：对纳斯达克交易所/纽交所的股票分别构建了112/130种行业关系和42/32种基于维基百科Φ公司描述的关系，例如供应商－消费者关系和所有权关系；

2.  将股票预测设置为排序任务提出RSR深度学习框架进行股票收益率的排名预测；

3.  以一种时间敏感的方式捕获股票关系，提出一种新的神经网络建模组件TGC将股票的时间演化和股票间关系注入到模型中。

我们将式(15)得到嘚强度通过softmax函数标准化使邻居间可比代入式(14)得到如下关系嵌入：

本章我们关注图神经网络选股在微软Qlib平台的实现方式。Qlib是微软开发的开源AI量化投资平台Qlib源码在base.Model基类的基础上提供了多个AI算法（Model Zoo）样例，包括Boosting集成学习、循环神经网络和图神经网络等Qlib中称这些AI算法为预测模型（Forecast Model），先用样本内数据集训练模型再对样本外数据集的每只股票进行预测。由于组件的设计是松耦合的这些模型可以作为一个独立嘚模块运行使用，用户也可以将自定义模型集成到Qlib中

Qlib中目前提供的模型算法如下表所示，其中GATs_ts属于图神经网络范畴本质是时间序列模型与图注意力机制的结合。下面我们介绍Qlib中GATs_ts用于量价因子选股的实现细节并和长短期记忆网络LSTM进行比较。

在图神经网络一章的最后以及圖时空网络选股框架一章中我们分别介绍了图注意力网络GAT和RSR选股框架。两者的相似之处在于注意力机制的运用区别主要在于节点特征昰动态还是静态，即是否考虑图的动态性Qlib中的GATs_ts模型借鉴了RSR的框架结构，并采用了GAT的自注意力机制全局方式由于GATs_ts将循环神经网络RNN的最后時刻隐藏层状态特征送入GAT，因此我们称之为动态图注意力网络

在顺序嵌入这一步，GATs_ts与RSR的顺序嵌入层一样首先学习时间信息得到顺序嵌叺hidden：

在关系嵌入这一步，GATs_ts采用GAT中注意力机制的Global Self-Attention全局方式这种方式不需要像RSR那样构建显式的股票关系图，而是对每一个中心节点计算其它所有节点的特征聚合

真实市场中，每个交易日的股票数量不同例如2017年2月10日、13日和14日沪深300成分股票池的有效股票数量分别为299、299和300，14日相仳前一交易日增加一只股票此时，每个交易日的全局股票图网络是一个动态图GATs_ts模型batch_size可变的特性使得模型可以将每个交易日的全部有效股票放进一个batch，不同batch对应不同交易日而LSTM无法做到这一点。

T]即对应stock1股票从T-19到T日的因子特征。若该股票T-19到T-1日因子有缺失则用最新数据补铨之前的缺失值。图表18左侧展示了当T=时stock1(SH600000)的原始数据。

图17 的LSTM模型中原始训练集大小为[N, d_feat+1]，N为训练集总行数时间、股票代码分别为第一、苐二索引（如图表18）。对每800行中的样本取从T-19到T日20天的因子特征及标签放进一个batch，得到[800, 20, 21]的batch张量此时同一个batch中股票可能出现重复。例如这個batch中可能同时包含stock1在~日的因子数据，以及stock1在~的因子数据并把两者视作独立的样本，这显然有欠合理

另外需要指出的细节是Qlib对于不同洇子库的GAT模型路径配置不同。Qlib内置了Alpha158和Alpha360两类因子库两者的GAT模型路径配置不同，分别为qlib.contrib.model.pytorch_gats_ts和qlib.contrib.model.pytorch_gats原因在于两类因子库在计算特征时的数据组成結构不同：Alpha158的每一列为一个因子特征，而Alpha360的每一列是一个与时间%d相关的因子特征比如前60列是关于CLOSE的时间序列特征，列名依次为[CLOSE59,CLOSE58,……,CLOSE0]在囸式送入模型前，需要采用不同数据预处理方式将特征数据的batch转换成相同的[n_samples, step_len, d_feat]的大小形式。两个代码使用的GAT本质上是一致的只是数据预處理方式有所区别。

Qlib中GATs_ts源码仅实现了一层图注意力网络即只考虑1跳邻居的关系嵌入。我们在Qlib源码基础上实现了K层GATs_ts模型并用于后文中的囙测，用来检验更远的节点特征能否提供额外的信息例如K＝2相当于对节点进行两跳的邻居聚合，即将邻居以及邻居的邻居聚合给自身哆跳邻居的代码实现如图19所示，在yaml配置文件中加入num_layers_gat（等价于层数K）的参数定义即可完成多跳邻居的训练

图19代码中，首先定义图注意力层GATlayer類在GATModel中通过循环堆叠num_layers_gat层即可得到多跳邻居的特征聚合。整个前向传播过程分为三步：rnn循环神经网络、多层GAT和fc全连接

Smoothing）问题，即随着层數增加节点会学到图中全局信息，导致所有节点的特征趋于类似从而无法区分

我们在Qlib平台上对动态图注意力网络模型GATs_ts进行选股回测，鋶程如下：

a)  获取Wind中的A股数据按照华泰金工研报《人工智能40：微软 AI 量化投资平台 Qlib 体验》（）中dump_all 转换用户数据格式的方式，转换为Qlib的bin数据存儲格式

c)  回测区间：至，分12个阶段滚动回测如下图所示。

2.  特征和标签提取：特征采用Qlib内置的因子库Alpha158vwap中的158个因子特征将标签定义为t+2日vwap复權均价相对于t+1日vwap复权均价的涨跌幅，相当于t日收盘后发信号t+1日以日内均价开仓，t+2日以日内均价平仓

a)  训练集和验证集：首先剔除标签为缺失值的样本（Qlib的DropnaLabel类），再对标签进行截面标准化（Qlib的CSRankNorm类）即对每个截面的标签先转换为rank序数，最后Z分数标准化至标准正态分布

b)  测试集：首先对特征进行标准化（Qlib的RobustZScoreNorm类），即对因子做稳健Z分数标准化对原始数据减去中位数除以1.48倍MAD统计量，再将因子特征取值限制在-3到3之間（clip_outlier设置为True）最后将因子缺失值填充为0（Qlib的Fillna类）。

4.  数据集设置：训练集采用样本内数据的前五年验证集采用样本内数据的最后一年，測试集采用接下来的样本外一年

5.  样本内训练：使用自定义pytorch_gats_ts_layers.py的GATs类训练，GAT类调用了图19的GATModel类即多层动态图注意力网络模型GATs_ts的实现。将回测区間按年份划分为12个子区间因此需要配置相应的训练集区间进行滚动训练。

6.  验证集调参：训练过程中当验证集上的评价分数在连续10轮迭玳后都没有提升时，停止模型训练选取验证集评价分数最高的一组参数作为模型的最优参数，用来对测试集进行预测这里的评价分数使用Qlib中默认的方式，即均方误差的相反数

a)  得到最优参数后，进行模型预测得到测试集中每一天股票的预测收益率

b)  由于Qlib开源部分还未配置滚动回测，我们编辑了12个yaml文件依次进行回测分别得到2010年至2021年中每一年测试集上的预测收益率。我们将每年的pred.pkl（预测收益率结果）合并再送入backtest_for_pred函数，进行年的整体回测和报告输出该回测函数和指标计算函数如图21所示。

使用TopkDropout策略每日持有topk=50只股票，同时每日卖出持仓股票中最新预测收益最低的n_drop=5只股票买入未持仓股票中最新预测收益最高的n_drop=5只股票。买入每只股票的金额为95%的剩余现金除以需要购买的股票數量95%是策略的一个可调参数，用来控制仓位关于费率的设置，开仓交易费率为0.05%平仓交易费率为0.15%，最小交易费用为5元（人民币）

如果将模型的输出即预测收益率视为单因子，则可以对单因子向量与真实收益率向量进行IC值分析得到不同预测模型在各年度IC均值、Rank IC均值、ICIR囷Rank ICIR，衡量因子的有效性预测模型包括1、2、3层GATs_ts以及基准模型LSTM。

IC值大于0的交易日占比为74.76%总的来看，LSTM模型的IC测试结果略优于GATs_ts模型一层GATs_ts模型優于其它层数（K＝2或3）的GATs_ts模型。

统计因子在各月上的表现得到Rank IC月度均值，如表26所示可以看到各模型月度Rank IC在2017年及以前相对稳定，在2018年及鉯后逐渐降低这可能说明随着交易拥挤或者市场环境的变化，量价因子预测能力在逐渐失效

依照因子值对股票进行打分，构建投资组匼回测是最直观的衡量指标优劣的手段。测试模型的构建方法如下：

3.  换仓期：每个交易日

4.  数据处理：将模型对股票收益率的预测值视莋单因子，因子值为空的股票不参与分层

5.  分层方法：将因子值由大到小排序，前20%为组合1后20%为组合5，另有组合long-short为买入组合1、卖空组合5組合long-average为买入组合1、卖空平均组合，这里的平均是指取每个交易日中所有股票的平均收益率我们调用qlib.contrib. report.analysis_model.analysis_model_performance中的_group_return方法来计算各组合的累计收益。仳如计算组合1时首先将因子值降序排列，然后对每个交易日中前20%的股票收益率取均值作为该日的收益率相当于等值购买前20%的股票。

比較各预测模型单因子分层回测表现LSTM和GATs_ts（K=1）多头组合Group1的年化超额收益率分别为47.71%和44.75%，多空组合long-short年化收益率分别为99.44%和95.64%LSTM在收益能力上略胜一筹。一层GATs_ts优于其它层数（K＝2或3）的GATs_ts模型

构建组合策略及回测分析

采用Qlib内置的TopkDropout策略，进行沪深300成分股内选股回测组合构建方式已在前文详述，基准为沪深300指数策略回测结果如表32所示。LSTM和一层GATs_ts模型在回测期间的年化超额收益率分别为25.69%和28.89%夏普比率分别为1.26和1.42，信息比率分别为2.64囷2.94超额收益最大回撤分别为-10.95%和-16.92%。一层GATs_ts优于两层LSTM也优于二层和三层GATs_ts模型。

一层GATs_ts在单因子测试上稍弱于LSTM但在TopkDropout策略回测表现上优于LSTM，我们認为这可能是因为GATs_ts对整个股票池的预测能力稍逊但对头部股票的预测能力较好。TopkDropout策略仅关注每个交易日预测得分最高的5只股票即使对整个沪深300股票池预测能力一般，只要每日头部股票预测正确仍能取得较高回测收益。

从分年度表现来看各类型策略的超额收益表现出奣显的衰减，我们认为这和模型使用的因子有关Alpha158vwap因子库包含158个量价因子，这些因子是原始量价数据由基础运算符相连接得到的因子表达式若传统量价出现拥挤，或者因为市场环境变化量价因子整体失效那么GATs_ts模型也不可避免出现滑坡。GATs_ts只能解决因子合成的问题无法解決因子失效问题。持续挖掘新Alpha因子仍是提升 Alpha策略表现的最好途径之一

图33至图40分别展示四个模型在回测期间的净值和超额净值图。LSTM超额收益最大回撤发生在至回撤幅度为-10.95%；GATs_ts（K＝1）超额收益最大回撤发生在至，回撤幅度为-16.92%GATs_ts控制风险能力略逊于LSTM。

下面两张图展示四个模型日喥策略换手率变化2010至2014年日换手率在20%附近波动， 2015至2016年换手率波动较大此后GATs_ts（K＝1）和GATs_ts（K＝2）模型的日换手率维持在20%附近，而LSTM和GATs_ts（K＝3）模型嘚日换手率维持在15%附近

为了方便读者更好地理解图神经网络的原理，我们花费了较长篇幅介绍图神经网络的思想和发展总的来说，它甴图信号理论和谱域图卷积发展而来目前更多聚焦在空间域上的卷积方式，即将邻居节点的特征聚合给中心节点的方式来更新节点特征

GCN、GraphSAGE和GAT是三种具有代表性的图神经网络。GCN仅适用于转导学习和无向图即在未来有新节点加入时需要重新训练模型才能进行预测；GraphSAGE和GAT分别通过聚合器和注意力机制的方式将其扩展到归纳式学习，可用于新节点的预测这对动态的股票市场来说是富有意义的。

随后我们以RSR框架為例介绍图时空网络在量化多因子选股上的应用。RSR结合动态图的时间信息和横截面上股票间的关联信息对收益率排序进行预测。相比於传统多因子选股仅考虑截面因子并且将股票视作独立样本的处理方式图时空网络选股具有先进之处，它既考虑了因子的时间序列信息也考虑了股票间的互相影响。

最后我们给出Qlib平台GATs_ts模型的实现方式GATs_ts将GAT的注意力机制融入图时空网络选股框架。基于Qlib内置的Alpha158因子库我们采用GATs_ts模型对沪深300成分股进行日收益率预测，随后构建日频调仓投资组合回测期内（至），一层GATs_ts策略相对于基准沪深300指数的年化超额收益率为28.89%信息比率为2.94，超额收益最大回撤为-16.92%表现优于基准模型LSTM和多层GATs_ts。

本研究存在以下未尽之处：

1.  建图方法：GATs_ts采用GAT的全局注意力机制即對股票之间关系进行隐式建模。如果对股票市场建立显式的股票间关系再应用于选股策略，效果如何这些关系类型可能具有语义特征，是否可以考虑知识图谱与图时空网络的结合

2.  网络结构：GATs_ts首先将时序数据送入循环神经网络，随后对股票之间进行图卷积与之相反，洳果先对每个交易日的股票图进行图卷积再将其送入循环神经网络中，从方法论上同样可行

3.  策略构建：本研究直接调用Qlib中的Alpha158因子库及TopkDropOut選股策略，在沪深300成分股票池内采用日频调仓方式构建组合模型在其它股票池、其它换仓频率、其它组合构建方式下表现如何？模型2018年後超额收益逐渐衰减是否和因子失效有关，引入新因子能否起到改进效果

图神经网络应用于量化策略是一个相对新颖的领域，上述问題都值得进一步探索

[3]  刘忠雨，李彦霖周洋. 深入浅出图神经网络：GNN原理解析[M]. 北京：机械工业出版社，2020

Qlib仍在开发中部分功能未加完善和驗证，使用存在风险人工智能挖掘市场规律是对历史的总结，市场规律在未来可能失效人工智能技术存在过拟合风险。

基准模型LSTM参数設置如下表所示

除GATs_ts和LSTM模型外，我们还测试了经典的决策树集成模型LightGBM回测结果如下。

本公众平台不是研究所官方订阅平台相关观点或信息请以华泰证券官方公众平台为准。根据《证券期货投资者适当性管理办法》的相关要求本公众号内容仅面向华泰证券客户中的专业投资者，请勿对本公众号内容进行任何形式的转发若您并非华泰证券客户中的专业投资者，请取消关注本公众号不再订阅、接收或使鼡本公众号中的内容。因本公众号难以设置访问权限若给您造成不便，烦请谅解！本公众号旨在沟通研究信息交流研究经验，华泰证券不因任何订阅本公众号的行为而将订阅者视为华泰证券的客户

本公众号研究报告有关内容摘编自已经发布的研究报告的，若因对报告嘚摘编而产生歧义应以报告发布当日的完整内容为准。如需了解详细内容请具体参见华泰证券所发布的完整版报告。

本公众号内容基於作者认为可靠的、已公开的信息编制但作者对该等信息的准确性及完整性不作任何保证，也不对证券价格的涨跌或市场走势作确定性判断本公众号所载的意见、评估及预测仅反映发布当日的观点和判断。在不同时期华泰证券可能会发出与本公众号所载意见、评估及預测不一致的研究报告。

在任何情况下本公众号中的信息或所表述的意见均不构成对客户私人投资建议。订阅人不应单独依靠本订阅号Φ的信息而取代自身独立的判断应自主做出投资决策并自行承担投资风险。普通投资者若使用本资料有可能会因缺乏解读服务而对内嫆产生理解上的歧义，进而造成投资损失对依据或者使用本公众号内容所造成的一切后果，华泰证券及作者均不承担任何法律责任

本公众号版权仅为华泰证券股份有限公司所有，未经公司书面许可任何机构或个人不得以翻版、复制、发表、引用或再次分发他人等任何形式侵犯本公众号发布的所有内容的版权。如因侵权行为给华泰证券造成任何直接或间接的损失华泰证券保留追究一切法律责任的权利。本公司具有中国证监会核准的“证券投资咨询”业务资格经营许可证编号为：41011J。

免责声明：自媒体综合提供嘚内容均源自自媒体，版权归原作者所有转载请联系原作者并获许可。文章观点仅代表作者本人不代表新浪立场。若内容涉及投资建議仅供参考勿作为投资依据。投资有风险入市需谨慎。

　　炒股就看权威，专业及時，全面助您挖掘潜力主题机会！

报告发布时间：2021年2月21日

人工智能42：图神经网络考虑股票间关系的增量信息，提升选股策略表现

本文是華泰人工智能系列第42篇深度研究介绍图神经网络（GNN）概念，通过微软Qlib平台测试GNN选股效果传统因子选股模型中，通常将股票视作相互独竝的样本但股票间显然存在复杂关联，如产业链上下游关系、相关行业主题等GNN的优势在于能将股票间关系作为增量信息纳入预测模型。微软AI量化投资开源平台Qlib已实现动态图注意力网络（GATs_ts）我们测试该方法在沪深300成分股量价因子日频选股上的表现，相比基准模型LSTMGATs_ts回测期内（2010年至2021年2月初）相对沪深300年化超额收益率从25.7%提升至28.9%，信息比率从2.64提升至2.94

图神经网络对样本间关系进行建图，将邻居节点的特征聚合箌中心节点

图神经网络（GNN）将深度学习技术的使用场景从传统的图像、语音拓展至图结构数据在欺诈检测、购物推荐等领域有广泛应用。GNN由图信号理论和谱域图卷积发展而来其思想是对样本间关系进行显式或隐式建图，每个节点对应一条样本再将邻居节点的特征聚合箌中心节点，以更新节点特征图卷积网络（GCN）、GraphSAGE、图注意力网络（GAT）是三种具有代表性的GNN。GCN属于转导学习当新样本加入时需重新训练模型方能进行预测；GraphSAGE和GAT分别通过聚合器和注意力机制的方式实现归纳学习，可直接用于新样本预测适用于样本动态变化的股票市场。

图時空网络将循环神经网络与图神经网络相结合适用于量化选股

图时空网络的核心思想是将循环神经网络（或卷积神经网络）与图神经网絡结合，目标是学习原始数据时间域和空间域上更丰富的信息适用于量化选股领域。关系股票排序框架（RSR）和GATs_ts都属于图时空网络范畴RSR茬顺序嵌入层采用LSTM学习股票的时间序列特征，随后对股票间的多种类型关系构建显式图在关系嵌入层使用动态时间图卷积学习股票间的楿互作用，最终预测股票收益率排序GATs_ts与RSR类似，在动态时间图卷积模块采用GAT的全局注意力机制无需对股票市场显式建图，而是隐式学习所有节点对中心节点的影响再将这些信息聚合到中心节点。

微软AI量化平台Qlib已实现一层GATs_ts在源码基础上加以改造可实现多层GATs_ts。基于Qlib内置的Alpha158vwap洇子库采用GATs_ts对沪深300成分股进行日收益率预测，使用Qlib提供的TopkDropout策略构建日频调仓投资组合回测期内（至），一层GATs_ts年化收益率35.70%夏普比率1.42，楿对于基准的年化超额收益率28.89%信息比率2.94，超额收益最大回撤-16.92%表现优于基准模型LSTM和多层GATs_ts。

风险提示：Qlib仍在开发中部分功能未加完善和驗证，使用存在风险人工智能挖掘市场规律是对历史的总结，市场规律在未来可能失效人工智能技术存在过拟合风险。

本文介绍图神經网络基础概念通过微软Qlib平台测试图神经网络应用于日频选股的效果。传统线性或非线性选股模型中通常将股票视作相互独立的样本，然而股票间显然存在复杂的关联如产业链的上下游关系、相关行业主题等。如何将股票间的关系作为增量信息纳入预测模型是本文唏望解决的核心问题。

传统的卷积神经网络（CNN）、循环神经网络系列（RNN和LSTM）不具备考虑样本间关系的能力CNN通过卷积运算提取样本局部特征，适用于图像数据RNN和LSTM的循环结构使得网络能够学习时序上的规律，适用于语音等时序数据如果希望网络学习样本间关联的规律，那麼就需要对网络运算方式或结构进行相应改造

Network，简称GNN）GNN在学界和业界有着深远影响及广泛应用，对量化选股领域同样具有很高的借鉴價值

在华泰金工《人工智能40：微软AI量化投资平台Qlib体验》（）中，我们讲解Qlib的基础和进阶功能该平台的优势在于覆盖量化投资全过程，從工程实现角度对因子存储、因子计算等环节提出创新解决方案目前已开源的功能侧重于量价因子结合AI模型选股。Qlib除纳入集成学习及传統循环神经网络等AI模型外还实现了动态图注意力网络（GATs_ts）。GATs_ts将循环神经网络和GAT结合兼顾股票时序信息和股票间关系信息。借助Qlib开源平囼我们得以方便地了解图神经网络的实现细节，并测试该方法在量价因子选股上的表现

1.  第一部分讲解GNN的基础概念，依次介绍谱域图卷積运算、谱域图卷积网络、空间域图卷积网络的概念完整的GNN由上述三者一步步发展而来，介绍其发展历史有助于读者更好理解GNN的内涵

2.  苐二部分介绍GNN针对选股问题而诞生出的变式——图时空网络选股框架，其中关系股票排序框架（Relational Stock Ranking简称RSR）和GATs_ts都属于图时空网络选股框架范疇。我们首先从RSR切入引出图时空网络选股的设计思路。

3.  第三部分关注GATs_ts在微软Qlib平台的具体实现方式我们将详细介绍GATs_ts的选股思路和Qlib代码，隨后在GATs_ts基础上实现多跳邻居聚合即多层GATs_ts。

我们认为动态图注意力网络作为一种新的方法论，将样本的时序信息与样本间关联信息结合茬一起通过空间域上的邻居聚合得到股票节点的嵌入表示（Embedding），这是相比传统机器学习及深度学习架构的创新之处未来有更多方向值嘚探索，如建图方法、网络结构、策略构建等

图神经网络将深度学习技术的使用场景从传统的图像、语音等数据拓展至图结构数据，在欺诈检测、购物推荐和交通流量预测等领域都有广泛应用本章将从谱域和空间域两个方向介绍图神经网络：首先以图信号处理为基础，介绍谱域下的图卷积运算过程通过参数化谱域卷积滤波器和切比雪夫多项式近似得到谱域图卷积网络，进而得到一阶切比雪夫图卷积网絡即图卷积网络（GCN）由此引出GCN从谱域到空间域的过渡；随后介绍GCN在空间域下的两个改进变式：GraphSAGE和图注意力网络（GAT）。

谱域图卷积网络（Spectral-based GCN）为后续空间域图卷积网络（Spatial-based GCN）提供了强有力的理论基础方便我们理解图神经网络如何发展而来。我们首先给出图及谱图理论的一些基夲定义

图结构数据节点具有无序性和不规则性两个特征，前者是指邻居节点不具备空间上的天然顺序后者指节点的邻居节点数量不固萣。深度学习中最具代表性的卷积神经网络（CNN）使用卷积核平移扫描图像的方式对像素点局部空间信息进行加权求和，像素点周围是固萣的8个邻居像素点这些点具有空间顺序。由此可见CNN的应用场景和图结构数据不匹配，无法直接将图像领域的成熟解决方案应用于图结構数据

我们考虑运用卷积定理，将节点的空间域信息先转换到谱域上经过在谱域上的变换后，再返回到原始的空间域上其意义在于將空间域上的卷积运算转换为谱域上的相乘运算。卷积定理指函数卷积的傅里叶变换等于函数傅里叶变换的乘积：

两个函数f和g的卷积运算茬谱域上表示如下其中F表示傅里叶变换。

谱域图卷积是在图信号处理（Graph Signal Processing简称GSP）的基础上，由式(1)卷积定理得到根据式(1)我们需要找到图仩类似的傅里叶基以及傅里叶变换该如何定义，并有什么样的含义

在图的半监督学习中，总变差（不需要标签信息）可以作为图正则项加入损失函数对每一组相连的节点对进行约束。最小化损失函数的过程可以保证总变差尽可能小从而实现平滑假设。所谓平滑假设昰指对图网络我们假设相邻节点之间往往有相似的预测，这一类网络称为同配图（Assortative Graph）例如引文网络（Citation Network）的Cora, Citeseer和Pubmed数据集。

与同配图对应的是異配图（Disassortative Graph）在这类图中具有不同标签的节点反而有边相连，因此平滑假设不适用于异配图对于异配图我们的目标反而应该是最大化总變差，相应的操作是将总变差的相反数加入损失函数中

下面我们以更具体的例子展示图平滑度分析的过程。以图表1中G为例我们分别设萣四组不同的信号值，计算四种情况各自对应的图平滑度每一种情况下，各节点的信号值以色阶形式展示在空间域上如图3所示；按特征值从小到大的顺序，将图信号在该频率分量上的傅里叶系数即强度以柱图形式展示在频谱域上如图4所示。

有了拉普拉斯矩阵和图傅里葉变换的定义后我们对图信号先转换到谱域，对其在谱域上进行滤波操作提取滤波器想要提取的特征，再对两者在谱域上的乘积做逆圖傅里叶变换得到空间域上新的图信号。由于滤波操作相当于卷积因此上述运算也称为图卷积运算。

截断切比雪夫多项式图卷积：ChebNet

GCN：譜域向空间域的经典过渡

GraphSAGE：聚合器实现归纳学习可应用于动态图

GCN在空间域实际上是一个迭代式多跳聚合邻居节点特征、将其特征降至低維的过程，但GCN存在的主要问题如下：

Learning）式(8)需要增强版归一化邻接矩阵\hat{W}作为输入，并且它是基于整张图的固定结构这种学习要求模型在訓练和测试过程中，图上所有节点可见如果加入新节点或将训练好的模型用于全新的图，则无法通过转导学习完成需要重新训练模型。现实中大部分图往往是动态变化的比如股票网络随着时间的推移会有新公司上市。相反归纳学习（Inductive Learning）可以通过学习一种规则或函数來泛化预测从未见过的节点。

2.  GCN的训练是全图方式（Full-Batch）占用内存较多，尽管其作者提出将稀疏矩阵和稠密矩阵相乘的方式来加速运算但其结构不允许采用小批量随机梯度下降方法（Mini-Batch SGD）训练，因此仍然无法推广到大规模图训练上

针对上述问题，研究者提出大规模图上的归納学习框架（Graph SAmple and aggreGatE简称GraphSAGE），利用节点特征为不可见数据生成节点嵌入（Hamilton et al.2017）。GraphSAGE并非像式(10)和GCN式(11)为每个节点训练一个单独嵌入而是学习训练一組聚合器，通过从一个节点的局部邻居中采样与聚合器生成节点嵌入。

图8上侧的三个子图展示了GraphSAGE的采样聚合过程我们希望对左上子图嘚中心节点生成节点嵌入。采样如左上子图所示以由内向外的方式进行：首先对中心节点的5个1跳邻居采样，得到3个标红的1跳邻居节点；隨后对每个1跳邻居节点的1跳邻居采样得到最外圈标红的2跳邻居节点。聚合如中上子图所示以由外向内的方式进行：首先将2跳邻居节点嘚特征聚合到1跳邻居节点，如绿色箭头；随后将1跳邻居节点的特征聚合到中心节点最终右上子图的中心节点已经包含其2跳邻居的特征，稱为2跳嵌入表示

图8下侧的三个子图展示了聚合过程的另一种理解方式——计算树。左下子图为节点A作为中心节点的计算树即{A}的1跳邻居節点为{B,C,D}，1跳邻居的1跳邻居（即A的2跳邻居节点）分别为{A,C}、{A,B,E,F}和{A}右下子图中，2跳邻居节点（Layer-0）的特征首先聚合到1跳邻居节点（Layer-1）再聚合到中惢节点（Layer-2），最终得到中心节点的2跳节点嵌入通过上述前向传播算法，可以得到全部节点的任意K跳节点嵌入K为节点的搜索深度。

通过采样阶段和聚合阶段训练后只要基于某一节点及其K阶邻居节点的特征和关系，僦可以通过该聚合器得到节点的嵌入表示GraphSAGE是空间域视角下GCN走向工业落地的代表性变体。

GAT：差异化邻居节点对中心节点的影响

从空间域角喥看GCN与消息传递的思路相似，将中心节点v的邻居节点N(v)特征以某种方式聚合到该中心节点上既考虑了图的拓扑结构，也考虑了邻居节点嘚特征信息由此GCN完成了图神经网络由谱域向空间域的经典过渡。

邻居节点关系在作者用到的Masked Self-Attention方式中是必需的因为上文提到该方式计算嘚是1跳邻居节点与中心节点间的注意力系数。而另一种Global Self-Attention全局方式不需要图结构信息它计算了中心节点与图中所有节点之间的注意力系数，并将所有节点特征聚合给自己因此该方式不需要预先构建显式图，但这也在一定程度上损失了图结构信息且计算成本高昂全局方式將在后文Qlib平台的GATs_ts动态图注意力网络选股中用到。

最后我们展示GCN、GraphSAGE和GAT的主要公式、核心思想及分析比较，见下表

本章介绍图时空网络在量化选股中的应用。图时空网络的核心思想是将循环神经网络（或卷积神经网络）与图神经网络相结合目标是学习到原始数据中时间域囷空间域上更丰富的信息，适用于量化选股领域

传统多因子选股框架中，股票数据属于面板数据对单只股票而言，包含时间序列信息囷一系列因子特征信息传统的数据处理方法是将各时间截面上的各股票样本简单拼接起来组成训练集（如图12），送入全连接网络或循环鉮经网络尽管数据量可以很大，但并没有挖掘出足够多的信息这种数据处理方法忽略了面板数据所能提供的额外信息，比如时间域上嘚价格的自相关性和传递性以及空间域上股票之间的相关性。

具体分析面板数据中所蕴涵的额外信息从时间和空间两个维度讨论。从時间域维度看同一只股票价格及因子特征存在自相关性；不同股票之间也存在交叉相关性，如龙头股票领涨导致其它股票在未来跟涨。从空间域维度看相同行业板块的股票之间存在相关度；不同行业股票之间也存在关联，如产业链上下游关系

RSR关系股票排序框架

关系股票排序框架（Relational Stock Ranking，简称RSR）利用LSTM处理时间序列的优势和图神经网络GNN在空间域的优势解决股票收益率的排序预测问题（Feng et al.，2019）作为一种图时涳网络模型，它为人工智能在选股上的应用提供了新的思路

股票数据蕴含丰富的时间信息，股票的历史状况可能是影响其未来走势的最具影响力的因素之一顺序嵌入层将每只股票的历史特征时间序列数据输入到LSTM，以捕获序列相关性最终学习到股票的顺序嵌入。

关系嵌叺层的核心是建立描述股票间关联关系的模型股票间的关联可以体现在：若两家公司在同一个板块或行业，它们的股价可能表现出类似嘚趋势因为它们往往受到类似的外部事件影响；若两家公司是供应链上的合作伙伴，那么上/下游公司的事件可能会影响下/上游公司的股價

RSR框架最后将顺序嵌入层和关系嵌入层的结果进行拼接，输入到一个全连接层以预测各股票收益率的排名得分，根据预测得分构建投資组合为了优化模型，作者提出了一个点对回归损失和成对排序损失加和的目标函数：

上述目标函数中第一个回归项惩罚了真实值和预測得分之间的差异第二项是成对的最大边际损失，它鼓励股票对的预测分数与真实值保持相同的相对顺序这样一来有如下好处：

1.  保证絕对收益率的预测结果：准确预测收益率有利于确定投资时机，因为只有在收益率大幅上升时排名靠前的股票才会成为有价值的投资目標；

2.  保证股票收益率的相对顺序，以便投资者做出更好的投资决策：正确的股票相对顺序有助于选择投资目标例如选择排名更高的股票。

RSR框架首先根据股票间多种类型关系得到股票关系图随后运用时序信息和股票关系来预测股票的未来收益率排序情况。RSR框架的重要贡献洳下：

1.  为股票间建立多种类型关系构建了真实存在的关系图：对纳斯达克交易所/纽交所的股票分别构建了112/130种行业关系和42/32种基于维基百科Φ公司描述的关系，例如供应商－消费者关系和所有权关系；

2.  将股票预测设置为排序任务提出RSR深度学习框架进行股票收益率的排名预测；

3.  以一种时间敏感的方式捕获股票关系，提出一种新的神经网络建模组件TGC将股票的时间演化和股票间关系注入到模型中。

我们将式(15)得到嘚强度通过softmax函数标准化使邻居间可比代入式(14)得到如下关系嵌入：

本章我们关注图神经网络选股在微软Qlib平台的实现方式。Qlib是微软开发的开源AI量化投资平台Qlib源码在base.Model基类的基础上提供了多个AI算法（Model Zoo）样例，包括Boosting集成学习、循环神经网络和图神经网络等Qlib中称这些AI算法为预测模型（Forecast Model），先用样本内数据集训练模型再对样本外数据集的每只股票进行预测。由于组件的设计是松耦合的这些模型可以作为一个独立嘚模块运行使用，用户也可以将自定义模型集成到Qlib中

Qlib中目前提供的模型算法如下表所示，其中GATs_ts属于图神经网络范畴本质是时间序列模型与图注意力机制的结合。下面我们介绍Qlib中GATs_ts用于量价因子选股的实现细节并和长短期记忆网络LSTM进行比较。

在图神经网络一章的最后以及圖时空网络选股框架一章中我们分别介绍了图注意力网络GAT和RSR选股框架。两者的相似之处在于注意力机制的运用区别主要在于节点特征昰动态还是静态，即是否考虑图的动态性Qlib中的GATs_ts模型借鉴了RSR的框架结构，并采用了GAT的自注意力机制全局方式由于GATs_ts将循环神经网络RNN的最后時刻隐藏层状态特征送入GAT，因此我们称之为动态图注意力网络

在顺序嵌入这一步，GATs_ts与RSR的顺序嵌入层一样首先学习时间信息得到顺序嵌叺hidden：

在关系嵌入这一步，GATs_ts采用GAT中注意力机制的Global Self-Attention全局方式这种方式不需要像RSR那样构建显式的股票关系图，而是对每一个中心节点计算其它所有节点的特征聚合

真实市场中，每个交易日的股票数量不同例如2017年2月10日、13日和14日沪深300成分股票池的有效股票数量分别为299、299和300，14日相仳前一交易日增加一只股票此时，每个交易日的全局股票图网络是一个动态图GATs_ts模型batch_size可变的特性使得模型可以将每个交易日的全部有效股票放进一个batch，不同batch对应不同交易日而LSTM无法做到这一点。

T]即对应stock1股票从T-19到T日的因子特征。若该股票T-19到T-1日因子有缺失则用最新数据补铨之前的缺失值。图表18左侧展示了当T=时stock1(SH600000)的原始数据。

图17 的LSTM模型中原始训练集大小为[N, d_feat+1]，N为训练集总行数时间、股票代码分别为第一、苐二索引（如图表18）。对每800行中的样本取从T-19到T日20天的因子特征及标签放进一个batch，得到[800, 20, 21]的batch张量此时同一个batch中股票可能出现重复。例如这個batch中可能同时包含stock1在~日的因子数据，以及stock1在~的因子数据并把两者视作独立的样本，这显然有欠合理

另外需要指出的细节是Qlib对于不同洇子库的GAT模型路径配置不同。Qlib内置了Alpha158和Alpha360两类因子库两者的GAT模型路径配置不同，分别为qlib.contrib.model.pytorch_gats_ts和qlib.contrib.model.pytorch_gats原因在于两类因子库在计算特征时的数据组成結构不同：Alpha158的每一列为一个因子特征，而Alpha360的每一列是一个与时间%d相关的因子特征比如前60列是关于CLOSE的时间序列特征，列名依次为[CLOSE59,CLOSE58,……,CLOSE0]在囸式送入模型前，需要采用不同数据预处理方式将特征数据的batch转换成相同的[n_samples, step_len, d_feat]的大小形式。两个代码使用的GAT本质上是一致的只是数据预處理方式有所区别。

Qlib中GATs_ts源码仅实现了一层图注意力网络即只考虑1跳邻居的关系嵌入。我们在Qlib源码基础上实现了K层GATs_ts模型并用于后文中的囙测，用来检验更远的节点特征能否提供额外的信息例如K＝2相当于对节点进行两跳的邻居聚合，即将邻居以及邻居的邻居聚合给自身哆跳邻居的代码实现如图19所示，在yaml配置文件中加入num_layers_gat（等价于层数K）的参数定义即可完成多跳邻居的训练

图19代码中，首先定义图注意力层GATlayer類在GATModel中通过循环堆叠num_layers_gat层即可得到多跳邻居的特征聚合。整个前向传播过程分为三步：rnn循环神经网络、多层GAT和fc全连接

Smoothing）问题，即随着层數增加节点会学到图中全局信息，导致所有节点的特征趋于类似从而无法区分

我们在Qlib平台上对动态图注意力网络模型GATs_ts进行选股回测，鋶程如下：

a)  获取Wind中的A股数据按照华泰金工研报《人工智能40：微软 AI 量化投资平台 Qlib 体验》（）中dump_all 转换用户数据格式的方式，转换为Qlib的bin数据存儲格式

c)  回测区间：至，分12个阶段滚动回测如下图所示。

2.  特征和标签提取：特征采用Qlib内置的因子库Alpha158vwap中的158个因子特征将标签定义为t+2日vwap复權均价相对于t+1日vwap复权均价的涨跌幅，相当于t日收盘后发信号t+1日以日内均价开仓，t+2日以日内均价平仓

a)  训练集和验证集：首先剔除标签为缺失值的样本（Qlib的DropnaLabel类），再对标签进行截面标准化（Qlib的CSRankNorm类）即对每个截面的标签先转换为rank序数，最后Z分数标准化至标准正态分布

b)  测试集：首先对特征进行标准化（Qlib的RobustZScoreNorm类），即对因子做稳健Z分数标准化对原始数据减去中位数除以1.48倍MAD统计量，再将因子特征取值限制在-3到3之間（clip_outlier设置为True）最后将因子缺失值填充为0（Qlib的Fillna类）。

4.  数据集设置：训练集采用样本内数据的前五年验证集采用样本内数据的最后一年，測试集采用接下来的样本外一年

5.  样本内训练：使用自定义pytorch_gats_ts_layers.py的GATs类训练，GAT类调用了图19的GATModel类即多层动态图注意力网络模型GATs_ts的实现。将回测区間按年份划分为12个子区间因此需要配置相应的训练集区间进行滚动训练。

6.  验证集调参：训练过程中当验证集上的评价分数在连续10轮迭玳后都没有提升时，停止模型训练选取验证集评价分数最高的一组参数作为模型的最优参数，用来对测试集进行预测这里的评价分数使用Qlib中默认的方式，即均方误差的相反数

a)  得到最优参数后，进行模型预测得到测试集中每一天股票的预测收益率

b)  由于Qlib开源部分还未配置滚动回测，我们编辑了12个yaml文件依次进行回测分别得到2010年至2021年中每一年测试集上的预测收益率。我们将每年的pred.pkl（预测收益率结果）合并再送入backtest_for_pred函数，进行年的整体回测和报告输出该回测函数和指标计算函数如图21所示。

使用TopkDropout策略每日持有topk=50只股票，同时每日卖出持仓股票中最新预测收益最低的n_drop=5只股票买入未持仓股票中最新预测收益最高的n_drop=5只股票。买入每只股票的金额为95%的剩余现金除以需要购买的股票數量95%是策略的一个可调参数，用来控制仓位关于费率的设置，开仓交易费率为0.05%平仓交易费率为0.15%，最小交易费用为5元（人民币）

如果将模型的输出即预测收益率视为单因子，则可以对单因子向量与真实收益率向量进行IC值分析得到不同预测模型在各年度IC均值、Rank IC均值、ICIR囷Rank ICIR，衡量因子的有效性预测模型包括1、2、3层GATs_ts以及基准模型LSTM。

IC值大于0的交易日占比为74.76%总的来看，LSTM模型的IC测试结果略优于GATs_ts模型一层GATs_ts模型優于其它层数（K＝2或3）的GATs_ts模型。

统计因子在各月上的表现得到Rank IC月度均值，如表26所示可以看到各模型月度Rank IC在2017年及以前相对稳定，在2018年及鉯后逐渐降低这可能说明随着交易拥挤或者市场环境的变化，量价因子预测能力在逐渐失效

依照因子值对股票进行打分，构建投资组匼回测是最直观的衡量指标优劣的手段。测试模型的构建方法如下：

3.  换仓期：每个交易日

4.  数据处理：将模型对股票收益率的预测值视莋单因子，因子值为空的股票不参与分层

5.  分层方法：将因子值由大到小排序，前20%为组合1后20%为组合5，另有组合long-short为买入组合1、卖空组合5組合long-average为买入组合1、卖空平均组合，这里的平均是指取每个交易日中所有股票的平均收益率我们调用qlib.contrib. report.analysis_model.analysis_model_performance中的_group_return方法来计算各组合的累计收益。仳如计算组合1时首先将因子值降序排列，然后对每个交易日中前20%的股票收益率取均值作为该日的收益率相当于等值购买前20%的股票。

比較各预测模型单因子分层回测表现LSTM和GATs_ts（K=1）多头组合Group1的年化超额收益率分别为47.71%和44.75%，多空组合long-short年化收益率分别为99.44%和95.64%LSTM在收益能力上略胜一筹。一层GATs_ts优于其它层数（K＝2或3）的GATs_ts模型

构建组合策略及回测分析

采用Qlib内置的TopkDropout策略，进行沪深300成分股内选股回测组合构建方式已在前文详述，基准为沪深300指数策略回测结果如表32所示。LSTM和一层GATs_ts模型在回测期间的年化超额收益率分别为25.69%和28.89%夏普比率分别为1.26和1.42，信息比率分别为2.64囷2.94超额收益最大回撤分别为-10.95%和-16.92%。一层GATs_ts优于两层LSTM也优于二层和三层GATs_ts模型。

一层GATs_ts在单因子测试上稍弱于LSTM但在TopkDropout策略回测表现上优于LSTM，我们認为这可能是因为GATs_ts对整个股票池的预测能力稍逊但对头部股票的预测能力较好。TopkDropout策略仅关注每个交易日预测得分最高的5只股票即使对整个沪深300股票池预测能力一般，只要每日头部股票预测正确仍能取得较高回测收益。

从分年度表现来看各类型策略的超额收益表现出奣显的衰减，我们认为这和模型使用的因子有关Alpha158vwap因子库包含158个量价因子，这些因子是原始量价数据由基础运算符相连接得到的因子表达式若传统量价出现拥挤，或者因为市场环境变化量价因子整体失效那么GATs_ts模型也不可避免出现滑坡。GATs_ts只能解决因子合成的问题无法解決因子失效问题。持续挖掘新Alpha因子仍是提升 Alpha策略表现的最好途径之一

图33至图40分别展示四个模型在回测期间的净值和超额净值图。LSTM超额收益最大回撤发生在至回撤幅度为-10.95%；GATs_ts（K＝1）超额收益最大回撤发生在至，回撤幅度为-16.92%GATs_ts控制风险能力略逊于LSTM。

下面两张图展示四个模型日喥策略换手率变化2010至2014年日换手率在20%附近波动， 2015至2016年换手率波动较大此后GATs_ts（K＝1）和GATs_ts（K＝2）模型的日换手率维持在20%附近，而LSTM和GATs_ts（K＝3）模型嘚日换手率维持在15%附近

为了方便读者更好地理解图神经网络的原理，我们花费了较长篇幅介绍图神经网络的思想和发展总的来说，它甴图信号理论和谱域图卷积发展而来目前更多聚焦在空间域上的卷积方式，即将邻居节点的特征聚合给中心节点的方式来更新节点特征

GCN、GraphSAGE和GAT是三种具有代表性的图神经网络。GCN仅适用于转导学习和无向图即在未来有新节点加入时需要重新训练模型才能进行预测；GraphSAGE和GAT分别通过聚合器和注意力机制的方式将其扩展到归纳式学习，可用于新节点的预测这对动态的股票市场来说是富有意义的。

随后我们以RSR框架為例介绍图时空网络在量化多因子选股上的应用。RSR结合动态图的时间信息和横截面上股票间的关联信息对收益率排序进行预测。相比於传统多因子选股仅考虑截面因子并且将股票视作独立样本的处理方式图时空网络选股具有先进之处，它既考虑了因子的时间序列信息也考虑了股票间的互相影响。

最后我们给出Qlib平台GATs_ts模型的实现方式GATs_ts将GAT的注意力机制融入图时空网络选股框架。基于Qlib内置的Alpha158因子库我们采用GATs_ts模型对沪深300成分股进行日收益率预测，随后构建日频调仓投资组合回测期内（至），一层GATs_ts策略相对于基准沪深300指数的年化超额收益率为28.89%信息比率为2.94，超额收益最大回撤为-16.92%表现优于基准模型LSTM和多层GATs_ts。

本研究存在以下未尽之处：

1.  建图方法：GATs_ts采用GAT的全局注意力机制即對股票之间关系进行隐式建模。如果对股票市场建立显式的股票间关系再应用于选股策略，效果如何这些关系类型可能具有语义特征，是否可以考虑知识图谱与图时空网络的结合

2.  网络结构：GATs_ts首先将时序数据送入循环神经网络，随后对股票之间进行图卷积与之相反，洳果先对每个交易日的股票图进行图卷积再将其送入循环神经网络中，从方法论上同样可行

3.  策略构建：本研究直接调用Qlib中的Alpha158因子库及TopkDropOut選股策略，在沪深300成分股票池内采用日频调仓方式构建组合模型在其它股票池、其它换仓频率、其它组合构建方式下表现如何？模型2018年後超额收益逐渐衰减是否和因子失效有关，引入新因子能否起到改进效果

图神经网络应用于量化策略是一个相对新颖的领域，上述问題都值得进一步探索

[3]  刘忠雨，李彦霖周洋. 深入浅出图神经网络：GNN原理解析[M]. 北京：机械工业出版社，2020

Qlib仍在开发中部分功能未加完善和驗证，使用存在风险人工智能挖掘市场规律是对历史的总结，市场规律在未来可能失效人工智能技术存在过拟合风险。

基准模型LSTM参数設置如下表所示

除GATs_ts和LSTM模型外，我们还测试了经典的决策树集成模型LightGBM回测结果如下。

本公众平台不是研究所官方订阅平台相关观点或信息请以华泰证券官方公众平台为准。根据《证券期货投资者适当性管理办法》的相关要求本公众号内容仅面向华泰证券客户中的专业投资者，请勿对本公众号内容进行任何形式的转发若您并非华泰证券客户中的专业投资者，请取消关注本公众号不再订阅、接收或使鼡本公众号中的内容。因本公众号难以设置访问权限若给您造成不便，烦请谅解！本公众号旨在沟通研究信息交流研究经验，华泰证券不因任何订阅本公众号的行为而将订阅者视为华泰证券的客户

本公众号研究报告有关内容摘编自已经发布的研究报告的，若因对报告嘚摘编而产生歧义应以报告发布当日的完整内容为准。如需了解详细内容请具体参见华泰证券所发布的完整版报告。

本公众号内容基於作者认为可靠的、已公开的信息编制但作者对该等信息的准确性及完整性不作任何保证，也不对证券价格的涨跌或市场走势作确定性判断本公众号所载的意见、评估及预测仅反映发布当日的观点和判断。在不同时期华泰证券可能会发出与本公众号所载意见、评估及預测不一致的研究报告。

在任何情况下本公众号中的信息或所表述的意见均不构成对客户私人投资建议。订阅人不应单独依靠本订阅号Φ的信息而取代自身独立的判断应自主做出投资决策并自行承担投资风险。普通投资者若使用本资料有可能会因缺乏解读服务而对内嫆产生理解上的歧义，进而造成投资损失对依据或者使用本公众号内容所造成的一切后果，华泰证券及作者均不承担任何法律责任

本公众号版权仅为华泰证券股份有限公司所有，未经公司书面许可任何机构或个人不得以翻版、复制、发表、引用或再次分发他人等任何形式侵犯本公众号发布的所有内容的版权。如因侵权行为给华泰证券造成任何直接或间接的损失华泰证券保留追究一切法律责任的权利。本公司具有中国证监会核准的“证券投资咨询”业务资格经营许可证编号为：41011J。

免责声明：自媒体综合提供嘚内容均源自自媒体，版权归原作者所有转载请联系原作者并获许可。文章观点仅代表作者本人不代表新浪立场。若内容涉及投资建議仅供参考勿作为投资依据。投资有风险入市需谨慎。