优化金融市场预测：因果驱动的特征筛选

作者：老余捞鱼

原创不易，转载请标明出处及原作者。

写在前面的话：这篇论文介绍了一个名为FinSen的新型金融数据集，它通过结合197个国家的经济金融新闻文章和股市数据，提供了一个时间跨度为15年的全面数据视角。利用这个数据集，研究者们采用因果验证的情感分析和长短期记忆（LSTM）模型来增强市场预测的准确性和可靠性。他们提出了一种新的损失函数——Focal Calibration Loss，显著降低了预期校准误差（ECE），使得预测结果与实际市场表现更加吻合，这对于金融领域中对预测准确性要求极高的投资决策具有重要意义。

1. 引言

预测股市波动性对于投资策略、经济预测和风险管理实践的基础性作用。作者分析了市场的非线性和固有波动性，以及由于市场对最新事件和情绪的敏感性导致的预测准确性的挑战。此外，提到了传统模型主要依赖历史数据，在捕捉市场波动的多维动态方面的不足。最后，提出了一个关键的研究问题：新闻事件中的情感是否能够作为市场波动的可靠预测因素，并指出了公共数据集在提供精确时间信息方面的缺失，这增加了寻找对市场波动有重大影响的未知因素的复杂性。

2. 相关工作

2.1 与股票市场预测相关的情绪数据集

• Financial PhraseBank：包含金融新闻中的句子，分为正面、负面和中性情绪，专为金融语境设计。
• Reuters-21578 News Dataset：作为文本分类任务的基础基准，包含1987年路透社新闻专线的文档。
• StockTwits Dataset：包括来自StockTwits平台的消息，用户标记了情绪，提供了对股票的众包情绪分析。
• TweetFinSent：针对股票市场领域设计，专注于“迷因股票”的情绪分析数据集。
• PsychSignal Dataset：从多个来源收集数据，包括Twitter、StockTwits和各种社交媒体及在线平台上的市场情绪。
• AG News：常用于文本分类任务，包含来自AG的新闻文章，分为世界、体育、商业和科学四个主要主题。

2.2 与股票市场预测相关的方法

• 将情绪分析与机器学习技术相结合，已成为股票市场预测领域一个有前景的研究方向。
• LSTM模型结合注意力机制在预测准确性方面表现出优越性，但在提供可靠的置信估计方面存在不足。
• 先前的研究显示了各种技术在金融预测中的有效性，但它们忽略了模型的可解释性和可信度，增加了实际市场中投资失败的风险。

2.3 神经网络模型校准技术

• 模型校准的初步工作，如Platt Scaling和Isotonic Regression，主要关注调整已训练模型的输出。
• 后来的损失函数修改，如Focal Loss，通过更多关注难以分类的示例来修改标准交叉熵损失，但没有直接解决预测概率反映事件真实可能性的准确性问题。
• 各种网络校准技术通过复杂的度量标准来衡量校准质量，如预期校准误差（ECE）和Brier Score。

3. 数据和方法论

3.1 FinSen数据收集与预处理

• 数值数据：使用Yahoo Finance API收集了从2020年1月至2023年6月的标准普尔500指数（S&P 500）的OHLCV数据，包括开盘、最高、最低、收盘和交易量，用于提取价格动量和波动性。
• 文本数据：通过高级网络抓取技术从Trading Economics网站收集新闻标题和内容，该网站提供来自196个国家的超过2000万个指标，包括汇率、股票、指数、债券和商品价格的历史和当前数据。
• 情绪分析：使用FinBERT模型对预处理后的金融新闻文章进行情绪分析和注释，将定性的新闻内容转化为定量的情绪分数。

3.2 提出的方法

• 将情绪分数与LSTM模型结合用于波动性预测：通过Granger因果检验确定市场情绪分数（X）与标准普尔500指数波动性（y）之间的因果关系，并将情绪分析整合到LSTM模型中以预测波动性。

• 将因果验证特征嵌入DAN 3模型进行文本分类：使用Deep Averaging Network（DAN 3）处理文本数据，首先将标记索引转换为密集嵌入，然后对这些嵌入进行平均，形成每个文本实例的固定大小向量表示。
• Focal Calibration Loss：设计了一种新的损失函数，旨在解决文本分类器训练期间的类别不平衡和模型校准问题，通过结合Focal Loss和校准误差，引入正则化参数λ来平衡关注难例和确保模型预测适当校准之间的权衡。

4. 实验和结果

4.1 建立因果关系：情绪分数对市场波动性的影响

• 通过ADF检验验证了标准普尔500指数波动性和新闻情绪分数的平稳性，以确定它们适合进行格兰杰因果关系检验。

• 采用回归模型预测标准普尔500指数的百分比变化（记为∆SP500），基于金融新闻文章的情绪分数。
• 模型包括最多30天的情绪分数滞后，使用F检验来确定情绪分数是否“格兰杰导致”标准普尔500指数的波动性。
• 结果显示，在1、3、7、14和30天的滞后下，情绪分数“格兰杰导致”∆SP500，但∆SP500并未“格兰杰导致”情绪分数，表明情绪分数确实“格兰杰导致”波动性。

4.2 利用因果验证的情绪分数增强LSTM模型

• 实验设置和程序从收集新闻文章和历史股票数据开始，首先在每篇新闻文章中对每个句子进行情绪注释。
• 使用FinBERT预训练模型为每个句子分配情绪分数，然后将这些分数聚合以计算每日的总体情绪分数。
• 准备好市场波动性和聚合的情绪分数后，将它们输入到提出的LSTM模型。

• 模型通过一个初始层接受输入，配置为处理数据序列，输入形状指定为时间步和维度，时间步设置为1，以单时间步增量处理数据，维度从1扩展到2，以容纳波动性和情绪分数作为特征。
• 模型编译使用Adam优化器和均方误差（MSE）作为损失函数，训练进行100个周期，批量大小为32。
• 训练完成后，测试数据集生成波动性预测，并与没有情绪分数的基线模型进行比较。

4.3 校准：嵌入增强的DAN 3模型

• 使用20 Newsgroups、Financial PhraseBank、AG News和FinSen数据集训练全局池化CNN网络和DAN 3模型。
• 数据集经过预处理，加载文本及其相应的标签，使用基本的英语分词器对文本进行分词，并从分词文本中构建词汇表。

• 在实现中，DAN 3文本分类模型中使用了GloVe（Global Vectors for Word Representation）嵌入。
• 文本通过向量化和填充到统一长度来适应不同长度的文本数据，确保每个输入模型的大小相同。
• 模型在这些数据集上使用交叉熵（CE）、AdaFocal、DualFocal和Focal Calibration Loss进行训练，使用20个周期，并用预期校准误差（ECE）和可靠性图进行测量。

5. 结论

本文通过确立情绪分数与市场波动性之间的因果关系，并将这些经过因果验证的特征整合到LSTM模型中，实现了更细致和可靠的市场预测。FinSen数据集在文本分类任务的校准方面表现较好，特别是在应用Focal Calibration Loss后，DAN 3模型在预期校准误差（ECE）上显著降低至3.34%，表明模型不仅准确度高，其概率预测也与实际结果紧密对齐，非常适合用于金融决策过程。

---

本文内容仅仅是技术探讨和学习，并不构成任何投资建议。

转发请注明原作者和出处。