4.2【LLaMA-Factory实战】金融财报分析系统：从数据到部署的全流程实践

news2025/5/10 20:24:49

【LLaMA-Factory实战】金融财报分析系统：从数据到部署的全流程实践

一、引言

在金融领域，财报分析是投资决策的核心环节。传统分析方法面临信息提取效率低、风险识别不全面等挑战。本文基于LLaMA-Factory框架，详细介绍如何构建一个专业的金融财报分析系统，包含数据处理、模型优化、部署监控的完整流程，并附代码与命令行实现。

二、金融财报分析系统架构图

三、数据处理：构建金融领域知识体系

1. 财报文本解析与指标提取

from llama_finance.data import FinancialReportParser

# 初始化解析器
parser = FinancialReportParser()

# 解析PDF财报
reports = parser.parse_pdf_directory("financial_reports/")

# 提取关键财务指标
financial_metrics = parser.extract_metrics(reports)

# 保存结构化数据
with open("financial_metrics.json", "w") as f:
    json.dump(financial_metrics, f, indent=2)

2. 风险提示信息抽取

from llama_finance.risk import RiskExtractor

# 初始化风险提取器
extractor = RiskExtractor(model_name="finance-llama-risk")

# 提取风险信息
risk_info = extractor.extract(reports)

# 构建风险知识库
risk_knowledge_base = {
    "company": reports["company"],
    "year": reports["year"],
    "risks": risk_info
}

# 保存风险知识库
with open("risk_knowledge_base.json", "w") as f:
    json.dump(risk_knowledge_base, f)

3. 金融术语知识图谱构建

from llama_finance.knowledge import KnowledgeGraphBuilder

# 初始化知识图谱构建器
builder = KnowledgeGraphBuilder()

# 构建知识图谱
graph = builder.build(financial_metrics, risk_knowledge_base)

# 保存知识图谱
graph.save("financial_knowledge_graph.kg")

四、模型优化：定制金融领域提示模板

1. 定义金融专用提示模板

from llamafactory.templates import register_template

# 注册财务分析模板
register_template(
    name="financial_analysis",
    prompt_format="""
    公司名称：{company}
    财务周期：{period}
    关键指标：{metrics}
    风险提示：{risks}
    
    请分析：
    1. 公司财务健康状况
    2. 主要风险点
    3. 未来增长潜力
    4. 投资建议""",
    response_key="analysis"
)

2. 训练配置文件（YAML）

# config/finance_lora.yaml
model:
  name_or_path: qwen/Qwen2.5-14B-Instruct
  finetuning_type: lora
  lora_rank: 32
  lora_alpha: 64
  target_modules: ["q_proj", "v_proj"]

data:
  dataset: financial_analysis_dataset
  template: financial_analysis  # 使用自定义金融模板
  max_length: 4096

train:
  learning_rate: 1e-4
  num_train_epochs: 8
  gradient_accumulation_steps: 8
  fp16: true

evaluation:
  eval_steps: 200
  metric_for_best_model: rouge

3. 多GPU训练命令

# 使用4卡A10训练
torchrun --nproc_per_node=4 llamafactory-cli train config/finance_lora.yaml

五、部署方案：高性能推理与监控

1. 使用vLLM引擎部署

# server.py
from vllm import LLM, SamplingParams
from fastapi import FastAPI, HTTPException
from pydantic import BaseModel
import uvicorn

app = FastAPI(title="金融财报分析API")

# 加载优化后的模型
llm = LLM(
    model="output/finance_model",
    quantization="q4_k_m",  # 使用INT4量化
    gpu_memory_utilization=0.9
)

class AnalysisRequest(BaseModel):
    company: str
    period: str
    metrics: str
    risks: str

@app.post("/analyze")
async def analyze(request: AnalysisRequest):
    # 构建提示
    prompt = f"""
    公司名称：{request.company}
    财务周期：{request.period}
    关键指标：{request.metrics}
    风险提示：{request.risks}
    
    请分析：
    1. 公司财务健康状况
    2. 主要风险点
    3. 未来增长潜力
    4. 投资建议"""
    
    # 生成分析
    sampling_params = SamplingParams(temperature=0.1, max_tokens=2048)
    outputs = llm.generate(prompt, sampling_params)
    
    return {"analysis": outputs[0].outputs[0].text}

2. 批量处理脚本

# batch_process.py
import pandas as pd
from vllm import LLM, SamplingParams

# 加载模型
llm = LLM(model="output/finance_model", quantization="q4_k_m")
sampling_params = SamplingParams(temperature=0.1, max_tokens=2048)

# 加载待处理数据
df = pd.read_csv("batch_input.csv")

# 批量处理
results = []
for _, row in df.iterrows():
    prompt = f"""
    公司名称：{row['company']}
    财务周期：{row['period']}
    关键指标：{row['metrics']}
    风险提示：{row['risks']}
    
    请分析：
    1. 公司财务健康状况
    2. 主要风险点
    3. 未来增长潜力
    4. 投资建议"""
    
    outputs = llm.generate(prompt, sampling_params)
    results.append(outputs[0].outputs[0].text)

# 保存结果
df['analysis'] = results
df.to_csv("batch_output.csv", index=False)

3. 启动服务与监控

# 启动API服务
uvicorn server:app --host 0.0.0.0 --port 8000 --workers 4

# 启动监控仪表盘
llamafactory-cli monitor --model output/finance_model --port 8080

六、性能测试与效果验证

1. 推理性能测试

# 测试单请求响应时间
llamafactory-cli benchmark \
  --model output/finance_model \
  --prompt "data/sample_prompt.txt" \
  --seq_len 2048 \
  --batch_size 1

2. 批量处理吞吐量测试

# 测试批量处理性能
llamafactory-cli benchmark \
  --model output/finance_model \
  --prompt "data/sample_prompt.txt" \
  --seq_len 2048 \
  --batch_size 32 \
  --concurrency 8

3. 分析质量评估

from llama_finance.evaluation import FinancialEvaluator

# 初始化评估器
evaluator = FinancialEvaluator(
    test_dataset="financial_test_set.json",
    metrics=["rouge", "bleu", "factuality"]
)

# 评估模型
results = evaluator.evaluate_model("output/finance_model")

print(f"财务分析ROUGE分数: {results['rouge']:.4f}")
print(f"事实准确性: {results['factuality']:.4f}")