code/generate_sft_dataset.py

#!/usr/bin/env python3
"""
金融领域 SFT 微调数据集生成工具
生成 3000+ 条 Alpaca 格式（instruction / input / output）的中文金融问答对
"""

import json
import random
import hashlib

random.seed(42)

# ============ 12 个金融子领域的知识种子库 ============

KNOWLEDGE_BASE = {
    "基础金融概念": [
        {"topic": "货币", "content": "货币是充当一般等价物的特殊商品，具有价值尺度、流通手段、支付手段、贮藏手段和世界货币五大职能。货币形式经历了实物货币、金属货币、纸币和电子货币的演变。"},
        {"topic": "利率", "content": "利率是资金的价格，表示一定时期内利息与本金的比率。基准利率是金融市场上具有普遍参照作用的利率，央行通过调整基准利率来调节经济。"},
        {"topic": "通货膨胀", "content": "通货膨胀是指一般物价水平持续、普遍上涨的经济现象。温和通胀（2-3%）通常有利于经济增长，恶性通胀会严重破坏经济秩序。衡量指标有CPI和PPI。"},
        {"topic": "通货紧缩", "content": "通货紧缩是与通胀相反的经济现象，表现为物价持续下跌、货币购买力上升。长期通缩会导致消费推迟、企业利润下降、失业增加，比通胀更难治理。"},
        {"topic": "GDP", "content": "国内生产总值（GDP）是衡量一国经济产出的核心指标，指一定时期内一国境内生产的全部最终产品和服务的市场价值总和。GDP增速是判断经济景气程度的重要依据。"},
        {"topic": "CPI", "content": "消费者物价指数（CPI）衡量一篮子消费品和服务的价格水平变化，是衡量通货膨胀的核心指标。CPI上涨过快意味着生活成本上升，央行可能加息应对。"},
        {"topic": "PPI", "content": "生产者物价指数（PPI）衡量工业企业产品出厂价格变动趋势，是CPI的先行指标。PPI上涨通常预示未来CPI可能上升，因为生产成本会向消费端传导。"},
        {"topic": "M2", "content": "M2是广义货币供应量，包括流通中的现金、活期存款、定期存款和储蓄存款。M2增速反映货币政策的松紧程度，增速过快可能引发通胀，过慢则可能抑制经济增长。"},
        {"topic": "LPR", "content": "贷款市场报价利率（LPR）是商业银行对其最优质客户执行的贷款利率，由18家报价行每月报价形成。LPR分为1年期和5年期以上两个品种，是贷款利率定价的基准锚。"},
        {"topic": "准备金率", "content": "存款准备金率是金融机构按规定向央行缴存的存款准备金占其存款总额的比例。央行通过调整准备金率来调节货币供应量——降准释放流动性，升准则收紧货币。"},
        {"topic": "公开市场操作", "content": "公开市场操作是央行在金融市场上买卖证券以调节货币供应量的政策工具，包括逆回购（投放流动性）和正回购（回收流动性），是最常用的货币政策工具之一。"},
        {"topic": "汇率", "content": "汇率是一国货币兑换另一国货币的比率。主要分为直接标价法和间接标价法。汇率变动受国际收支、利率差异、通货膨胀、经济增长等多因素影响。"},
        {"topic": "人民币国际化", "content": "人民币国际化是指人民币在国际经济活动中行使计价、结算和储备功能的过程。包括跨境贸易人民币结算、人民币离岸市场建设、与多国签署货币互换协议等。"},
        {"topic": "负利率", "content": "负利率是指名义利率低于零的货币政策状态，意味着存款人需向银行支付保管费。欧洲央行和日本央行曾实施负利率，旨在刺激银行放贷和经济增长。"},
        {"topic": "量化宽松", "content": "量化宽松（QE）是央行在名义利率接近零时，通过大规模购买国债等资产向市场注入流动性的非常规货币政策。美联储在2008年和2020年曾大规模实施QE。"},
        {"topic": "流动性陷阱", "content": "流动性陷阱是指利率已降至极低水平，但人们仍预期利率会上升而愿意持有现金，导致货币政策失效的经济状态。凯恩斯最早提出这一概念。"},
        {"topic": "菲利普斯曲线", "content": "菲利普斯曲线描述了通胀与失业之间的此消彼长关系——短期内通胀上升通常伴随失业下降。但长期中，自然失业率理论认为二者不存在替代关系。"},
        {"topic": "货币乘数", "content": "货币乘数是指基础货币每变动一个单位所引起的货币供应量变动的倍数。其大小取决于法定准备金率、超额准备金率和现金漏损率等因素。"},
        {"topic": "购买力平价", "content": "购买力平价（PPP）理论认为，两国货币的均衡汇率应等于两国物价水平的比率。巨无霸指数是PPP理论的一个生动应用，用同一商品在各国的价格比较汇率合理性。"},
        {"topic": "格雷欣法则", "content": '格雷欣法则即"劣币驱逐良币"定律——当两种货币同时流通时，人们会储藏良币（足值货币）而使用劣币（不足值货币）交易，导致良币退出流通。'},
        {"topic": "费雪方程式", "content": "费雪方程式 MV=PT 描述了货币数量与物价水平的关系，其中M为货币供应量，V为货币流通速度，P为物价水平，T为商品交易总量。"},
        {"topic": "金本位制", "content": "金本位制是以黄金作为本位货币的货币制度，纸币可自由兑换黄金。二战后布雷顿森林体系确立了美元与黄金挂钩的体制，该体系于1971年崩溃。"},
        {"topic": "数字货币", "content": "数字货币包括央行数字货币（CBDC）和私人数字货币。中国数字人民币（e-CNY）是全球最大的CBDC试点项目，已覆盖零售支付、工资发放等多个场景。"},
        {"topic": "基尼系数", "content": "基尼系数衡量收入或财富分配的不平等程度，取值在0到1之间。0代表绝对平等，1代表绝对不平等。国际警戒线通常设为0.4。"},
    ],
    "股票投资": [
        {"topic": "市盈率（PE）", "content": "市盈率是股价与每股收益的比率，分为静态市盈率、滚动市盈率和动态市盈率。高PE可能意味着市场对公司未来增长有较高预期，但也可能意味着估值过高。"},
        {"topic": "市净率（PB）", "content": "市净率是股价与每股净资产的比率，常用于评估银行、保险等重资产行业的估值。PB小于1通常被视为破净，可能表明资产被低估，但也可能意味着盈利能力差。"},
        {"topic": "K线图", "content": "K线图源于日本，是股票技术分析的常用工具。每根K线包含开盘价、收盘价、最高价和最低价四个信息。阳线表示收盘价高于开盘价，阴线相反。"},
        {"topic": "均线系统", "content": "移动平均线（MA）是平滑股价波动的趋势指标。常用均线有5日、10日、20日、60日和250日线。均线金叉（短期上穿长期）为买入信号，死叉为卖出信号。"},
        {"topic": "MACD指标", "content": "MACD由快慢均线和柱状图组成，是最常用的趋势跟踪指标之一。当快线（DIF）上穿慢线（DEA）形成金叉时是买入信号，下穿形成死叉时是卖出信号。"},
        {"topic": "KDJ指标", "content": "KDJ是随机指标，通过计算一定周期内的最高价和最低价来反映价格走势的强弱。K值和D值在20以下为超卖区域，80以上为超买区域。"},
        {"topic": "RSI指标", "content": "相对强弱指数（RSI）衡量股价上涨和下跌的力量对比。RSI取值在0-100之间，通常以70为超买线、30为超卖线。短期RSI更敏感，长期RSI更平滑。"},
        {"topic": "布林带", "content": "布林带由中轨（20日均线）和上下两条标准差轨道组成。股价触碰上轨时为超买，触碰下轨时为超卖。布林带收窄预示变盘，放宽则预示趋势确立。"},
        {"topic": "量价关系", "content": "成交量是股价变动的先行指标。价涨量增是健康的上涨形态，价涨量缩可能暗示上涨动力不足。放量突破重要阻力位是强烈的买入信号。"},
        {"topic": "技术分析", "content": "技术分析通过研究历史价格和成交量数据预测未来走势，三大假设是市场行为包容一切、价格沿趋势运动、历史会重演。常用工具包括K线、形态、指标等。"},
        {"topic": "基本面分析", "content": "基本面分析从宏观经济、行业周期和公司财务三个层面评估股票的内在价值。核心包括行业景气度、公司竞争优势、财务健康状况和管理层能力。"},
        {"topic": "股息率", "content": "股息率是每股股息与股价的比率，是衡量股票现金回报的重要指标。高股息率股票通常来自成熟行业的龙头企业，适合稳健型投资者。"},
        {"topic": "每股收益（EPS）", "content": "每股收益是公司净利润除以总股本的数值，是衡量公司盈利能力的关键指标。EPS的持续增长通常推动股价上涨，EPS下滑可能引发股价下跌。"},
        {"topic": "净资产收益率（ROE）", "content": "ROE是净利润与净资产的比率，反映公司为股东创造价值的能力。巴菲特特别注重ROE指标，长期ROE持续高于15%的公司通常具有持续的竞争优势。"},
        {"topic": "换手率", "content": "换手率是一定时间内股票转手买卖的频率，反映市场交投活跃程度。高换手率意味着流动性好但也可能伴随投机氛围，低换手率可能说明关注度不足。"},
        {"topic": "指数基金定投", "content": "指数基金定投是定期定额投资指数基金的方式，通过摊平成本来降低择时风险。历史数据表明，长期定投宽基指数（如沪深300）的年化收益在8-12%之间。"},
        {"topic": "融资融券", "content": "融资融券是证券公司向投资者出借资金（融资买入）或证券（融券卖出）的业务。融资增加杠杆放大收益和风险，融券可以用于做空和对冲。"},
        {"topic": "北向资金", "content": '北向资金是通过沪深港通机制从香港流入A股市场的资金，被市场视为"聪明钱"。北向资金大幅净流入通常提振市场信心，净流出则可能引发调整。'},
        {"topic": "股票分红", "content": "股票分红是公司将净利润的一部分分配给股东的方式，分为现金分红和送转股。分红除息日股价会相应调整，但优质公司的填权行情可以弥补除息损失。"},
        {"topic": "科创板", "content": "科创板设立于2019年，服务于符合国家战略、突破关键核心技术的高科技企业。实行注册制发行，允许未盈利企业上市，涨跌幅限制为20%。"},
        {"topic": "北交所", "content": "北京证券交易所成立于2021年，服务于创新型中小企业，是继沪深交易所之后的中国第三家证券交易所。北交所上市公司来自新三板精选层。"},
        {"topic": "打新股", "content": "打新股是申购新发行股票的行为。A股市场打新中签后通常有显著涨幅，但需注意破发风险。2023年注册制全面实施后，新股定价更市场化，破发概率增加。"},
        {"topic": "股票回购", "content": "股票回购是公司利用自有资金在二级市场购买自身股票的行为。回购通常被视为公司认为股价被低估的信号，可以减少流通股本、提高每股收益。"},
        {"topic": "大股东减持", "content": "大股东减持是指持股5%以上的股东出售所持股票。减持不一定意味着公司基本面恶化，但大量集中减持通常对股价形成压力，需关注减持原因。"},
        {"topic": "量化交易", "content": "量化交易利用数学模型和计算机程序进行自动化交易，包括趋势跟踪、均值回归、统计套利等策略。量化交易在A股市场的成交占比已超过30%。"},
    ],
    "基金理财": [
        {"topic": "货币基金", "content": "货币基金主要投资于短期货币工具如国债、央票、银行存单等，风险极低、流动性好，七日年化收益率通常在1.5-3%之间。余额宝就是典型代表。"},
        {"topic": "债券基金", "content": "债券基金主要投资于国债、金融债、企业债等固定收益工具，风险和收益介于货币基金和股票基金之间。可分为纯债基金、一级债基和二级债基。"},
        {"topic": "股票基金", "content": "股票基金将80%以上资产投资于股票，风险和收益均较高。按投资风格可分为价值型、成长型和平衡型，按管理方式可分为主动型和被动型。"},
        {"topic": "指数基金", "content": "指数基金以复制某个指数（如沪深300、中证500）为目标，管理费率低（通常0.5-1.5%），不受基金经理主观判断影响。巴菲特多次推荐普通投资者购买指数基金。"},
        {"topic": "ETF", "content": "交易所交易基金（ETF）是可以在证券交易所像股票一样买卖的指数基金，兼具开放式基金和封闭式基金的优点，交易灵活、费用低廉、持仓透明。"},
        {"topic": "基金定投", "content": "基金定投是定期定额投资基金的方式，核心优势是摊平成本、降低择时风险。即使在市场高点开始定投，长期来看也能获得市场平均收益。"},
        {"topic": "基金净值", "content": "基金净值是每份基金的价值，分为单位净值和累计净值。单位净值是基金资产净值除以总份额，累计净值加上历史分红再投资的部分。"},
        {"topic": "基金费率", "content": "基金费率包括申购费、赎回费、管理费和托管费。申购费有前端和后端两种收费模式，C类基金不收申购费但收销售服务费，适合短期持有。"},
        {"topic": "场内基金与场外基金", "content": "场内基金在证券交易所交易，交易方式和股票一样，实时定价；场外基金通过基金公司或代销机构申购赎回，按当日收盘净值成交。"},
        {"topic": "混合基金", "content": "混合基金同时投资股票和债券，股债比例可在一定范围内调整。偏股型混合基金股票仓位较高，偏债型则债券仓位较高，灵活配置型则可大幅调整。"},
        {"topic": "FOF基金", "content": "基金中的基金（FOF）以其他基金为投资标的，通过一次投资实现多只基金的配置，实现二次分散风险。FOF适合没有时间做基金研究的投资者。"},
        {"topic": "QDII基金", "content": "QDII基金允许境内投资者投资海外市场，可投资港股、美股、欧洲市场等。QDII帮助投资者实现全球化资产配置，但需注意汇率风险。"},
        {"topic": "REITs基金", "content": "房地产投资信托基金（REITs）投资于基础设施项目如高速公路、产业园区、仓储物流等，以运营收益作为主要分红来源。公募REITs在A股市场上市交易。"},
        {"topic": "基金评级", "content": "基金评级由晨星、银河、招商等专业机构发布，通常采用五星评级制。评级基于基金的历史风险和收益表现，但历史业绩不代表未来表现。"},
        {"topic": "基金转换", "content": "基金转换是投资者将持有的一只基金份额转换为同公司另一只基金份额的操作，比赎回再申购更高效、费用更低，通常T+1即可完成。"},
        {"topic": "基金分红方式", "content": "基金分红方式有现金分红和红利再投资两种。现金分红直接获得现金，适合需要现金流的投资者；红利再投资自动转换为基金份额，适合长期投资。"},
        {"topic": "基金清盘", "content": "基金清盘是指基金终止运作并进行资产清算。连续60日规模低于5000万元或持有人数低于200人可能触发清盘。清盘时投资者按净值获得现金。"},
        {"topic": "开放式基金与封闭式基金", "content": "开放式基金份额可变，投资者可随时申购赎回；封闭式基金在存续期内份额固定，只能在二级市场交易。开放式基金流动性更好，封闭式基金可能有折价交易。"},
        {"topic": "基金持仓披露", "content": "基金需定期披露持仓信息：季报披露前十大持仓，半年报和年报披露全部持仓。通过持仓分析可了解基金经理的投资风格和策略变化。"},
        {"topic": "基金经理", "content": "基金经理是负责基金投资决策的专业人士，其从业经验、历史业绩和投资理念是选择基金的重要参考。管理规模过大可能增加调仓难度。"},
        {"topic": "量化基金", "content": "量化基金依靠数学模型和计算机算法进行投资决策，常见的量化策略包括多因子选股、统计套利和事件驱动。量化基金交易频率通常较高。"},
        {"topic": "Smart Beta基金", "content": "Smart Beta基金在传统指数基金基础上，通过红利、低波、价值、动量等因子进行加权，期望获得超越传统市值加权指数的表现。"},
        {"topic": "ETF联接基金", "content": "ETF联接基金将90%以上资产投资于某只目标ETF，为没有股票账户的投资者提供通过场外渠道投资ETF的方式，费率和持仓与目标ETF高度一致。"},
        {"topic": "基金回撤", "content": "最大回撤是基金净值从高点跌到低点的最大幅度，是衡量基金风险的重要指标。历史最大回撤可以帮助投资者评估自己能否承受基金的潜在跌幅。"},
    ],
    "保险知识": [
        {"topic": "重疾险", "content": "重大疾病保险在被保险人确诊合同约定的重大疾病时一次性给付保险金。赔付金额可用于医疗费用、康复费用和收入损失补偿。保额一般建议30-50万元。"},
        {"topic": "医疗险", "content": "医疗保险对被保险人因疾病或意外产生的合理医疗费用进行报销。百万医疗险以低保费高保额著称，通常有1万元免赔额，覆盖住院和大病门诊费用。"},
        {"topic": "寿险", "content": "人寿保险以被保险人的寿命为标的，身故时向受益人给付保险金。定期寿险保费低保障高，适合家庭支柱；终身寿险兼具保障和储蓄功能。"},
        {"topic": "意外险", "content": "意外险保障因意外伤害导致的身故、伤残和医疗费用。核心特点是保费低、杠杆高，通常按职业风险等级定价。一般建议保额为年收入的5-10倍。"},
        {"topic": "年金险", "content": "年金保险是指投保人按期缴纳保费，保险公司从约定的时间开始按期给付保险金。年金险适合用于养老规划、教育金储备，特点是收益稳定但流动性差。"},
        {"topic": "投保人豁免", "content": "投保人豁免是在投保人发生合同约定的风险（如重疾、身故）后，后续保费自动豁免、保障继续有效的保险条款。常用于父母为子女投保的情况。"},
        {"topic": "等待期", "content": "等待期是保险合同生效后的一段观察期，期间发生保险事故保险公司不承担赔付责任。重疾险等待期通常为90-180天，医疗险为30天。"},
        {"topic": "免赔额", "content": "免赔额是保险公司不承担赔付责任的金额下限。百万医疗险通常设有1万元年度免赔额，即医疗费用超过1万以上部分才可报销。"},
        {"topic": "保险犹豫期", "content": "犹豫期是投保人收到保险合同后的一段时间（通常10-15天），在此期间退保可全额退还已缴保费。犹豫期后退保只能获得保单现金价值。"},
        {"topic": "现金价值", "content": "现金价值是保单在某个时间点具有的价值，反映投保人退保时能拿回的金额。长期寿险前期现金价值较低，随着缴费年限增长逐步提高。"},
        {"topic": "保险理赔流程", "content": "保险理赔一般包括：出险报案→提交理赔材料→保险公司审核→核定赔付→支付赔款。医疗险理赔通常需要诊断证明、费用清单、发票等材料。"},
        {"topic": "保险代理人与经纪人", "content": "保险代理人代表保险公司销售产品，保险经纪人代表投保人从中立立场推荐产品。经纪人的法律义务是对投保人负责，需充分了解客户需求后再推荐。"},
        {"topic": "保险核保", "content": "核保是保险公司评估投保人风险并决定是否承保的过程。核保考虑年龄、健康状况、职业风险、财务状况等因素，结果可能是标准承保、加费承保或拒保。"},
        {"topic": "社保与商保", "content": "社会保险（医保、养老等）是基础保障，覆盖广但保障水平有限。商业保险是社保的补充，提供更高保额、更广保障范围和更好的就医体验。"},
        {"topic": "健康告知", "content": '健康告知是投保人向保险公司如实告知自身健康状况的过程。告知遵循"有问必答、不问不答"原则，不如实告知可能导致保险公司拒赔。'},
        {"topic": "保险受益人", "content": "受益人是指定在被保险人身故后领取保险金的人。指定受益人理赔更快（不需要遗产公证），法定受益人则按继承法分配，流程更复杂。"},
        {"topic": "万能险", "content": "万能险兼具保障和投资功能，保费扣除保障成本后进入投资账户获得收益。优点是灵活（可调整保额和缴费），缺点是费用结构复杂且收益不保证。"},
        {"topic": "分红险", "content": "分红险是保险公司将经营成果的一部分以红利形式分配给投保人的保险产品。红利来源于死差益、费差益和利差益，红利水平不固定。"},
        {"topic": "家庭保险配置原则", "content": '家庭保险配置应遵循"先保障后理财、先大人后小孩、先主力后辅助"的原则。家庭支柱的定期寿险和重疾险优先级最高，预算占年收入5-10%为宜。'},
        {"topic": "车险", "content": "车险包括交强险（强制购买）和商业险（自愿选择）。商业险包括车损险、三者险、车上人员责任险等。建议三者险保额不低于100万元。"},
        {"topic": "旅游保险", "content": "旅游保险保障旅行期间发生的意外伤害、医疗运送、行程延误、财物丢失等风险。境外旅游险特别需要关注医疗运送和紧急救援保障。"},
        {"topic": "保险偿付能力", "content": "偿付能力是保险公司履行赔付义务的能力，是衡量保险公司财务健康状况的核心指标。中国银保监会要求综合偿付能力充足率不低于100%。"},
        {"topic": "保险的不可抗辩条款", "content": "不可抗辩条款规定，保险合同生效满2年后，保险公司不得以投保人未如实告知为由解除合同或拒赔。该条款保护了投保人权益，避免了保险公司无限追查。"},
        {"topic": "年金险的IRR计算", "content": "内部收益率（IRR）是衡量年金险真实收益水平的核心指标。IRR考虑了资金的时间价值，能反映不同缴费和领取方案下的实际年化收益率。"},
    ],
    "银行业务": [
        {"topic": "活期存款", "content": "活期存款是随时可存取、无固定期限的银行存款，利率较低但流动性最好。活期存款具有支付结算功能，可绑定工资发放、日常消费和转账汇款。"},
        {"topic": "定期存款", "content": "定期存款是约定存期、到期支取的存款产品，利率高于活期存款。常见期限有3个月、6个月、1年、2年、3年和5年。提前支取按活期利率计息。"},
        {"topic": "大额存单", "content": "大额存单是银行面向个人和非金融企业发行的大额存款凭证，起存金额一般20万元起。利率较同期定期存款上浮40-50%，可在二级市场转让。"},
        {"topic": "通知存款", "content": "通知存款是不约定存期但需提前通知银行才能支取的存款，分1天通知和7天通知两种。利率介于活期和定期之间，适合有大额闲置资金的投资者。"},
        {"topic": "结构性存款", "content": "结构性存款是嵌入金融衍生品的存款产品，收益与汇率、利率或指数挂钩。保本但不保收益，实际收益率在保底利率和最高利率之间浮动。"},
        {"topic": "个人住房贷款", "content": "个人住房贷款是银行向购房者发放的贷款，通常贷款期限最长30年。贷款利率与LPR挂钩，有等额本息和等额本金两种还款方式。"},
        {"topic": "信用卡", "content": "信用卡是银行提供的先消费后还款的小额信贷工具。有免息期（通常20-56天），按时还款不产生利息。分期还款和取现会产生手续费和利息。"},
        {"topic": "跨境汇款", "content": "跨境汇款是通过SWIFT系统进行的跨国资金转移。汇款需提供IBAN或银行账号、SWIFT代码等信息，到账时间通常1-3个工作日，手续费包括汇费、中间行费和电讯费。"},
        {"topic": "网上银行", "content": "网上银行是银行通过互联网提供的金融服务渠道，包括账户查询、转账汇款、理财购买、贷款申请等功能。大额转账通常需要使用电子令牌或U盾验证。"},
        {"topic": "手机银行", "content": "手机银行是银行在移动端提供的金融服务APP，功能包括余额查询、转账、缴费、理财、贷款等。生物识别（指纹、面部）和软Token用于安全验证。"},
        {"topic": "个人信用报告", "content": "个人信用报告是征信机构出具的记录个人信用活动的文件，包括信贷记录、公共记录和查询记录。央行征信中心提供每年2次免费查询。"},
        {"topic": "存款保险制度", "content": "存款保险制度保障每位存款人在同一家银行的存款本息合计最高50万元。即使银行破产，存款保险基金也会在7个工作日内进行赔付。"},
        {"topic": "银行间同业拆借", "content": "银行间同业拆借是金融机构之间短期资金融通的行为，期限通常不超过7天。Shibor是反映银行间资金成本的基准利率，影响各类金融产品定价。"},
        {"topic": "银行理财产品", "content": "银行理财产品是银行向投资者发行的资产管理产品，分为保本和非保本两类。资管新规后理财产品净值化转型，刚性兑付被打破，风险需投资者自担。"},
        {"topic": "信用卡免息期", "content": "信用卡免息期是从银行记账日至到期还款日之间的时间段，最长可达50-56天（取决于账单日和还款日的间隔），期间消费不产生利息。"},
        {"topic": "不良贷款率", "content": "不良贷款率是银行不良贷款（次级、可疑、损失三级）占总贷款余额的比例，是衡量银行资产质量的核心指标。中国银行业不良率通常维持在1.5-2%左右。"},
        {"topic": "巴塞尔协议", "content": "巴塞尔协议是巴塞尔银行监管委员会制定的银行资本监管国际标准。巴塞尔III要求银行核心一级资本充足率不低于4.5%，并引入流动性覆盖率和净稳定资金比率。"},
        {"topic": "影子银行", "content": "影子银行是从事类似银行业务但不受传统银行监管的金融中介活动，包括信托贷款、委托贷款和未贴现银行承兑汇票等。中国影子银行在2017年达到峰值后持续收缩。"},
        {"topic": "贷款五级分类", "content": "贷款五级分类是银行按风险程度将贷款划分为正常、关注、次级、可疑和损失五类。后三类合称不良贷款，需计提相应的贷款损失准备。"},
        {"topic": "跨境人民币业务", "content": "跨境人民币业务是指以人民币计价的跨境贸易结算、投融资和储备业务。2023年中国跨境人民币收付金额超过50万亿元，占全球贸易融资份额居前列。"},
        {"topic": "数字人民币（e-CNY）", "content": "数字人民币是中国人民银行发行的法定数字货币，定位于M0替代。具有可控匿名、双离线支付、不计利息等特点，已在多个城市开展试点。"},
        {"topic": "POS机", "content": "POS机是商户用于处理银行卡支付的终端设备。支持磁条卡、芯片卡和NFC非接触支付，交易通过银联网络清算。"},
        {"topic": "银行承兑汇票", "content": "银行承兑汇票是银行承诺到期无条件付款的票据，是企业短期融资工具。持票人可贴现获取资金，因有银行信用背书，流动性好、风险低。"},
    ],
    "个人理财": [
        {"topic": "标准普尔家庭资产配置", "content": "标准普尔建议将家庭资产分为四个账户：10%用于短期消费（现金账户）、20%用于保障（保险账户）、30%用于高风险投资（投资账户）、40%用于稳健理财（保本账户）。"},
        {"topic": "紧急备用金", "content": "紧急备用金是用于应对失业、疾病等突发情况的流动性资金，建议为3-6个月的家庭生活支出。应存放在活期存款或货币基金等可随时取用的渠道。"},
        {"topic": "资产配置", "content": "资产配置是将资金分配到不同资产类别（股票、债券、现金、房产、黄金等）的过程。合理的资产配置贡献了投资组合90%以上的收益波动，比选股择时更重要。"},
        {"topic": "复利效应", "content": "复利是指投资收益再投资产生收益的滚雪球效应。时间越长复利效果越显著。例如年化10%收益，10年后本金翻2.6倍，30年后翻17.4倍。"},
        {"topic": "72法则", "content": "72法则用于估算本金翻倍所需时间：用72除以年化收益率。例如年化8%的收益，72/8=9年本金翻倍。反之也可用72除以年数估算所需收益率。"},
        {"topic": "通货膨胀对储蓄的影响", "content": "通胀会侵蚀储蓄的实际购买力。当存款利率低于通胀率时，实际利率为负，储蓄的真实价值在缩水。例如年通胀3%、存款利率1.5%，实际购买力每年递减1.5%。"},
        {"topic": "家庭预算管理", "content": "家庭预算管理采用50/30/20法则：50%收入用于必要开支（住房、饮食、交通），30%用于可选消费（娱乐、购物），20%用于储蓄和投资。"},
        {"topic": "养老规划", "content": "养老规划需要估算退休后的年支出并乘以预期退休年数。考虑社保养老金替代率（约40-50%）、通货膨胀和医疗支出。建议通过个人养老金账户、商业年金险等多渠道储备。"},
        {"topic": "教育金规划", "content": "教育金规划是为子女未来教育费用做的提前储备。国内本科四年约需20-50万，出国留学需100-200万。可采用教育储蓄、基金定投、教育年金险等方式筹备。"},
        {"topic": "税务筹划", "content": "个人税务筹划在合法范围内减少税负，包括充分利用专项附加扣除（子女教育、大病医疗、住房贷款等）、合理选择年终奖计税方式、利用个税递延型养老保险。"},
        {"topic": "债务管理", "content": "健康债务（房贷、经营贷）用于资产增值，不良债务（高息消费贷、网贷）用于消费。建议每月还贷不超过收入的30%，优先偿还高息债务。"},
        {"topic": "信用评分", "content": "个人信用评分（芝麻信用分、央行征信评分）反映个人信用水平，影响贷款审批利率和信用卡额度。保持良好信用的关键是按时还款、控制负债率。"},
        {"topic": "支付工具选择", "content": "微信支付和支付宝是主流移动支付工具，覆盖线上线下绝大部分场景。云闪付作为银行业统一入口，在跨行转账和银行卡优惠方面有优势。"},
        {"topic": "黄金投资", "content": "黄金投资渠道包括实物黄金（金条金币）、纸黄金、黄金ETF和黄金期货。黄金是避险资产，与股票等风险资产相关性低，适合在资产组合中占5-10%权重。"},
        {"topic": "国债投资", "content": "国债是中央政府发行的债券，以国家信用为背书，被视为无风险资产。储蓄国债起点低（100元）、利率高于银行定期存款、利息免征个人所得税。"},
        {"topic": "可转债", "content": "可转换债券是可以在约定时间内按约定价格转换为公司股票的债券，兼具债券的保底属性和股票的上涨潜力。打新债是散户参与可转债投资的常见方式。"},
        {"topic": "私募基金", "content": "私募基金是面向合格投资者非公开发行的投资基金，起投金额通常100万元。投资策略灵活（股票、债券、期货、股权等），信息披露要求低于公募基金。"},
        {"topic": "券商收益凭证", "content": "收益凭证是证券公司以自身信用发行的债务融资工具，本金和收益与特定标的（指数、股票、利率）挂钩。收益凭证属于券商的表内负债，受证券投资者保护基金保障。"},
        {"topic": "结构性理财产品", "content": "结构性理财产品将大部分资金投资于固定收益资产以保本，小部分投资于期权等衍生品以博取高收益。常见的挂钩标的有股指、黄金、外汇和利率。"},
        {"topic": "保险在理财中的作用", "content": "保险在个人理财中主要发挥风险转移和长期储蓄两大功能。重疾险和医疗险防止因病致贫，年金险和增额终身寿险用于养老规划和财富传承。"},
        {"topic": "财务自由计算", "content": "财务自由所需的被动收入金额等于年支出除以预期收益率。例如年支出20万元、预期年化收益率5%，则需要400万元本金才能实现财务自由。"},
        {"topic": "反诈防骗", "content": "常见的金融诈骗类型包括非法集资、杀猪盘、冒充公检法、虚拟货币骗局和养老诈骗。防范要点：不轻信高收益承诺、不向陌生人转账、选择持牌金融机构。"},
    ],
    "宏观经济": [
        {"topic": "货币政策", "content": "货币政策是央行为实现物价稳定、经济增长、充分就业和国际收支平衡等目标而采取的调控措施。主要工具包括利率、准备金率和公开市场操作。"},
        {"topic": "财政政策", "content": "财政政策是政府通过调整税收和支出来影响经济运行的政策。扩张性财政政策（减税增支）刺激经济，紧缩性财政政策（增税减支）抑制过热。"},
        {"topic": "经济周期", "content": "经济周期是经济活动沿着长期趋势呈现的扩张和收缩交替，分为繁荣、衰退、萧条和复苏四个阶段。每个阶段持续时间和波动幅度因经济体内外部因素而异。"},
        {"topic": "消费升级", "content": "消费升级是随着收入增长，居民消费从满足基本需求向追求品质、体验和个性化转变的趋势。表现为服务消费占比上升、高端品牌增长、新消费模式涌现。"},
        {"topic": "供给侧结构性改革", "content": '供给侧改革从供给端入手优化经济结构，核心是"三去一降一补"：去产能、去库存、去杠杆、降成本、补短板。旨在提高全要素生产率和经济潜在增长率。'},
        {"topic": "国际贸易", "content": "国际贸易是不同国家之间的商品和服务交换。比较优势理论解释了贸易的互利性。中国是全球最大的货物贸易国，2023年进出口总额超过42万亿元。"},
        {"topic": "贸易顺差与逆差", "content": "贸易顺差是出口大于进口，逆差则相反。长期大额顺差可能引发贸易伙伴的贸易保护措施，逆差则可能导致本币贬值和外债增加。"},
        {"topic": "外汇储备", "content": "外汇储备是央行持有的可自由兑换的外币资产，用于干预外汇市场、维护汇率稳定和偿付外债。中国拥有全球最大的外汇储备，约3万亿美元。"},
        {"topic": "GDP平减指数", "content": "GDP平减指数是名义GDP与实际GDP的比率，衡量一国产出价格水平的综合变化。与CPI相比，它覆盖范围更广（包括投资品和出口品），是更全面的通胀指标。"},
        {"topic": "失业率", "content": "失业率是失业人数占劳动力总数的比例，是衡量经济健康程度的核心指标之一。失业分为摩擦性失业、结构性失业和周期性失业三种类型。"},
        {"topic": "边际消费倾向（MPC）", "content": "边际消费倾向是新增收入中用于消费的比例。MPC在0到1之间，高收入者MPC较低，低收入者MPC较高。MPC是凯恩斯乘数理论的关键参数。"},
        {"topic": "乘数效应", "content": "乘数效应是指最初一笔支出变动通过经济循环最终带来数倍的GDP变动。投资乘数=1/(1-MPC)。例如MPC为0.8时，1000元投资最终带来5000元GDP增长。"},
        {"topic": "拉弗曲线", "content": "拉弗曲线描述了税率与税收收入的关系：税率从低到高时，税收收入先增后减。存在一个最优税率使税收收入最大化，税率过高反而抑制经济活动导致税收减少。"},
        {"topic": "中等收入陷阱", "content": "中等收入陷阱是指经济体人均收入达到中等水平后难以向高收入水平跨越的现象。表现为经济增长放缓、产业升级困难、创新能力不足。东亚经济体有成功跨越的案例。"},
        {"topic": "人口红利", "content": "人口红利是劳动力人口占总人口比重较大时期的经济增长优势。中国改革开放后的高速增长受益于人口红利。随着老龄化加剧，人口红利正在消退。"},
        {"topic": "城镇化率", "content": "城镇化率是城镇常住人口占总人口的比例，反映城市化发展水平。2023年中国城镇化率约66%，距离发达国家80%以上的水平仍有提升空间。"},
        {"topic": "经济附加值（EVA）", "content": "经济附加值（EVA）是税后净营业利润减去资本成本后的剩余收益，衡量企业是否为股东创造了超出资本成本的真正价值。"},
        {"topic": "基钦周期", "content": "基钦周期（又称库存周期）是约40个月的短经济周期，由企业库存调整驱动。当需求变化时企业调整库存的行为导致了经济的短期波动。"},
        {"topic": "朱格拉周期", "content": "朱格拉周期是约8-10年的中经济周期，由设备投资和资本更新驱动。一个朱格拉周期包含2-3个基钦周期。"},
        {"topic": "库兹涅茨周期", "content": "库兹涅茨周期是约15-25年的长经济周期，由建筑投资和人口变动驱动。房地产和基础设施建设的大周期是其主要表现。"},
        {"topic": "康德拉季耶夫周期", "content": "康德拉季耶夫周期（康波周期）是约50-60年的超长经济周期，由技术革命驱动。每个康波周期对应一次重大的技术变革，如蒸汽机、电力、互联网和人工智能。"},
        {"topic": "主权债务危机", "content": "主权债务危机是国家无法偿还到期外债的危机。典型事件包括2009年希腊债务危机。危机通常伴随货币贬值、经济衰退和社会动荡。"},
        {"topic": "经济制裁", "content": "经济制裁是一国或多国对目标国家采取的限制性经济措施，包括贸易禁运、金融冻结、技术封锁等。制裁会切断被制裁国获取国际资本和关键技术的渠道。"},
    ],
    "财务分析": [
        {"topic": "资产负债表", "content": "资产负债表反映企业在特定时点的财务状况，由资产、负债和所有者权益三部分组成。基本等式：资产=负债+所有者权益。左侧为资产，右侧为资金来源。"},
        {"topic": "利润表", "content": "利润表反映企业一定期间的经营成果，从营业收入开始逐项扣减成本费用，最终得出净利润。核心公式：收入-成本-费用=利润。"},
        {"topic": "现金流量表", "content": "现金流量表反映企业现金及现金等价物的流入和流出，分为经营活动、投资活动和筹资活动三大类。经营现金流是判断企业造血能力的核心指标。"},
        {"topic": "流动比率", "content": "流动比率=流动资产/流动负债，衡量企业短期偿债能力。通常认为2以上较为安全。但过高可能意味着资金运用效率不足。"},
        {"topic": "速动比率", "content": "速动比率=（流动资产-存货）/流动负债，更为保守地衡量短期偿债能力。通常认为1以上较为安全。存货变现能力差的行业速动比率尤为重要。"},
        {"topic": "资产负债率", "content": "资产负债率=总负债/总资产，反映企业资产中有多大比例来源于负债。过高财务风险大，过低则可能杠杆利用不足。制造业通常40-60%较为合理。"},
        {"topic": "毛利率", "content": "毛利率=（营业收入-营业成本）/营业收入，反映企业产品的基本盈利空间。高毛利通常意味着产品有差异化优势或品牌溢价。"},
        {"topic": "净利率", "content": "净利率=净利润/营业收入，反映企业的最终盈利能力。净利率受毛利率、费用率和税率三重影响。"},
        {"topic": "总资产周转率", "content": "总资产周转率=营业收入/平均总资产，衡量企业利用资产创造收入的效率。零售业的周转率通常较高，重资产制造业较低。"},
        {"topic": "存货周转率", "content": "存货周转率=营业成本/平均存货余额，反映企业存货管理效率。周转快意味着产品畅销、资金占用少，但过快也可能面临缺货风险。"},
        {"topic": "应收账款周转率", "content": "应收账款周转率=营业收入/平均应收账款，反映企业回款效率。周转率越高说明回款越快、坏账风险越小。周转率下降可能是放宽信用政策的信号。"},
        {"topic": "杜邦分析", "content": "杜邦分析将ROE分解为：ROE=净利率×总资产周转率×权益乘数。净利率反映盈利能力，周转率反映运营效率，权益乘数反映财务杠杆。"},
        {"topic": "每股净资产", "content": "每股净资产=净资产/总股本，代表每股股票享有的账面资产价值。市净率低于1时股价低于每股净资产，被称为破净。"},
        {"topic": "自由现金流", "content": "自由现金流=经营现金流-资本性支出，是企业满足生产能力维持后的多余现金。有充裕自由现金流的企业有能力分红、回购股票和进行收购。"},
        {"topic": "EBITDA", "content": "EBITDA是息税折旧摊销前利润，用于评估企业经营主业的盈利能力，排除融资决策、会计政策和税收政策的影响。"},
        {"topic": "财务杠杆", "content": "财务杠杆是指企业利用债务融资来放大股东收益率的做法。适度杠杆可以提高ROE，但过度杠杆会放大亏损并增加破产风险。"},
        {"topic": "经营杠杆", "content": "经营杠杆反映固定成本占总成本的比重。固定成本占比越高，经营杠杆越大，利润随收入变动越剧烈——收入增长时利润更快增长，收入下降时利润更快下降。"},
        {"topic": "商誉", "content": "商誉是企业在收购中支付的超出被收购方可辨认净资产公允价值的部分。商誉需进行减值测试而非摊销，减值会直接冲减利润。"},
        {"topic": "坏账准备", "content": "坏账准备是企业预计无法收回的应收账款而计提的准备金。计提比例过高会减少当期利润，但有利于真实反映资产质量。"},
        {"topic": "递延所得税", "content": "递延所得税源于会计准则与税法在资产/负债计量上的暂时性差异。递延所得税资产可减少未来税费，递延所得税负债会增加未来税费。"},
        {"topic": "合并报表", "content": "合并报表是将母公司及其控制的子公司视为一个经济实体编制的财务报表，抵消内部交易后反映集团整体的财务状况和经营成果。"},
        {"topic": "会计估计变更", "content": "会计估计变更是对资产使用寿命、坏账比例等估计的调整。例如延长固定资产折旧年限会减少当期折旧费用、增加利润，投资者需关注相关变更的背景。"},
        {"topic": "关联交易", "content": "关联交易是公司与其关联方（母公司、子公司、实际控制人等）之间的交易。定价不公允的关联交易可能被用于利益输送或利润调节。"},
    ],
    "风险管理": [
        {"topic": "系统性风险", "content": "系统性风险是影响整个金融体系的风险，无法通过分散投资消除。包括宏观经济衰退、利率大幅变动、金融危机等。2008年次贷危机是典型的系统性风险事件。"},
        {"topic": "非系统性风险", "content": "非系统性风险是特定公司或行业特有的风险，可通过分散投资来降低。包括经营风险、财务风险、管理层变动风险等。"},
        {"topic": "Value at Risk (VaR)", "content": "VaR是在给定置信水平和持有期内可能的最大损失。例如95%置信水平下日VaR为100万元，意味着每天只有5%的概率损失超过100万元。VaR是银行最常用的风险度量。"},
        {"topic": "风险对冲", "content": "风险对冲是通过建立反向头寸来降低风险敞口的策略。常见工具包括期货、期权、互换等衍生品。例如航空公司买入原油期货对冲燃油成本上涨风险。"},
        {"topic": "风险分散化", "content": "风险分散化的理论基础是马克维茨的现代投资组合理论。通过将资金分配到低相关性的资产上，可以在不降低预期收益的前提下降低整体风险。"},
        {"topic": "黑天鹅事件", "content": "黑天鹅事件是难以预测但影响巨大的意外事件，事后人们往往会为其寻找合理的解释。2020年新冠疫情就是典型的黑天鹅事件。"},
        {"topic": "灰犀牛事件", "content": "灰犀牛事件是明显存在但被忽视的高概率风险事件。与黑天鹅不同，灰犀牛事件有预警信号但仍可能被市场低估，如不断攀升的政府债务水平。"},
        {"topic": "信用风险", "content": "信用风险是交易对手无法履行合约义务的风险。银行贷款、债券投资和场外衍生品交易都面临信用风险。信用评级和信用违约互换（CDS）是管理信用风险的主要工具。"},
        {"topic": "市场风险", "content": "市场风险是因市场价格（利率、汇率、股票价格、商品价格）不利变动导致损失的风险。银行的市场风险通常用量化模型VaR来计量。"},
        {"topic": "操作风险", "content": "操作风险是由内部流程、人员、系统或外部事件不完善或失效导致的风险。巴塞尔协议将操作风险纳入银行资本监管框架。"},
        {"topic": "流动性风险", "content": "流动性风险是企业无法以合理成本获得足够资金以履行到期义务的风险。银行面临存款人集中取款的挤兑风险，基金面临投资者大规模赎回的风险。"},
        {"topic": "主权风险", "content": "主权风险是外国政府无法或不愿履行国际债务义务的风险。主权信用评级由标普、穆迪和惠誉三大评级机构评定，评级下降会提高该国融资成本。"},
        {"topic": "风险管理流程", "content": "风险管理流程包括风险识别、风险评估、风险应对和风险监控四个步骤。识别阶段找出潜在风险源，评估阶段量化风险大小，应对阶段选择适当的处理方式。"},
        {"topic": "止损策略", "content": "止损是在损失达到预定水平时自动平仓以控制最大亏损的策略。设定止损点时要考虑市场波动性，过窄容易被震仓出局，过宽则不能有效控制风险。"},
        {"topic": "保险作为风险管理工具", "content": "保险通过将个人或企业的风险转移给保险公司来管理风险。适用于低频率高损失的风险事件（如火灾、重大疾病），保费精确定价体现了风险共担原则。"},
        {"topic": "压力测试", "content": "压力测试是评估金融机构在极端不利情景下的抗风险能力。监管机构要求系统重要性银行定期进行压力测试，最常见的场景包括GDP大幅下滑和失业率飙升。"},
        {"topic": "风险偏好", "content": "风险偏好是投资者对风险的接受程度和态度，分为风险厌恶、风险中立和风险偏好三类。个人理财中，风险承受能力与年龄、收入和投资目标密切相关。"},
        {"topic": "马科维茨有效前沿", "content": "有效前沿是马科维茨现代投资组合理论的核心概念，描述了在给定风险水平下能获得的最大预期收益组合的集合。有效前沿上的投资组合是最优的。"},
        {"topic": "贝塔系数（Beta）", "content": "贝塔系数衡量个股或投资组合相对于整个市场的波动程度。Beta=1与市场同涨跌，Beta>1波动大于市场，Beta<1波动小于市场。银行股通常Beta<1，科技股Beta>1。"},
        {"topic": "夏普比率", "content": "夏普比率衡量投资组合每承担一单位风险所获得的超额回报，计算公式为（投资组合收益率-无风险利率）/标准差。夏普比率越高，风险调整后的表现越好。"},
        {"topic": "最大回撤", "content": "最大回撤是投资组合从历史最高净值到随后最低净值的最大跌幅。最大回撤越大，投资者心理压力越大，也越可能因恐慌而在底部卖出。"},
        {"topic": "尾部风险", "content": "尾部风险是极端事件发生的概率，即正态分布两端的极端情境。金融资产收益率往往呈现厚尾分布，极端事件的实际发生概率大于正态分布的预测。"},
    ],
    "税收知识": [
        {"topic": "个人所得税", "content": "个人所得税对个人取得的各项应税所得征收。我国实行综合与分类相结合的税制，综合所得（工资薪金、劳务报酬、稿酬、特许权使用费）按3%-45%超额累进税率纳税。"},
        {"topic": "起征点与专项附加扣除", "content": "个税起征点为每月5000元（每年6万元）。专项附加扣除包括子女教育（每个子女每月2000元）、继续教育、大病医疗、住房贷款利息（每月1000元）、住房租金和赡养老人。"},
        {"topic": "企业所得税", "content": "企业所得税税率为25%。高新技术企业减按15%征收，小型微利企业享受更低税率优惠。应纳税所得额=收入总额-不征税收入-免税收入-各项扣除-以前年度亏损。"},
        {"topic": "增值税", "content": "增值税是对商品和服务流转环节的增值额征收的流转税。一般纳税人税率分为13%（货物）、9%（农产品/不动产）、6%（服务业）三档，小规模纳税人征收率3%。"},
        {"topic": "消费税", "content": "消费税是对特定消费品（烟、酒、化妆品、贵重首饰、汽车等）在生产环节征收的税种。税率从价定率和从量定额两种方式，高档消费品税率较高。"},
        {"topic": "印花税", "content": "印花税对经济活动和经济交往中书立、领受的应税经济凭证征收。A股证券交易印花税为成交金额的0.05%（单边征收，仅卖出时收取），2023年曾减半征收。"},
        {"topic": "房产税", "content": "房产税是以房屋为征税对象的财产税。目前在上海和重庆试点，对部分住房征收，税率0.4%-1.2%。房产税改革方向是扩大试点范围并简化税制。"},
        {"topic": "关税", "content": "关税是对进出口货物征收的税种。进口关税税率分为最惠国税率、协定税率和普通税率。中国加入WTO后关税水平持续下降，目前平均税率约7%。"},
        {"topic": "土地增值税", "content": "土地增值税是对转让国有土地使用权、地上建筑物及其附着物所取得的增值额征收的税种，实行四级超额累进税率（30%-60%）。房地产开发企业为主要纳税主体。"},
        {"topic": "契税", "content": "契税是在土地、房屋权属转移时向承受方征收的税种。个人购买住房契税税率1%-3%，首套房90平米以下按1%征收。"},
        {"topic": "税务筹划", "content": "税务筹划在合法框架内通过合理安排经营和财务活动来降低税负。方法包括充分利用税收优惠、合理选择纳税身份、优化收入结构等。区别于偷税漏税（违法）。"},
        {"topic": "个人所得税综合所得汇算清缴", "content": "每年3-6月对上年度综合所得进行汇算清缴，多退少补。需汇总六项综合所得计算全年应纳税额，减去已预缴税款后的差额进行补税或退税。"},
        {"topic": "年终奖计税", "content": "年终奖可选择单独计税（除以12后确定适用税率）或并入综合所得计税。单独计税政策延续至2027年底。需根据收入水平选择最优计税方式。"},
        {"topic": "个税递延型养老保险", "content": "个人购买符合规定的商业养老保险产品，在缴费阶段按每年最高12000元限额税前扣除，领取阶段按7.5%税率征税。实际降低了个税负担。"},
        {"topic": "企业研发费用加计扣除", "content": "企业实际发生的研发费用未形成无形资产的，在按规定据实扣除基础上再加计扣除100%。形成无形资产的按无形资产成本的200%摊销。"},
        {"topic": "小微企业税收优惠", "content": "小型微利企业年应纳税所得额不超过300万元的部分，减按25%计入应纳税所得额，按20%税率缴纳企业所得税，实际税负5%。"},
        {"topic": "跨境税收", "content": "跨境税收涉及居民企业的全球所得纳税和避免双重征税等问题。我国与100多个国家签署了税收协定，对境外所得已在境外缴纳的税款可限额抵免。"},
        {"topic": "发票管理", "content": "发票是购销商品、提供或接受服务的收付款凭证。增值税专用发票可用于进项抵扣，普通发票不能抵扣。数电发票（全面数字化的电子发票）正在全国推广。"},
        {"topic": "税务稽查", "content": "税务稽查是税务机关对纳税人纳税情况的检查。稽查重点包括发票异常、税负率偏低、长期亏损、关联交易定价不合理等。企业应保留完整账簿凭证。"},
    ],
    "区块链与数字货币": [
        {"topic": "区块链技术", "content": "区块链是一种去中心化、分布式存储的账本技术，数据以区块形式链接存储。每个区块包含一批交易记录，通过密码学方式保证不可篡改和可追溯。"},
        {"topic": "比特币", "content": "比特币是第一个成功的加密货币，由中本聪在2008年提出。总发行量恒定2100万枚，通过PoW挖矿产生。比特币被用于价值存储和跨境转账。"},
        {"topic": "以太坊", "content": "以太坊是支持智能合约的区块链平台，由Vitalik Buterin于2015年创立。ETH是平台的原生代币，用于支付Gas费。2022年以太坊从PoW转向PoS。"},
        {"topic": "智能合约", "content": "智能合约是部署在区块链上自动执行的程序代码，条件满足时自动触发相应操作。以太坊是最早支持智能合约的区块链平台，奠定了DeFi发展的基础。"},
        {"topic": "DeFi", "content": "去中心化金融（DeFi）基于区块链提供借贷、交易、理财等金融服务的开放协议。用户在保持资产控制权的前提下参与金融活动，无需传统中介。"},
        {"topic": "NFT", "content": "非同质化代币（NFT）是区块链上代表唯一数字资产的代币，常用于数字艺术品、收藏品和游戏道具的产权确权和交易。ERC-721和ERC-1155是主要标准。"},
        {"topic": "PoW与PoS", "content": "工作量证明（PoW）通过算力竞争挖矿保障网络安全，消耗能源多但安全性高。权益证明（PoS）通过质押代币验证交易，能耗降低99%以上。以太坊已转PoS。"},
        {"topic": "去中心化交易所（DEX）", "content": "DEX通过自动化做市商（AMM）机制实现点对点代币交换，用户无需将资产托管给第三方。Uniswap是最著名的DEX，采用恒定乘积公式定价。"},
        {"topic": "稳定币", "content": "稳定币是与法币或实物资产挂钩以维持价格稳定的加密货币。USDT和USDC是法币抵押型稳定币的代表，DAI是超额抵押加密资产的去中心化稳定币。"},
        {"topic": "Layer 2", "content": "Layer 2是构建在基础区块链之上的扩展方案，通过将交易数据在链下处理后再提交到主网来提升吞吐量并降低费用。Arbitrum和Optimism是主流的以太坊L2。"},
        {"topic": "跨链桥", "content": "跨链桥实现了不同区块链之间的资产和数据互通。锁定并铸造模式是最常见的跨链技术。跨链桥曾是黑客攻击的重灾区，安全审计尤为重要。"},
        {"topic": "Web3", "content": "Web3是基于区块链的下一代互联网范式，核心理念是去中心化、用户数据自主权和价值在用户之间直接流通。钱包（如MetaMask）是Web3入口。"},
        {"topic": "DAO", "content": "去中心化自治组织（DAO）通过智能合约实现去中心化治理，成员通过持有治理代币投票决定协议参数和资金分配。MakerDAO是最早的DAO之一。"},
        {"topic": "挖矿", "content": "加密挖矿是使用算力解决数学问题以验证交易并产生新区块的过程。PoW挖矿需要专业的ASIC矿机，PoS则通过质押代币参与共识。"},
        {"topic": "公链与私链", "content": "公链完全开放，任何人都可参与验证和记账；私链由单一机构控制，参与有权限限制。联盟链（如Hyperledger Fabric）由多个机构共同管理，是商业应用的折中方案。"},
        {"topic": "默克尔树", "content": "默克尔树是区块链中用于高效验证数据完整性的数据结构。每个叶子节点是交易的哈希值，非叶子节点是其子节点哈希的哈希。根哈希存储在区块头中。"},
        {"topic": "零知识证明（ZKP）", "content": "零知识证明允许一方在不透露信息本身的情况下向另一方证明自己知道该信息。zk-Rollup利用ZKP实现Layer 2扩展，同时保证了交易的有效性和隐私性。"},
        {"topic": "AMM自动做市商", "content": "AMM通过流动性池和算法定价取代传统订单簿，实现去中心化交易。恒定乘积公式x*y=k是最基本的AMM模型，价格由池中两种代币的数量比决定。"},
        {"topic": "Tokenomics（代币经济学）", "content": "代币经济学研究代币的供给、分配、激励和价值捕获机制。核心设计要素包括发行总量、通胀率、分配比例、质押奖励和治理权。"},
        {"topic": "MEV（最大可提取价值）", "content": "MEV是指通过包含、排除或重新排序区块内的交易所能提取的额外价值。抢跑交易和三明治攻击是常见的MEV策略。MEV既是生态问题也是套利机会。"},
        {"topic": "DApp", "content": "去中心化应用（DApp）是运行在区块链上的应用，前端类似传统Web应用，后端逻辑由智能合约处理。DApp具有开源、去中心化和抗审查的特点。"},
    ],
    "金融法规": [
        {"topic": "证券法", "content": "《证券法》是规范证券发行和交易的基本法律。核心内容包括注册制改革、信息披露要求、内幕交易和操纵市场禁止条款。2020年新修订实施。"},
        {"topic": "基金法", "content": "《证券投资基金法》规范公募和私募基金的管理运作。规定了基金管理人和托管人的职责、基金份额持有人权利、信息披露和禁止行为。"},
        {"topic": "银行法", "content": "《商业银行法》规范商业银行的设立、业务范围、经营规则和监督管理。核心要求包括资本充足率、流动性比例和贷款集中度等审慎经营指标。"},
        {"topic": "反洗钱法", "content": "反洗钱法要求金融机构建立客户身份识别、大额和可疑交易报告、客户身份资料和交易记录保存三项核心制度。违反反洗钱法的处罚包括高额罚款和吊销牌照。"},
        {"topic": "证券法中的信息披露", "content": "信息披露制度要求上市公司真实、准确、完整、及时地公开影响投资者决策的重大信息。包括定期报告（年报、半年报、季报）和临时报告。信息披露违规可被行政处罚。"},
        {"topic": "内幕交易", "content": "内幕交易是知悉内幕信息的人利用该信息买卖相关证券或泄露该信息的行为。内幕交易违反了证券市场公平原则，可能面临行政处罚甚至刑事处罚。"},
        {"topic": "操纵市场", "content": "操纵市场是通过人为手段控制证券价格或交易量的违法行为。常见手法包括连续交易、约定交易、蛊惑交易和抢帽子交易等。"},
        {"topic": "资管新规", "content": "资管新规（2018年发布）要求打破刚性兑付、禁止资金池业务、控制多层嵌套和杠杆水平。资管产品向净值化转型，投资者需承担投资风险。"},
        {"topic": "CRS（共同申报准则）", "content": "CRS要求各国金融机构向本国税务部门报告非居民账户信息，再由税务部门与其他签约国自动交换。中国2018年启动首次CRS数据交换。"},
        {"topic": "金融消费者权益保护", "content": "金融消费者权益保护包括知情权、自主选择权、公平交易权、财产安全权、依法求偿权、受教育权、受尊重权和信息安全权八项基本权利。"},
        {"topic": "保险法", "content": "《保险法》规范保险合同的订立、履行以及保险公司的经营行为。核心内容包括保险利益原则、最大诚信原则、损失补偿原则和近因原则。"},
        {"topic": "票据法", "content": "《票据法》规范票据的出票、背书、承兑、保证、付款和追索等行为。票据包括汇票、本票和支票三种，具有支付、信用、结算和融资功能。"},
        {"topic": "征信业管理条例", "content": "条例规范征信机构的设立和征信活动，要求征信机构采集个人信息需经本人同意。个人每年可免费查询两次个人信用报告。"},
        {"topic": "网络借贷信息中介机构管理办法", "content": "该办法规定P2P平台不得提供增信服务、不得非法集资、不得归集资金设立资金池。P2P行业在监管趋严后经历了大规模清退。"},
        {"topic": "外汇管理条例", "content": "条例规范外汇收支、外汇经营和外汇市场管理。个人年度购汇额度5万美元，不得用于境外购房、证券投资等资本项目。"},
        {"topic": "金融控股公司监管", "content": "金控公司监管要求非金融企业发起的金融控股公司纳入监管，严格股东资质审查，加强资本充足率管理，规范关联交易和信息披露。"},
        {"topic": "上市公司治理准则", "content": "准则规定上市公司应建立独立董事制度、审计委员会和薪酬委员会，保障中小股东权益，规范关联交易决策程序。"},
        {"topic": "企业破产法", "content": "《企业破产法》规范企业破产程序，包括破产申请、重整、和解和清算。金融机构破产有专门条款，由监管部门负责破产管理人的选任。"},
    ],
    # 补充字段说明
}

# 确保每个子领域至少有 20 条知识条目
for domain in KNOWLEDGE_BASE:
    print(f"[{domain}] 知识条目数: {len(KNOWLEDGE_BASE[domain])}")

# ============ 9 种指令模板 ============

class InstructionTemplates:
    @staticmethod
    def conceptual_explain(topic, content, ctx=None):
        """概念解释类"""
        templates = [
            f"什么是{topic}？",
            f"请解释一下{topic}的含义。",
            f"如何理解{topic}这个概念？",
            f"请简要说明什么是{topic}。",
            f"详细解释一下{topic}的概念及其在金融中的应用。",
        ]
        ins = random.choice(templates)
        return ins, "", content

    @staticmethod
    def compare_analysis(topic, content, ctx=None):
        """对比分析类"""
        if ctx and "对比" in ctx.get("compare_with", ""):
            compare = ctx["compare_with"]
            templates = [
                f"{topic}和{compare}有什么区别？",
                f"请对比分析{topic}和{compare}的异同。",
                f"{topic}和{compare}哪个更重要？请从多个角度分析。",
                f"如何区分{topic}和{compare}？",
            ]
            ins = random.choice(templates)
            return ins, f"请对比分析{topic}和{compare}", content
        pairs = [
            ("直接融资", "间接融资"), ("封闭式基金", "开放式基金"),
            ("场内基金", "场外基金"), ("PoW", "PoS"), ("现金分红", "红利再投资"),
            ("贸易顺差", "贸易逆差"), ("流动比率", "速动比率"),
        ]
        for a, b in pairs:
            if a in topic or b in topic:
                templates = [
                    f"{a}和{b}有什么区别？",
                    f"请对比分析{a}和{b}的异同点。",
                    f"如何区分{a}和{b}？",
                ]
                ins = random.choice(templates)
                return ins, f"请对比分析{a}和{b}", content
        return None, None, None

    @staticmethod
    def how_to(topic, content, ctx=None):
        """操作步骤类"""
        templates = [
            f"如何正确使用{topic}进行投资？",
            f"普通人如何利用{topic}来进行理财规划？",
            f"请详细说明{topic}的操作步骤和注意事项。",
            f"初学者如何入门学习{topic}？",
        ]
        ins = random.choice(templates)
        output = f"关于{topic}的学习和实践，建议按以下步骤进行：\n\n"
        output += f"首先，理解{topic}的核心概念：{content}\n\n"
        steps = [
            f"第一步，学习{topic}的基础知识，掌握其基本原理和适用范围。",
            f"第二步，结合实际案例理解{topic}在金融实践中的具体应用方式。",
            f"第三步，根据自身情况评估是否适合使用{topic}，做好风险承受能力测试。",
            f"第四步，通过正规渠道（如持牌金融机构）进行操作，不要轻信非正规平台。",
            f"第五步，定期复盘和调整，关注市场变化和{topic}相关的政策更新。",
        ]
        output += "\n".join(steps[:4])
        output += f"\n\n特别提醒：{topic}需要建立在充分了解的基础上，切勿盲目跟风操作。"
        return ins, "", output

    @staticmethod
    def pros_cons(topic, content, ctx=None):
        """利弊分析类"""
        templates = [
            f"{topic}的优势和风险分别是什么？",
            f"投资{topic}有哪些好处和坏处？",
            f"请分析{topic}的优缺点。",
            f"使用{topic}来理财有哪些利弊？",
        ]
        ins = random.choice(templates)
        output = f"关于{topic}的全面分析如下：\n\n"
        output += f"【核心概念】\n{content}\n\n"
        output += "【优势方面】\n"
        pros_pool = [
            f"作为一种金融工具/概念，{topic}帮助投资者和市场参与者更好地理解和应对金融市场的变化。",
            f"掌握{topic}有助于做出更理性的投资决策，降低盲目操作的风险。",
            f"{topic}的相关工具通常具有标准化程度高、透明度好的特点。",
            f"学习和运用{topic}可以提升个人的金融素养和理财能力。",
        ]
        output += random.choice(pros_pool) + "\n\n"
        output += "【风险及注意事项】\n"
        cons_pool = [
            f"{topic}的有效运用需要一定的专业知识和经验积累，初学者可能难以准确把握。",
            f"市场环境变化可能导致{topic}的适用性和效果发生变化。",
            f"过度依赖{topic}而忽视其他因素可能导致判断偏差。",
            f"在实际应用中，{topic}只是决策参考之一，需要结合其他维度的信息综合判断。",
        ]
        output += random.choice(cons_pool) + "\n\n"
        output += f"总体而言，{topic}是金融领域的重要基础知识/工具，投资者应全面学习并理性运用，不可迷信或忽视。"
        return ins, "", output

    @staticmethod
    def principle_explain(topic, content, ctx=None):
        """原理阐述类"""
        templates = [
            f"{topic}的原理是什么？",
            f"请详细解释{topic}的运作机制。",
            f"{topic}是如何运作的？背后的原理是什么？",
            f"从金融学角度解释{topic}的运行逻辑。",
        ]
        ins = random.choice(templates)
        output = f"{topic}的核心原理如下：\n\n{content}"
        depth = [
            f"\n\n进一步来说，{topic}在实际应用中还需要考虑市场环境和政策变化等因素。",
            f"\n\n从经济学角度来看，{topic}的运作遵循供需关系和市场规律，准确把握这一点对投资决策至关重要。",
        ]
        output += random.choice(depth)
        return ins, "", output

    @staticmethod
    def true_false_judge(topic, content, ctx=None):
        """纠错判断类"""
        templates = [
            f"有人说{topic}完全没有风险，这种说法正确吗？请分析。",
            f"以下说法是否正确：{topic}越贵越好。请解释原因。",
            f"请判断并解释：'{topic}只适合专业人士，普通人无法参与'这一说法是否正确。",
        ]
        ins = random.choice(templates)
        output = f"这个说法并不完全正确。结合{topic}的知识来分析：\n\n{content}"
        output += f"\n\n因此，关于{topic}需要全面客观地看待，不能简单地说对或错，而是要结合具体情境和自身需求来理性判断。"
        return ins, "", output

    @staticmethod
    def case_analysis(topic, content, ctx=None):
        """案例分析类"""
        scenarios = [
            f"如果一个投资者完全不了解{topic}就贸然投入大量资金，可能会发生什么？",
            f"{topic}市场出现重大变化时，投资者应该采取什么策略？",
            f"请结合{topic}分析一个具体的金融投资案例。",
        ]
        ins = random.choice(scenarios)
        output = f"针对这个问题，我们以{topic}为切入点进行分析：\n\n"
        output += f"【背景知识】\n{content}\n\n"
        output += "【情景分析】\n"
        case_details = [
            f"假设一位投资者在尚未充分理解{topic}的情况下进行投资决策。如果市场走势与预期相反，由于缺乏对{topic}背后原理的理解，投资者可能无法及时识别风险信号，导致亏损扩大。",
            f"考虑一个具体场景：当与{topic}相关的宏观环境或政策发生重大变化时，了解{topic}的投资者可以提前做出预判和调整，而不了解的投资者则可能因信息不对称而处于被动地位。",
            f"从历史案例来看，不少投资者因对{topic}缺乏足够认识而做出了错误的资产配置决策。例如，忽视{topic}所揭示的风险信号，在市场转折点做出了反向操作。",
        ]
        output += random.choice(case_details) + "\n\n"
        output += "【经验教训】\n"
        output += f"第一，{topic}是金融投资中不可忽视的重要因素，应作为基本知识储备。第二，在实际操作中应结合{topic}进行全面的风险评估。第三，建议投资者在做出重大决策前咨询专业人士意见，避免仅凭片面理解而贸然行动。"
        return ins, "", output

    @staticmethod
    def data_interpret(topic, content, ctx=None):
        """数据解读类"""
        ins = f"如果{topic}的数据出现异常变化，可能说明了什么经济现象？"
        output = f"关于{topic}数据变化的解读：\n\n"
        output += f"首先，{topic}是衡量金融市场状况的重要指标，其数据变化通常反映了宏观经济和市场的整体走势。\n\n"
        output += f"具体来看：{content}\n\n"
        output += "投资者在解读数据时，应结合当时的宏观经济环境、政策导向和市场情绪等多方面因素综合分析，避免单一指标导向的决策偏见。"
        return ins, "", output

    @staticmethod
    def advice_guidance(topic, content, ctx=None):
        """建议指导类"""
        templates = [
            f"关于{topic}，给普通投资者的建议是什么？",
            f"新手在学习{topic}时应该注意哪些问题？",
            f"在{topic}的投资中，有哪些常见的误区需要避免？",
        ]
        ins = random.choice(templates)
        advice_items = [
            f"第一，充分理解{topic}的基本概念：{content}",
            "第二，从小额投入开始，逐步积累经验。",
            "第三，不要盲目跟风，要有自己的判断标准。",
            "第四，做好风险管理，合理配置资产比例。",
            "第五，持续学习更新知识，跟踪市场动态。",
        ]
        output = f"针对{topic}，给投资者的建议如下：\n\n"
        selected = random.sample(advice_items, min(4, len(advice_items)))
        output += "\n".join(selected)
        output += f"\n\n总之，{topic}既是机会也是挑战。保持理性、长期学习和稳健操作是投资成功的关键。"
        return ins, "", output


# ============ 生成引擎 ============

def generate_dataset():
    """主生成函数"""
    all_data = []
    template_methods = [
        InstructionTemplates.conceptual_explain,
        InstructionTemplates.compare_analysis,
        InstructionTemplates.how_to,
        InstructionTemplates.pros_cons,
        InstructionTemplates.principle_explain,
        InstructionTemplates.true_false_judge,
        InstructionTemplates.case_analysis,
        InstructionTemplates.data_interpret,
        InstructionTemplates.advice_guidance,
    ]
    
    seen_instructions = set()
    
    for domain, entries in KNOWLEDGE_BASE.items():
        for entry in entries:
            topic = entry["topic"]
            content = entry["content"]
            
            # 对每条知识条目生成 5-8 个不同角度的问答对
            num_generations = random.randint(5, 8)
            selected_templates = random.choices(template_methods, weights=[30, 15, 10, 10, 10, 5, 10, 5, 5], k=num_generations)
            
            for i, method in enumerate(selected_templates):
                # 给部分条目提供对比上下文
                ctx = None
                if method == InstructionTemplates.compare_analysis:
                    ctx = {"compare_with": ""}
                    other_entries = [e for e in entries if e["topic"] != topic]
                    if other_entries:
                        other = random.choice(other_entries)
                        ctx["compare_with"] = other["topic"]
                        # 组合两个知识点生成对比内容
                        combined_content = f"{content}\n\n对比而言，{other['topic']}的特点如下：{other['content']}"
                    else:
                        continue
                
                result = method(topic, content if not ctx else combined_content if ctx.get("compare_with") else content, ctx)
                if result[0] is None:
                    continue
                
                instruction, input_field, output = result
                
                # 去重
                ins_key = instruction.strip()[:50]
                if ins_key in seen_instructions:
                    # 给重复的指令加个后缀变体
                    variants = [
                        f"{instruction}（请以专业角度回答）",
                        f"{instruction}（请详细说明）",
                    ]
                    instruction = random.choice(variants)
                    ins_key = instruction.strip()[:50]
                    if ins_key in seen_instructions:
                        continue
                
                # 确保 output 长度
                if len(output) < 80:
                    output += f" 深入理解{topic}是投资理财的基础，建议投资者在决策前充分学习相关知识，并结合自身情况做出判断。"
                
                seen_instructions.add(ins_key)
                
                data_item = {
                    "instruction": instruction,
                    "input": input_field,
                    "output": output
                }
                all_data.append(data_item)
    
    # 补充生成综合题（涉及多个领域）
    combined_questions = generate_combined_questions()
    for item in combined_questions:
        ins_key = item["instruction"].strip()[:50]
        if ins_key not in seen_instructions:
            seen_instructions.add(ins_key)
            all_data.append(item)
    
    random.shuffle(all_data)
    return all_data


def generate_combined_questions():
    """生成跨主题的综合问题"""
    combined = []
    
    combined_templates = [
        {
            "instructions": [
                "请从宏观经济角度分析，加息对个人理财和股票市场分别有什么影响？",
                "在通胀环境下，普通投资者应该如何调整资产配置策略？",
                "请分析货币政策变化对不同类型基金（货币基金、债券基金、股票基金）的影响。",
                "从风险管理角度出发，一个完整的家庭理财方案应该包含哪些要素？",
                "当经济进入衰退周期时，个人投资者应该如何保护自己的财富？",
            ],
            "output": "从宏观经济和投资策略的交叉视角来看：\n"
                      "1. 宏观经济政策会直接影响各类资产的收益率和风险水平。\n"
                      "2. 个人理财需要结合经济周期阶段进行调整：繁荣期可增加股票配置，衰退期应增加债券和现金配置。\n"
                      "3. 风险管理是贯穿始终的核心原则，包括分散投资、设置止损和预留紧急备用金。\n"
                      "4. 保险在应对个人财务风险方面发挥着不可替代的作用，应在理财规划中优先考虑。\n"
                      "5. 长期来看，坚持定投优质资产、保持纪律性是最有效的理财策略。"
        },
        {
            "instructions": [
                "对比分析股票基金和指数基金在费率、风险和收益方面的差异，并给出投资建议。",
                "银行存款利率持续走低的情况下，有哪些替代性理财方式？",
                "请结合风险管理和资产配置理论，说明为什么不要把所有资金都投入到同一类资产中。",
                "从法律合规角度分析，P2P网络借贷风险事件频发的原因是什么？普通投资者应如何防范？",
                "税收优惠如何影响个人的长期理财规划？请结合个税递延型养老保险和专项附加扣除来分析。",
            ],
            "output": "从多角度综合分析：\n"
                      "1. 不同金融产品具有不同的风险-收益特征，没有绝对的好坏，只有是否适合。\n"
                      "2. 资产配置的核心在于利用不同资产之间的低相关性来降低整体组合的波动。\n"
                      "3. 税收筹划是个人理财中常被忽视但实际影响显著的因素，合理利用税收优惠可以显著提升长期收益。\n"
                      "4. 合规性审查是投资前的重要步骤，选择持牌金融机构的产品是基本的风险防范措施。\n"
                      "5. 普通投资者应优先学习基础金融知识，建立正确的投资理念，再逐步扩大投资范围。"
        },
        {
            "instructions": [
                "什么是系统性风险？个人投资者可以通过哪些方式来降低系统性风险对投资组合的冲击？",
                "请解释复利效应在长期投资中的重要性，并结合基金定投说明如何利用复利。",
                "股票技术分析和基本面分析各自的优缺点是什么？普通投资者应该优先学习哪一种？",
                "区块链技术和数字货币对传统金融体系带来了哪些挑战和机遇？",
                "请分析中国人口老龄化趋势对保险市场、养老金融和资本市场的影响。",
            ],
            "output": "综合金融多领域分析如下：\n"
                      "1. 系统性风险无法通过分散投资完全消除，但合理的资产配置（如股债平衡、跨国投资）可以降低其冲击。\n"
                      "2. 复利是投资最强大的力量之一，时间是复利的朋友。长期定投指数基金是利用复利的典型实践。\n"
                      "3. 对于普通投资者，建议先学习基本面分析建立价值判断能力，再辅以技术分析把握买卖时机。\n"
                      "4. 金融科技的发展既带来了创新便利，也带来了监管和安全挑战，投资者需要保持学习。\n"
                      "5. 人口结构变化将成为未来30年影响金融市场的最重要变量之一，养老规划和银发经济值得重点关注。"
        },
    ]
    
    for item in combined_templates:
        for ins in item["instructions"]:
            combined.append({
                "instruction": ins,
                "input": "",
                "output": item["output"]
            })
    
    return combined


# ============ 质量过滤 ============

def quality_filter(data, min_output_length=120):
    """质量过滤：去重、长度检查、格式检查"""
    filtered = []
    seen = set()
    duplicates_removed = 0
    short_removed = 0
    
    for item in data:
        instruction = item["instruction"].strip()
        output = item["output"].strip()
        
        # 检查长度
        if len(output) < min_output_length:
            short_removed += 1
            continue
        
        # 去重
        key = instruction[:60]
        if key in seen:
            duplicates_removed += 1
            continue
        seen.add(key)
        
        filtered.append(item)
    
    print(f"\n质量过滤结果:")
    print(f"  输入: {len(data)} 条")
    print(f"  去重移除: {duplicates_removed} 条")
    print(f"  过短移除: {short_removed} 条")
    print(f"  输出: {len(filtered)} 条")
    
    return filtered


def print_stats(data):
    """打印统计信息"""
    domains = list(KNOWLEDGE_BASE.keys())
    instruction_types = ["概念解释", "对比分析", "操作步骤", "利弊分析", "原理阐述", "纠错判断", "案例分析", "数据解读", "建议指导"]
    
    print(f"\n{'='*60}")
    print(f"数据集统计报告")
    print(f"{'='*60}")
    print(f"总条数: {len(data)}")
    
    # 统计 output 长度分布
    lengths = [len(item["output"]) for item in data]
    print(f"output 长度: 最短 {min(lengths)} 字 / 最长 {max(lengths)} 字 / 平均 {sum(lengths)//len(lengths)} 字")
    
    # 统计 instruction 长度分布
    ins_lengths = [len(item["instruction"]) for item in data]
    print(f"instruction 长度: 最短 {min(ins_lengths)} 字 / 最长 {max(ins_lengths)} 字 / 平均 {sum(ins_lengths)//len(ins_lengths)} 字")
    
    # output 长度分布
    short = len([l for l in lengths if l < 150])
    medium = len([l for l in lengths if 150 <= l < 300])
    long = len([l for l in lengths if l >= 300])
    print(f"output 长度分布: <150字: {short} 条 / 150-300字: {medium} 条 / >=300字: {long} 条")
    
    # 样例展示
    print(f"\n{'='*60}")
    print(f"5 条数据样例:")
    print(f"{'='*60}")
    for i, item in enumerate(data[:5]):
        print(f"\n--- 样例 {i+1} ---")
        print(f"instruction: {item['instruction'][:80]}{'...' if len(item['instruction']) > 80 else ''}")
        print(f"input: {item['input']}")
        print(f"output: {item['output'][:120]}{'...' if len(item['output']) > 120 else ''}")


# ============ 主流程 ============

if __name__ == "__main__":
    print("开始生成金融领域 SFT 微调数据集...")
    print(f"知识种子库概况：")
    for d, entries in KNOWLEDGE_BASE.items():
        print(f"  {d}: {len(entries)} 条知识条目")
    
    # 生成数据
    raw_data = generate_dataset()
    print(f"\n原始生成: {len(raw_data)} 条")
    
    # 质量过滤
    final_data = quality_filter(raw_data, min_output_length=120)
    
    # 如果不足 3000 条，补充生成
    extra_round = 0
    while len(final_data) < 3000 and extra_round < 3:
        extra_round += 1
        print(f"\n补充生成第 {extra_round} 轮...")
        more_data = generate_dataset()
        for item in more_data:
            if len(item["output"]) >= 120:
                key = item["instruction"].strip()[:60]
                if key not in {d["instruction"].strip()[:60] for d in final_data}:
                    final_data.append(item)
        print(f"当前总数: {len(final_data)}")
    
    # 截取到 3000+（不要太多冗余）
    final_data = final_data[:3500]
    print(f"\n最终数据量: {len(final_data)} 条")
    
    # 统计
    print_stats(final_data)
    
    # 写出 JSON 文件
    output_path = "/Users/tao/Movies/零基础大模型研发/4.homework/ch05/ch05-SFT微调数据集/ch05-sft-dataset.json"
    # 确保目录存在
    import os
    os.makedirs(os.path.dirname(output_path), exist_ok=True)
    
    with open(output_path, "w", encoding="utf-8") as f:
        json.dump(final_data, f, ensure_ascii=False, indent=2)
    
    print(f"\n数据集已保存到: {output_path}")
    print(f"文件大小: {os.path.getsize(output_path) / 1024:.1f} KB")
    
    # 另外输出 HuggingFace 格式（每行一个 JSON 对象）
    hf_path = output_path.replace(".json", "_hf.jsonl")
    with open(hf_path, "w", encoding="utf-8") as f:
        for item in final_data:
            f.write(json.dumps(item, ensure_ascii=False) + "\n")
    print(f"HuggingFace 格式已保存到: {hf_path}")