本文目录

财报PDF提取工具值得比一比,但只比一个“识别准确率”说明不了多少问题。数字读对、期间放对、科目匹配对,结果才进得了后续底稿。下面按评测口径、样本设计和复核记录来讲,再用一组故意做错的样例演示怎么打分。

评测前固定同一份标准答案

样本要覆盖电子PDF、扫描件、倾斜页、左右半表、跨页续表和不同的金额单位。先用获得使用授权的文件或自己编制的资料做出标准答案,记下主体、期间、表名、科目、金额、单位和页码。测试文件、答案和工具版本一起存档;每换一家工具就换一批更清楚的样本,结果就没法比了。

逐份评分,再按版式分组汇总。超时、失败和漏表都计入统计,不能只展示成功的那些件。人工修正后的结果和未经修正的输出,分开报告。

四类得分各算各的

指标本文建议的计算口径
金额精确率正确金额字段数÷应提取金额字段数
期间与科目一致率金额、期间、科目均正确的字段数÷应提取字段数
结构还原分别记录跨页拼接、合并格和左右半表错位
复核成本人工找错、纠正和验收的实际活动时间

字符错误率和单元格错误率的单位不同,从“字符准确率98%”推不出“2%的金额格出错”。公开的表格识别研究也把结构和内容一起纳入评估,TEDS是其中一种方法,见PubTabNet原始研究(https://arxiv.org/abs/1911.10683);但论文数据集上的分数,代表不了中文财务报表在实际工作里的表现。

金额没错,也可能放错了列

拿官网演示用的报表来说,资产总计期末1,500,000元、期初1,220,000元,期末现金500,000元。下表的错误是人为做出来的,不是哪家工具的实测结果:

构造错误必须识别的问题
资产总计变为150,000元漏位或数量级错误
1,500,000元被放入期初列期间错误,金额字符本身仍可能全对
500,000元重复写进现金和应收款科目匹配与重复归属错误
把“元”当“万元”单位转换错误

假设10个目标字段里有9个金额正确,其中1个期间放错,那么金额精确率是90%,金额、期间、科目同时正确的联合正确率只有80%。

验收看结果包

每个异常都要能回到原页或原表;未修正的输出、人工标准答案、差异和修正耗时都要保留。再看修正后是否需要重新上传,重新处理后同样的错误会不会再出现。用同一套流程比较几家工具,哪一家真正减少了重复整理,才看得出来。

复核结束、确认过的数据,才进入报表和审计报告初稿。快审计提供的是初稿处理流程;OCR识别、跨表算术和审计证据判断要分别验收,一项分数代替不了全部的专业工作。