本文目录
财报PDF提取工具值得比一比,但只比一个“识别准确率”说明不了多少问题。数字读对、期间放对、科目匹配对,结果才进得了后续底稿。下面按评测口径、样本设计和复核记录来讲,再用一组故意做错的样例演示怎么打分。
评测前固定同一份标准答案
样本要覆盖电子PDF、扫描件、倾斜页、左右半表、跨页续表和不同的金额单位。先用获得使用授权的文件或自己编制的资料做出标准答案,记下主体、期间、表名、科目、金额、单位和页码。测试文件、答案和工具版本一起存档;每换一家工具就换一批更清楚的样本,结果就没法比了。
逐份评分,再按版式分组汇总。超时、失败和漏表都计入统计,不能只展示成功的那些件。人工修正后的结果和未经修正的输出,分开报告。
四类得分各算各的
| 指标 | 本文建议的计算口径 |
|---|---|
| 金额精确率 | 正确金额字段数÷应提取金额字段数 |
| 期间与科目一致率 | 金额、期间、科目均正确的字段数÷应提取字段数 |
| 结构还原 | 分别记录跨页拼接、合并格和左右半表错位 |
| 复核成本 | 人工找错、纠正和验收的实际活动时间 |
字符错误率和单元格错误率的单位不同,从“字符准确率98%”推不出“2%的金额格出错”。公开的表格识别研究也把结构和内容一起纳入评估,TEDS是其中一种方法,见PubTabNet原始研究(https://arxiv.org/abs/1911.10683);但论文数据集上的分数,代表不了中文财务报表在实际工作里的表现。
金额没错,也可能放错了列
拿官网演示用的报表来说,资产总计期末1,500,000元、期初1,220,000元,期末现金500,000元。下表的错误是人为做出来的,不是哪家工具的实测结果:
| 构造错误 | 必须识别的问题 |
|---|---|
| 资产总计变为150,000元 | 漏位或数量级错误 |
| 1,500,000元被放入期初列 | 期间错误,金额字符本身仍可能全对 |
| 500,000元重复写进现金和应收款 | 科目匹配与重复归属错误 |
| 把“元”当“万元” | 单位转换错误 |
假设10个目标字段里有9个金额正确,其中1个期间放错,那么金额精确率是90%,金额、期间、科目同时正确的联合正确率只有80%。
验收看结果包
每个异常都要能回到原页或原表;未修正的输出、人工标准答案、差异和修正耗时都要保留。再看修正后是否需要重新上传,重新处理后同样的错误会不会再出现。用同一套流程比较几家工具,哪一家真正减少了重复整理,才看得出来。
复核结束、确认过的数据,才进入报表和审计报告初稿。快审计提供的是初稿处理流程;OCR识别、跨表算术和审计证据判断要分别验收,一项分数代替不了全部的专业工作。