SVGArena 信息图评测
给所有模型同一道题目:把一段文字内容做成一张 SVG 信息图。每个模型跑 5 次采样,然后用自动化手段核验两件事——听不听话(指令遵循)和画坏没画坏(渲染质量),以画廊加榜单的形式呈现差异。
- 用 litellm 统一调用各模型 API,同一内容生成 5 次;
- 采样温度 0.8(顺便考察输出波动与创意多样性),max_tokens 放宽到 32768;
- 用 Playwright Chromium 把 SVG 渲染成 PNG——和浏览器里看到的是同一个引擎;
- 自动核验打分,前提是 SVG 合法且渲染成功,否则 0 分。
- 指令遵循(任务特定):纯净输出(恰好以
<svg>开头结尾、无废话)、比例合规、字体合规、浅色底; - 渲染质量(通用):文字无溢出、无重叠、无遮挡、间距合理、非空白。
榜单同时给出每个模型的平均成本(元/次)、平均耗时和稳定性 σ,可以按得分、成本或耗时分别排序。