WebAssembly AI 插件开发与浏览器端推理:预算先花在校验还是体验
·
WebAssembly AI 插件开发与浏览器端推理:预算先花在校验还是体验
预算有限时,我先量实际下载量和初始化时间,而不是立刻换推理模型。构建产物是否过大、缓存是否命中、是否重复加载,往往更容易验证。
可以先在浏览器网络面板里记录 wasm 文件大小、首屏加载和缓存后加载的差别。若要做浏览器端推理,输入应限定为用户主动选择的内容,推理输出明确标识为建议;人工确认后才进入业务流程。不要为了调试把输入文本上传到分析服务。
优化后在同一台测试设备、同一网络条件下复测。没有可比条件的“更快”结论,价值不大。
更多推荐


所有评论(0)