时响应需要本地部署一个小规模的推理服务端。如果调用云端API,延迟会在两秒以上。"
"那就本地部署。
"严红说,身体微微前倾,手指在屏幕边缘点了一下,"预算够不够?"
"够。轻量化模型本地跑得起来,不需要满血版本。"
方强说着,指尖在键盘上快速敲击,屏幕上出现了一行新的代码注释。
他敲完之后抬起头,像是想起了什么,"对了,我认识DeepSeek的技术支持,他们有个轻量版的推理框架,资源占用很低,适合本地部署。
如果接入他们的服务,不仅响应快,还能做定制化微调,把这个小程序变成一个小型行业应用。"
"DeepSeek?"
她的笔尖在纸面上移动的速度比之前更快了一些,笔触也更重,像是要把那个新的锚点直接钉进图纸里。
方强看着她的动作,等她把虚线画完才开口:
"严姐,如果接入DeepSeek,我需要把方案里的数据接口文档做一轮升级。
把自然语言查询的字段定义加进去,还要预留一个反馈日志的存储结构,不然微调没有数据基础。"
"需要多久?"
"加上测试,天亮之前能做完。"
"那就做。"
凌晨六点十分,严红靠在椅背上闭了一会儿眼睛。
方强正在做最后的系统检查,键盘的敲击声比之前轻了一些,像是在用更柔和的方式完成收尾工作。
他检查完最后一个接口,保存文件,然后站起来,走到窗边。
他转过身,看着严红。
她闭着眼睛靠着椅背。
那件藏青色的外套在晨光中被镀上一层极淡的暖色。
领口边缘的布料在她低头的时候折出一道不规则的线条,露出底下一小截月白色的打底衫。
她感觉到了那道目光。她没有睁眼,只是说了一句:
"看什么。"