精易论坛

标题: 请问大漠AI调用接口延迟太高了怎么解决 [打印本页]

作者: 超级无敌暴龙 时间: 2024-1-9 16:17
标题: 请问大漠AI调用接口延迟太高了怎么解决
直接识别一次要两千多毫秒，置信度已经0.9了，继续训练要触发早停了。
最初我也碰到过这个问题，但是当时是不知道为啥训练到一半中途中断而且训练成功，然后去调用接口就是这么高的延迟，重新完整的训练过后就好了
但这次无论怎么训练都是这么高的延迟是咋回事呢大佬们

作者: 大兔崽子 时间: 2024-1-9 16:21
大漠AI是什么....没接触过

作者: shixiansheng 时间: 2024-1-9 16:25
大漠不支持gpu加速，使用的是cpu你识别的时候看看是不是cpu占用过高？降低识别频率是否能解决问题？

作者: 超级无敌暴龙 时间: 2024-1-9 16:31

shixiansheng 发表于 2024-1-9 16:25
大漠不支持gpu加速，使用的是cpu你识别的时候看看是不是cpu占用过高？降低识别频率是否能解决问题？ ...

CPU甚至没超过10%，但确实又在识别，就是延迟非常高，这是啥情况呢大佬

作者: shixiansheng 时间: 2024-1-9 17:33

超级无敌暴龙发表于 2024-1-9 16:31
CPU甚至没超过10%，但确实又在识别，就是延迟非常高，这是啥情况呢大佬

你的模型有少图片，我做测试的时候图片少，识别大概在200毫秒左右的速度

补充内容 (2024-1-9 17:37):
你本地的环境配置版本发一下，使用的那个模型进行训练的。这东西我实际没后使用过，只是做过测试，效果还行，但是吃cpu严重，不能多窗口

作者: 287710971 时间: 2024-1-9 19:00
这个是有办法的,首先你得有个过得去的处理器,然后显卡用2000系列比如2060以上的显卡,对于polo训练是有很强的加速的

作者: 287710971 时间: 2024-1-9 19:01
除了这两个条件,win11系统还必须,这样子才会大大加速

作者: 超级无敌暴龙 时间: 2024-1-9 22:55
大佬们已经解决了哈哈

作者: 扯谈i 时间: 2024-1-9 23:04

超级无敌暴龙发表于 2024-1-9 22:55
大佬们已经解决了哈哈

咋解决的

作者: 超级无敌暴龙 时间: 2024-4-24 11:52

扯谈i 发表于 2024-1-9 23:04
咋解决的

其实就是我脑抽把加载模型的那句代码放在了循环里，所以每一次循环都要加载一边模型，所以才那么慢

欢迎光临精易论坛 (https://125.confly.eu.org/)