假设我想在边缘设备或其他架构上运行easyocr。如果我能将加载/推理策略对象注入到easyocr的示例中,那么这样做会非常容易,例如:easyocr.Reader(..., new ModelInterfaceImpl())
。默认实现可能是PyTorch,也可以提供开箱即用的ONNX替代实现。
类似于这样(高层次定义):
DetectModelInterface {
abstract load()/init()
abstract predict()
abstract batch_predict()
abstract release()/close()/unload()
}
RecogModelInterface {
... same methods with different signatures
}
通过这种机制,我可以为Rockchip的NPU或Google Coral实现这个接口,并在具有硬件加速的边缘设备上运行easyocr,而无需依赖/安装PyTorch。还可以交换实现并测试各种模型组合。
1条答案
按热度按时间fae0ux8s1#
我同意,能够在树莓派或其他边缘设备上运行它将是非常棒的。