tensorRT程序设计框架_4

一。设计框架

  1.1 CaffeToGIEModel  函数中 先创建一个builder ->  createInferBuilder()

  1.2 利用builder 创建一个Network(createNetwork())

  1.3 解析caffe model

  1.4 指明哪一个tensor是输出

  1.5 创建引擎

  1.6 序列化引擎

  2.1 反序列化引擎

  2.2 创建run_time

  2.3 创建上下文

  

  做数据处理

  3.1 在gpu创建一个buffer(cudaMalloc(&buffers))

  3.2 把数据送到gpu buffer

  3.3 调用context.enqueue对数据进行处理

  4。做收尾工作,销毁之前创建的一些结构

   

原文地址:https://www.cnblogs.com/lvxiaoning/p/7774636.html