在Caffe中调用TensorRT提供的MNIST model
在TensorRT 2.1.2中提供了MNIST的model，这里拿来用Caffe的代码调用实现，原始的mnist_mean.binaryproto文件调整为了纯二进制文件mnist_tensorrt_mean.binary，测试结果与使用TensorRT调用(http://blog.csdn.net/fengbingchun/article/details/78552908)一致：
测试代码如下：
#include "funset.hpp"
#include <memory>
#include <fstream>
#include <tuple>
#include "common.hpp"int mnist_tensorrt_predict()
{
#ifdef CPU_ONLYcaffe::Caffe::set_mode(caffe::Caffe::CPU);
#elsecaffe::Caffe::set_mode(caffe::Caffe::GPU);
#endifconst std::string deploy_file{ "E:/GitCode/Caffe_Test/test_data/model/mnist/mnist_tensorrt.prototxt" };const std::string model_filename{ "E:/GitCode/Caffe_Test/test_data/model/mnist/mnist_tensorrt.caffemodel" };const std::string mean_file{ "E:/GitCode/Caffe_Test/test_data/model/mnist/mnist_tensorrt_mean.binary" };const std::string image_path{ "E:/GitCode/Caffe_Test/test_data/images/handwritten_digits/" };caffe::Net<float> caffe_net(deploy_file, caffe::TEST);caffe_net.CopyTrainedLayersFrom(model_filename);// print net infofprintf(stdout, "input blob num: %d, output blob num: %d\n", caffe_net.num_inputs(), caffe_net.num_outputs());const boost::shared_ptr<caffe::Blob<float> > blob_by_name = caffe_net.blob_by_name("data");int image_num = blob_by_name->num();int image_channel = blob_by_name->channels();int image_height = blob_by_name->height();int image_width = blob_by_name->width();fprintf(stdout, "inpub blob shape(num, channels, height, width): %d, %d, %d, %d\n",image_num, image_channel, image_height, image_width);fprintf(stdout, "layer names: ");for (int i = 0; i < caffe_net.layer_names().size(); ++i) {fprintf(stdout, " %s ", caffe_net.layer_names()[i].c_str());}fprintf(stdout, "\nblob names: ");for (int i = 0; i < caffe_net.blob_names().size(); ++i) {fprintf(stdout, " %s ", caffe_net.blob_names()[i].c_str());}fprintf(stdout, "\nlayer types: ");for (int i = 0; i < caffe_net.layers().size(); ++i) {fprintf(stdout, " %s ", caffe_net.layers()[i]->type());}const std::vector<caffe::Blob<float>*> output_blobs = caffe_net.output_blobs();fprintf(stdout, "\noutput blobs num: %d, blob(num, channel, heihgt, width): %d, %d, %d, %d\n",output_blobs.size(), output_blobs[0]->num(), output_blobs[0]->channels(), output_blobs[0]->height(), output_blobs[0]->width());const int image_size{ image_num * image_channel * image_height * image_width };std::unique_ptr<float[]> mean_values(new float[image_size]);std::ifstream in(mean_file.c_str(), std::ios::in | std::ios::binary);if (!in.is_open()) {fprintf(stderr, "read mean file fail: %s\n", mean_file.c_str());return -1;}in.read((char*)mean_values.get(), image_size * sizeof(float));in.close();const std::vector<int> target{ 0, 1, 2, 3, 4, 5, 6, 7, 8, 9 };typedef std::tuple<int, float> result;std::vector<result> results;for (const auto& num : target) {std::string str = std::to_string(num);str += ".png";str = image_path + str;cv::Mat mat = cv::imread(str.c_str(), 0);if (!mat.data) {fprintf(stderr, "load image error: %s\n", str.c_str());return -1;}cv::resize(mat, mat, cv::Size(image_width, image_height));mat.convertTo(mat, CV_32FC1);float* p = (float*)mat.data;for (int i = 0; i < image_size; ++i) {p[i] -= mean_values.get()[i];}const std::vector<caffe::Blob<float>*>& blob_input = caffe_net.input_blobs();blob_input[0]->set_cpu_data((float*)mat.data);const std::vector<caffe::Blob<float>*>& output_blob_ = caffe_net.Forward(nullptr);const float* output = output_blob_[0]->cpu_data();float tmp{ -1.f };int pos{ -1 };for (int j = 0; j < output_blobs[0]->count(); j++) {if (tmp < output[j]) {pos = j;tmp = output[j];}}result ret = std::make_tuple(pos, tmp);results.push_back(ret);}for (auto i = 0; i < target.size(); i++)fprintf(stdout, "actual digit is: %d, result digit is: %d, probability: %f\n",target[i], std::get<0>(results[i]), std::get<1>(results[i]));fprintf(stdout, "predict finish\n");return 0;
}
执行结果如下：
GitHub： https://github.com/fengbingchun/Caffe_Test
相关文章：
142页ICML会议强化学习笔记整理，值得细读
作者 | David Abel编辑 | DeepRL来源 | 深度强化学习实验室（ID: Deep-RL）ICML 是 International Conference on Machine Learning的缩写，即国际机器学习大会。ICML如今已发展为由国际机器学习学会（IMLS）主办的年度机器…
CF1148F - Foo Fighters
CF1148F - Foo Fighters 题意：你有n个物品，每个都有val和mask。 你要选择一个数s，如果一个物品的mask & s含有奇数个1，就把val变成-val。 求一个s使得val总和变号。 解：分步来做。发现那个奇数个1可以变成&#x…
html传參中？和amp;
<a href"MealServlet?typefindbyid&mid<%m1.getMealId()%> 在这句传參中？之后的代表要传递的參数当中有两个參数第一个为type第二个为mid假设是一个參数就不用加&假设是多个參数须要加上&来传递
实战：手把手教你实现用语音智能控制电脑 | 附完整代码
作者 | 叶圣出品 | AI科技大本营（ID:rgznai100）导语：本篇文章将基于百度API实现对电脑的语音智能控制，不需要任何硬件上的支持，仅仅依靠一台电脑即可以实现。作者经过测试，效果不错，同时可以依据…
C++/C++11中左值、左值引用、右值、右值引用的使用
C的表达式要不然是右值(rvalue)，要不然就是左值(lvalue)。这两个名词是从C语言继承过来的，原本是为了帮助记忆：左值可以位于赋值语句的左侧，右值则不能。 在C语言中，二者的区别就没那么简单了。一个左值表达式的求值结…
Could not create the view: An unexpected exception was thrown. Myeclipse空间报错
转载于:https://blog.51cto.com/82654993/1424339
Banknote Dataset(钞票数据集)介绍
Banknote Dataset(钞票数据集)：这是从纸币鉴别过程中的图像里提取的数据，用来预测钞票的真伪的数据集。该数据集中含有1372个样本，每个样本由5个数值型变量构成，4个输入变量和1个输出变量。小波变换工具用于从图像中提取特征。这是…
快速适应性很重要，但不是元学习的全部目标
作者 | Khurram Javed, Hengshuai Yao, Martha White译者 | Monanfei出品 | AI科技大本营（ID:rgznai100）实践证明，基于梯度的元学习在学习模型初始化、表示形式和更新规则方面非常有效，该模型允许从少量样本中进行快速适应。这些方…
面试题-自旋锁，以及jvm对synchronized的优化
背景 想要弄清楚这些问题，需要弄清楚其他的很多问题。 比如，对象，而对象本身又可以延伸出很多其他的问题。 我们平时不过只是在使用对象而已，怎么使用？就是new 对象。这只是语法层面的使用，相当于会了一门编…
DNS解析故障
在实际应用过程中可能会遇到DNS解析错误的问题，就是说当我们访问一个域名时无法完成将其解析到IP地址的工作，而直接输入网站IP却可以正常访问，这就是因为DNS解析出现故障造成的。这个现象发生的机率比较大，所以本文将从零起步教给…
cinder存储服务
一、cinder 介绍： 理解 Block Storage 操作系统获得存储空间的方式一般有两种： 1、通过某种协议（SAS,SCSI,SAN,iSCSI 等）挂接裸硬盘，然后分区、格式化、创建文件系统；或者直接使用裸硬盘存储数据࿰…
Ubuntu 14.04 64位机上配置Android Studio操作步骤
Android Studio是一个为Android平台开发程序的集成开发环境。2013年5月16日在Google I/O上发布，可供开发者免费使用。Android Studio基于JetBrains IntelliJ IDEA，为Android开发特殊定制，并在Windows、OS X和Linux平台上均可运行。1. 从 htt…
大规模1.4亿中文知识图谱数据，我把它开源了
作者 | Just出品 | AI科技大本营（ID:rgznai100）人工智能从感知阶段逐步进入认知智能的过程中，知识图谱技术将为机器提供认知思维能力和关联分析能力，可以应用于机器人问答系统、内容推荐等系统中。不过要降低知识图谱技术应用的门…
使用CSS 3创建不规则图形
2019独角兽企业重金招聘Python工程师标准>>> 前言 CSS 创建复杂图形的技术即将会被广泛支持，并且应用到实际项目中。本篇文章的目的是为大家开启它的冰山一角。我希望这篇文章能让你对不规则图形有一个初步的了解。 现在，我们已经可以使用CSS…
谷歌丰田联合成果ALBERT了解一下：新轻量版BERT，参数小18倍，性能依旧SOTA
作者 | Less Wright编译 | ronghuaiyang来源 | AI公园（ID:AI_Paradise）【导读】这是来自Google和Toyota的新NLP模型，超越Bert，参数小了18倍。你以前的NLP模型参数效率低下，而且有些过时。祝你有美好的一天。谷歌Resear…
C++中extern C的使用
C程序有时需要调用其它语言编写的函数，最常见的是调用Ｃ语言编写的函数。像所有其它名字一样，其它语言中的函数名字也必须在C中进行声明，并且该声明必须指定返回类型和形参列表。对于其它语言编写的函数来说，编译器检查…
Linux之tmpwatch命令
1、tmpwatch命令功能简介[rootvms002 /]# whatis tmpwatch tmpwatch (8) - removes files which havent been accessed for a period of... #删除一段时间内未被访问的文件tmpwatch删除最近一段时间内没有被访问的文件，时间以小时为单位，节省磁盘空间。…
你不得不知道的Visual Studio 2012（1）- 每日必用功能
2019独角兽企业重金招聘Python工程师标准>>> Visual Studio 2012已经正式发布，有很多花哨的新特性，也有很多方便使用者的新功能，当然也有负面声音。对于我们程序员，最关心的还是如何快速掌握VS2012，用于平时…
C++11中std::unique_lock的使用
std::unique_lock为锁管理模板类，是对通用mutex的封装。std::unique_lock对象以独占所有权的方式(unique owership)管理mutex对象的上锁和解锁操作，即在unique_lock对象的声明周期内，它所管理的锁对象会一直保持上锁状态；而unique…
为何Google将几十亿行源代码放在一个仓库？| CSDN博文精选
作者 | Rachel Potvin，Josh Levenberg译者 | 张建军编辑 | apddd【AI科技大本营导读】与大多数开发者的想象不同，Google只有一个代码仓库——全公司使用不同语言编写的超过10亿文件，近百TB源代码都存放在自行开发的版本管理系统Piper中&#…
小小hanoi
为什么80%的码农都做不了架构师？>>> View Code #include " iostream " using namespace std; int k 0 ; void hanoi( int m , char a , char b, char c){ if (m 1 ) { k ; printf( " %c->%c " ,a , c); return…
Unity3D心得分享
本篇文章的内容以各种tips为主，不间断更新 2019/05/10 最近更新： 使用Instantiate初始化参数去实例对象 Unity DEMO学习 Unity3D Adam Demo的学习与研究 Unity3D The Blacksmith Demo部分内容学习 Viking Village维京村落demo中的地面积水效果 Viking V…
django搭建示例-ubantu环境
python3安装--------------------------------------------------------------------------- 最新的django依赖python3,同时ubantu系统默认自带python2与python3，这里单独安装一套python3，并且不影响原来的python环境 django demo使用sqlite3，…
C++11中std::lock_guard的使用
互斥类的最重要成员函数是lock()和unlock()。在进入临界区时，执行lock()加锁操作，如果这时已经被其它线程锁住，则当前线程在此排队等待。退出临界区时，执行unlock()解锁操作。更好的办法是采用”资源分配时初始化”(RAII)方法来加…
OpenAI机械手单手轻松解魔方，背靠强化学习+新技术ADR
编译 | 夕颜出品 | AI科技大本营（ID:rgznai100）【导读】10月15日，人工智能研究机构OpenAI发布了一条机械手单手解魔方的视频。这个自学式的类人机器人手臂名为 Dactyl，不仅可以单手解魔方，甚至能在外加各种干扰&#x…
AMD and CMD are dead之js模块化黑魔法
缘由 在2013-03-06 13:58的时候，曾甩下一片文章叫：《为什么不使用requirejs和seajs》，并放下豪言说发布一款完美的模块化库，再后来就把那篇文章删了，再然后就没有然后。该用seajs还用seajs，甚至我码的SCJ都…
一文了解Python常见的序列化操作
关于我 编程界的一名小小程序猿，目前在一个创业团队任team lead，技术栈涉及Android、Python、Java和Go，这个也是我们团队的主要技术栈。 联系：hylinux1024gmail.com 0x00 marshal marshal使用的是与Python语言相关但与机器无关的二…
TEE(Trusted Execution Environment)简介
TEE(Trusted Execution Environment)，可信执行环境，该环境可以保证不被常规操作系统干扰的计算，因此称为”可信”。这是通过创建一个可以在TrustZone的”安全世界”中独立运行的小型操作系统实现的，该操作系统以系统调用(由TrustZ…
自动驾驶关键环节：行人的行为意图建模和预测(上)
作者 | 黄浴出品 | AI科技大本营（ID:rgznai100）【导读】介绍一下最近行人行为意图建模和预测的研究工作，还是分上下两部分，本文为上半部分。Social LSTM: Human Trajectory Prediction in Crowded Spaces比较早的是斯坦福大学 201…
自定义windows下自动清除文件夹或者文件的只读属性的脚本
脚本内容入下：其中脚本中 ”/d"作用 （可以用来改变当前驱动器目录）例如： 我现在是在D盘，现在我要切换到C:\windows目录 脚本参数中 ATTRIB -R /S /D 解释内容如下：（上述脚本参数中的 cd …