首页 > 目标检测之Faster-RCNN的pytorch代码详解(数据预处理篇)

目标检测之Faster-RCNN的pytorch代码详解(数据预处理篇)

首先贴上代码原作者的github:https://github.com/chenyuntc/simple-faster-rcnn-pytorch（非代码作者，博文只解释代码）

今天看完了simple-faster-rcnn-pytorch-master代码的最后一个train.py文件，是时候认真的总结一下了，我打算一共总结四篇博客用来详细的分析Faster-RCNN的代码的pytorch实现， 四篇博客的内容及目录结构如下：

1 Faster-RCNN的数据读取及预处理部分：(对应于代码的/simple-faster-rcnn-pytorch-master/data文件夹)：https://www.cnblogs.com/kerwins-AC/p/9734381.html 

2 Faster-RCNN的模型准备部分：(对应于代码目录/simple-faster-rcnn-pytorch-master/model/utils/文件夹)：https://www.cnblogs.com/kerwins-AC/p/9752679.html

3 Faster-RCNN的模型正式介绍：(对应于代码目录/simple-faster-rcnn-pytorch-master/model/文件夹)：         尚未完成

4 Faster-RCNN的训练代码部分：(对应于代码目录/simple-faster-rcnn-pytorch-master/train.py,trainer.py代码)：https://www.cnblogs.com/kerwins-AC/p/9728731.html

 本篇博客主要介绍代码的数据预处理部分的内容，对应于以下几个文件：

 首先是dataset.py文件，我们用函数流程图看一下它的结构：

 然后老规矩一个函数一个函数的分析它的内容和功能！

1 def inverse_normalize(img)函数代码如下：

1 def inverse_normalize(img):
2     if opt.caffe_pretrain:
3         img = img + (np.array([122.7717, 115.9465, 102.9801]).reshape(3, 1, 1))
4         return img[::-1, :, :]
5     # approximate un-normalize for visualize
6     return (img * 0.225 + 0.45).clip(min=0, max=1) * 255
inverse_normalize()

函数首先读取opt.caffe_pretrain判断是否使用caffe_pretrain进行预训练如果是的话，对图片进行逆正则化处理，就是将图片处理成caffe模型需要的格式

2 def pytorch_normalize(img) 函数代码如下：

 

1 def pytorch_normalze(img):
2     """
3     https://github.com/pytorch/vision/issues/223
4     return appr -1~1 RGB
5     """
6     normalize = tvtsf.Normalize(mean=[0.485, 0.456, 0.406],
7                                 std=[0.229, 0.224, 0.225])
8     img = normalize(t.from_numpy(img))
9     return img.numpy()
pytorch_normalize

 

函数首先设置归一化参数normalize=tvtsf.Normalize(mean=[0.485,0.456,0.406],std=[0.229,0.224,0.225]) 然后对图片进行归一化处理img=normalize(t.from_numpy(img))

3 def caffe_normalize(img)函数代码如下：

1 def caffe_normalize(img):
2     """
3     return appr -125-125 BGR
4     """
5     img = img[[2, 1, 0], :, :]  # RGB-BGR
6     img = img * 255
7     mean = np.array([122.7717, 115.9465, 102.9801]).reshape(3, 1, 1)
8     img = (img - mean).astype(np.float32, copy=True)
9     return img
caffe_normalize(img)

caffe的图片格式是BGR，所以需要img[[2,1,0],:,:]将RGB转换成BGR的格式，然后图片img = img*255 , mean = np.array([122.7717,115.9465,102.9801]).reshape(3,1,1)设置图片均值

然后用图片减去均值完成caffe形式的归一化处理

4 def preprocess(img, min_size=600, max_size=1000)函数代码如下：

 1 def preprocess(img, min_size=600, max_size=1000):
 2     """Preprocess an image for feature extraction.
 3 
 4     The length of the shorter edge is scaled to :obj:`self.min_size`.
 5     After the scaling, if the length of the longer edge is longer than
 6     :param min_size:
 7     :obj:`self.max_size`, the image is scaled to fit the longer edge
 8     to :obj:`self.max_size`.
 9 
10     After resizing the image, the image is subtracted by a mean image value
11     :obj:`self.mean`.
12 
13     Args:
14         img (~numpy.ndarray): An image. This is in CHW and RGB format.
15             The range of its value is :math:`[0, 255]`.
16 
17     Returns:
18         ~numpy.ndarray: A preprocessed image.
19 
20     """
21     C, H, W = img.shape
22     scale1 = min_size / min(H, W)
23     scale2 = max_size / max(H, W)
24     scale = min(scale1, scale2)
25     img = img / 255.
26     img = sktsf.resize(img, (C, H * scale, W * scale), mode='reflect',anti_aliasing=False)
27     # both the longer and shorter should be less than
28     # max_size and min_size
29     if opt.caffe_pretrain:
30         normalize = caffe_normalize
31     else:
32         normalize = pytorch_normalze
33     return normalize(img)
preprocess()

图片处理函数，C,H,W = img.shape 读取图片格式通道，高度，宽度 

Scale1 = min_size/min(H,W)

Scale2 = max_size / max(H,W)

Scale = min(scale1,scale2)设置放缩比，这个过程很直觉，选小的方便大的和小的都能够放缩到合适的位置

img  = img/ 255

img = sktsf.resize(img,(C,H*scale,W*scale),model='reflecct')将图片调整到合适的大小位于(min_size,max_size)之间、

然后根据opt.caffe_pretrain是否存在选择调用前面的pytorch正则化还是caffe_pretrain正则化

 

5 class Transform(object):代码如下

 

 1 class Transform(object):
 2 
 3     def __init__(self, min_size=600, max_size=1000):
 4         self.min_size = min_size
 5         self.max_size = max_size
 6 
 7     def __call__(self, in_data):
 8         img, bbox, label = in_data
 9         _, H, W = img.shape
10         img = preprocess(img, self.min_size, self.max_size)
11         _, o_H, o_W = img.shape
12         scale = o_H / H
13         bbox = util.resize_bbox(bbox, (H, W), (o_H, o_W))
14 
15         # horizontally flip
16         img, params = util.random_flip(
17             img, x_random=True, return_param=True)
18         bbox = util.flip_bbox(
19             bbox, (o_H, o_W), x_flip=params['x_flip'])
20 
21         return img, bbox, label, scale
Transform

 

__init__函数设置了图片的最小最大尺寸，本pytorch代码中min_size=600,max_size=1000

__call__函数中 从in_data中读取 img,bbox,label 图片，bboxes的框框和label

然后从_,H,W = img.shape读取出图片的长和宽

img = preposses(img,self.min_size,self.max_size)将图片进行最小最大化放缩然后进行归一化

_,o_H,o_W = img.shape 读取放缩后图片的shape 

scale = o_H/H 放缩前后相除，得出放缩比因子

bbox = util.reszie_bbox(bbox,(H,W),(o_H,o_W)) 重新调整bboxes框的大小

img,params = utils.random_flip(img.x_random =True,return_param=True)进行图片的随机反转，图片旋转不变性，增强网络的鲁棒性！

同样的对bboxes进行随机反转，最后返回img,bbox,label,scale

6 class Dataset 代码如下

 

 1 class Dataset:
 2     def __init__(self, opt):
 3         self.opt = opt
 4         self.db = VOCBboxDataset(opt.voc_data_dir)
 5         self.tsf = Transform(opt.min_size, opt.max_size)
 6 
 7     def __getitem__(self, idx):
 8         ori_img, bbox, label, difficult = self.db.get_example(idx)
 9 
10         img, bbox, label, scale = self.tsf((ori_img, bbox, label))
11         # TODO: check whose stride is negative to fix this instead copy all
12         # some of the strides of a given numpy array are negative.
13         return img.copy(), bbox.copy(), label.copy(), scale
14 
15     def __len__(self):
16         return len(self.db)
class Dataset

 

__init__初始化设置self.opt =opt ,self.db = VOCBboxDataset(opt.voc_data_dir)以及self.tsf = Transform(opt.min_size,opt.max_size) 

—getitem__可以简单的理解为从数据集存储路径中将例子一个个的获取出来，然后调用前面的Transform函数将图片,label进行最小值最大值放缩归一化，重新调整bboxes的大小，然后随机反转，最后将数据集返回！

7 class TestDataset 代码如下

 

 1 class TestDataset:
 2     def __init__(self, opt, split='test', use_difficult=True):
 3         self.opt = opt
 4         self.db = VOCBboxDataset(opt.voc_data_dir, split=split, use_difficult=use_difficult)
 5 
 6     def __getitem__(self, idx):
 7         ori_img, bbox, label, difficult = self.db.get_example(idx)
 8         img = preprocess(ori_img)
 9         return img, ori_img.shape[1:], bbox, label, difficult
10 
11     def __len__(self):
12         return len(self.db)
TestDataset

 

 

TestData完成的功能和前面类似，但是获取调用的数据集是不同的，因为def __init__(self,opt,split='test',use_difficult=True)可以看到它在从Voc_data_dir中获取数据的时候使用了split='test'也就是从test往后分割的部分数据送入到TestDataset的self.db中，然后在进行图片处理的时候，并没有调用transform函数，因为测试图片集没有bboxes需要考虑，同时测试图片集也不需要随机反转，反转无疑为测试准确率设置了阻碍！所以直接调用preposses()函数进行最大值最小值裁剪然后归一化就完成了测试数据集的处理！最后将整个self.db返回，至此，dataset.py介绍完毕

 

转载于:https://www.cnblogs.com/kerwins-AC/p/9734381.html

更多相关：

  • python归一化代码_python中的快速图像归一化

    我觉得你的时间安排得很慢。也许你的安装出了问题？在我试过这个测试程序：#!/usr/bin/python3import sysimport numpy as npimport cv2from PIL import Imagefrom profilehooks import profile@profiledef try_numpy(im...

  • Udacity机器人软件工程师课程笔记（三）-样本搜索和找回-基于漫游者号模拟器-使用moviepy输出测试视频

    6.方法测试 在这个部分我们要整体的测试我们的程序，对前面的知识和内容有一个整体的应用和概括。 这是Udacity提供的相应资料，在code文件夹中有一个Rover_Project_Test_Notebook.ipynb文件，提供了输出视频的笔记本文件。 由于个人喜好的原因，我选择了pycharm2019来运行此程序。 （1）...

  • 原生CSS设置预加载图片之前的默认背景图

    /*默认加载图片*/ .class-name { /*背景图片*/background: url(../../img/banner/banner-default.jpg) no-repeat center bottom;width: 100%;height: 861px; } .class-name:after { /*默认加载背景图...

  • OpenCV 学习笔记03 boundingRect、minAreaRect、minEnclosingCircle、boxPoints、int0、circle、rectangle函数的用法...

    函数中的代码是部分代码，详细代码在最后 1 cv2.boundingRect 作用：矩形边框（boundingRect），用于计算图像一系列点的外部矩形边界。 cv2.boundingRect(array) -> retval 参数： array - 灰度图像（gray-scale image）或 2D点集（ 2D point s...

  • 基于Keras的CNN/Densenet实现分类

    1. 定义网络的基本参数 定义输入网络的是什么： input = Input(shape=(240, 640, 3)) 反向传播时梯度下降算法 SGD一定会收敛，但是速度慢 Adam速度快但是可能不收敛 [link](https://blog.csdn.net/wydbyxr/article/details/84822806...

  • size_t和int区别

    size_t和int       size_t是一些C/C++标准在stddef.h中定义的。这个类型足以用来表示对象的大小。size_t的真实类型与操作系统有关。 在32位架构中被普遍定义为： typedef   unsigned int size_t; 而在64位架构中被定义为： typedef  unsigned lo...

  • slub object 内存布局

    我在 https://blog.csdn.net/wowricky/article/details/83218126 介绍了一种内存池，它的实现类似于linux 中打开slub_debug (1. make menuconfig: Kenel hacking -> Memory Debugging, 2. comand line中传入...

  • Rocksdb 写入数据后 GetApproximateSizes 获取的大小竟然为0？

    项目开发中需要从引擎 获取一定范围的数据大小，用作打点上报，测试过程中竟然发现写入了一部分数据之后通过GetApproximateSizes 获取写入的key的范围时取出来的数据大小竟然为0。。。难道发现了一个bug?（欣喜） 因为写入的数据是小于一个sst的data-block(默认是4K)，会不会因为GetApproximate...

  • matlab plot3d_号称轻量级MATLAB的数学工具—Maple 2019.2

    THE START更新堪称轻量级MATLAB的一款软件最新版-Maplesoft Maple 2019.2 中文版。Maple是符号和数字计算环境，也是一种多范式编程语言，由Maplesoft开发，还涵盖了技术计算的其他方面，包括可视化，数据分析，矩阵计算和MATLAB连接。MapleSim工具箱添加了用于多域物理建模和代码生成的...

  • 炫酷的def

    同学们，你们在学习他人的代码，是否见过这样的代码 def main(): def user_info(gender): 当你还是个小萌新时，你一定会认为这是个很牛逼的语法。 当你有了一点基础时，你一定会想要了解这个语法，并且尝试去使用它。 那么今天，我们便来了解这个牛语法。 有了一点点的python基础，我们来看这段代...

  • 【汇总】细数VSCode中那些能够真正意义提升开发效率、鲜为人知的快捷键

        自从用了这些快捷键，鼓励师也不需要了，代码开发效率蹭蹭提升！！！ ctrl+shift+[折叠代码 （这个比ctrl+k ctrl+l、ctrl+k ctr+j不知道好用多少倍！） ctrl+shift+]展开代码 ctrl+shift+T打开手贱不小心关掉的窗口 【推荐】ctrl+shift+O打开当前文件...

  • 设置Fetch快捷键Ctrl+Alt+Shift+1

    在提交代码之前，建议最好先Fetch代码下来（如果有冲突，系统会提示），然后再操作Merge到本地分支，这样做是为了避免有其他人同时修改了当前分支，如果直接用Ctrl+T（pull代码）极有可能覆盖本地分支最新代码，安全起见先Fetch代码（Ctrl+Alt+Shift+1）——所谓：小心驶得万年船！...

  • vim复制代码包含注释时格式会乱掉的解决办法

    每次复制代码时，如果代码里有 // 这样的注释就容易让格式乱掉，通过下面的设置就可以避免这种情况。 粘贴代码时取消自动缩进 VIM在粘贴代码时会自动缩进，把代码搞得一团糟糕，甚至可能因为某行的一个注释造成后面的代码全部被注释掉，我知道有同学这个时候会用vi去打开文件再粘贴上去（鄙人以前就是这样），其实需要先设置一下 s...

©2024 11GX.COM