目录
-
yolov5 pytorch工程准备与环境部署
-
yolov5训练数据准备
-
yolov5训练
-
pycharm远程连接
-
pycharm解释器配置
-
测试
1. yolov5 pytorch工程准备与环境部署
（1）下载yolov5工程pytorch版本源码
https://github.com/ultralytics/yolov5
（2）环境部署
用anaconda创建新的虚拟环境（如tp_env_yolov5）,并激活。在该环境下安装yolov5工程需要的python包。
pip install -r requirements.txt
或 conda install -r requirements.txt（3） 下载预训练权重
将weights文件夹下的download_weights.sh脚本文件移到上一层执行，下载不同网络规模的预训练权重。
2. yolov5训练数据准备
(1) 数据格式转换
新建voc_labels_yolov5.py文件，代码如下：
# _*_ utf-8 _*_
'''
通过该脚本将 JPEGs和xml文件转换为yolov5需要的数据格式。
'''
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
import random
from shutil import copyfile
# 根据自己的数据标签修改
#classes=["Pedestrian", "Cyclist", "Vehicle"]
classes = ["car", "bus", "truck", "nm_vehicle", "pedestrian", "s_pedestrian", "f_cyclist", "l_cyclist","b_cyclist"]
def clear_hidden_files(path):
dir_list = os.listdir(path)
for i in dir_list:
abspath = os.path.join(os.path.abspath(path), i)
if os.path.isfile(abspath):
if i.startswith("._"):
os.remove(abspath)
else:
clear_hidden_files(abspath)
def convert(size, box):
dw = 1./size[0]
dh = 1./size[1]
x = (box[0] + box[1])/2.0
y = (box[2] + box[3])/2.0
w = box[1] - box[0]
h = box[3] - box[2]
x = x*dw
w = w*dw
y = y*dh
h = h*dh
return (x,y,w,h)
def convert_annotation(xml_path, labels_path, image_id):
in_file = open(xml_path+'%s.xml' %image_id)
out_file = open(labels_path+'%s.txt' %image_id, 'w')
tree=ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
# difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes :
continue
cls_id = classes.index(cls)
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text), float(xmlbox.find('ymax').text))
bb = convert((w,h), b)
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '
')
in_file.close()
out_file.close()
if __name__ == "__main__":
wd = os.getcwd()
data_base_dir = os.path.join(wd, "NVS_DATA/")
if not os.path.isdir(data_base_dir):
os.mkdir(data_base_dir)
work_sapce_dir = os.path.join(data_base_dir, "ADAS_202108/")
if not os.path.isdir(work_sapce_dir):
os.mkdir(work_sapce_dir)
'''
create xml file foder,store our data
after folder created, move our xml data to this folder,then run this py again
'''
annotation_dir = os.path.join(work_sapce_dir, "xml/")
if not os.path.isdir(annotation_dir):
os.mkdir(annotation_dir)
clear_hidden_files(annotation_dir)#clear hidden files
'''
create image file foder,store our data
after folder created, move our image data to this folder,then run this py again
'''
image_dir = os.path.join(work_sapce_dir, "JPEGImages/")
if not os.path.isdir(image_dir):
os.mkdir(image_dir)
clear_hidden_files(image_dir)
'''
create label file foder, generate new data, translate from xml files
'''
yolo_labels_dir = os.path.join(work_sapce_dir, "labels/")
if not os.path.isdir(yolo_labels_dir):
os.mkdir(yolo_labels_dir)
clear_hidden_files(yolo_labels_dir)
yolov5_images_dir = os.path.join(data_base_dir, "images/")
if not os.path.isdir(yolov5_images_dir):
os.mkdir(yolov5_images_dir)
clear_hidden_files(yolov5_images_dir)
yolov5_labels_dir = os.path.join(data_base_dir, "labels/")
if not os.path.isdir(yolov5_labels_dir):
os.mkdir(yolov5_labels_dir)
clear_hidden_files(yolov5_labels_dir)
yolov5_images_train_dir = os.path.join(yolov5_images_dir, "train/")
if not os.path.isdir(yolov5_images_train_dir):
os.mkdir(yolov5_images_train_dir)
clear_hidden_files(yolov5_images_train_dir)
yolov5_images_test_dir = os.path.join(yolov5_images_dir, "val/")
if not os.path.isdir(yolov5_images_test_dir):
os.mkdir(yolov5_images_test_dir)
clear_hidden_files(yolov5_images_test_dir)
yolov5_labels_train_dir = os.path.join(yolov5_labels_dir, "train/")
if not os.path.isdir(yolov5_labels_train_dir):
os.mkdir(yolov5_labels_train_dir)
clear_hidden_files(yolov5_labels_train_dir)
yolov5_labels_test_dir = os.path.join(yolov5_labels_dir, "val/")
if not os.path.isdir(yolov5_labels_test_dir):
os.mkdir(yolov5_labels_test_dir)
clear_hidden_files(yolov5_labels_test_dir)
train_file = open(os.path.join(wd, "yolov5_train.txt"), 'w')
test_file = open(os.path.join(wd, "yolov5_val.txt"), 'w')
train_file.close()
test_file.close()
train_file = open(os.path.join(wd, "yolov5_train.txt"), 'a')
test_file = open(os.path.join(wd, "yolov5_val.txt"), 'a')
list_imgs = os.listdir(image_dir) # list image files
probo = random.randint(1, 100)
print("Probobility: %d" % probo)
for i in range(0,len(list_imgs)):
path = os.path.join(image_dir,list_imgs[i])
if os.path.isfile(path):
image_path = image_dir + list_imgs[i]
voc_path = list_imgs[i]
(nameWithoutExtention, extention) = os.path.splitext(os.path.basename(image_path))
(voc_nameWithoutExtention, voc_extention) = os.path.splitext(os.path.basename(voc_path))
annotation_name = nameWithoutExtention + '.xml'
annotation_path = os.path.join(annotation_dir, annotation_name)
label_name = nameWithoutExtention + '.txt'
label_path = os.path.join(yolo_labels_dir, label_name)
probo = random.randint(1, 100)
print("Probobility: %d" % probo)
if(probo < 80): # train dataset
if os.path.exists(annotation_path):
train_file.write(image_path + '
')
convert_annotation(annotation_dir, yolo_labels_dir,nameWithoutExtention) # convert label
copyfile(image_path, yolov5_images_train_dir + voc_path)
copyfile(label_path, yolov5_labels_train_dir + label_name)
else: # test dataset
if os.path.exists(annotation_path):
test_file.write(image_path + '
')
convert_annotation(annotation_dir, yolo_labels_dir,nameWithoutExtention) # convert label
copyfile(image_path, yolov5_images_test_dir + voc_path)
copyfile(label_path, yolov5_labels_test_dir + label_name)
train_file.close()
test_file.close()
注：该文件运行两次，一次生成相应的文件夹结构，将自己的jpg数据和标注xml数据拷贝到生成的文件夹里，再次执行该文件即可生成目标数据，不然为空。此处稍微繁琐，以后有时间简化。
通过该脚本将 JPEGs和xml文件转换为yolov5需要的数据格式。
（2）新建数据配置文件
在yolov5-master目录下的data文件夹下新建一个nvs.yaml文件（可以自定义命名），内容如下：
train: /home/tianpeng/tpWorkSpace/tpDemo/yolov5/tp_yolov5/tools/NVS_DATA/images/train/ #如果是远程的话，需要将本地生成的该文件夹传输至远程服务器，并配置相应路径
val: /home/tianpeng/tpWorkSpace/tpDemo/yolov5/tp_yolov5/tools/NVS_DATA/images/val/ #如果是远程的话，需要将本地生成的该文件夹传输至远程服务器，并配置相应路径
#如我的远程地址是：
#train: /home/zg-alg/Workspace/tpWork/tpTrainingData/yolov5_training_data/images/train/
#val: /home/zg-alg/Workspace/tpWork/tpTrainingData/yolov5_training_data/images/val/
# number of classes
nc: 9
# class names
names: ["car", "bus", "truck", "nm_vehicle", "pedestrian", "s_pedestrian", "f_cyclist", "l_cyclist","b_cyclist"]
(3) 修改模型配置文件
在models文件下选择训练用的网络模型，打开模型文件：
将类别（nc）修改为我们分类数，将anchors改成重新聚类的结果，也可以不改，保存退出。
3. yolov5训练
在train.py文件里进行以下几处修改：
以上参数解释如下：
epochs：指的就是训练过程中整个数据集将被迭代多少次,显卡不行你就调小点。
batch-size：一次看完多少张图片才进行权重更新，梯度下降的mini-batch,显卡不行你就调小点。
cfg：存储模型结构的配置文件
data：存储训练、测试数据的文件
img-size：输入图片宽高,显卡不行你就调小点。
rect：进行矩形训练
resume：恢复最近保存的模型开始训练
nosave：仅保存最终checkpoint
notest：仅测试最后的epoch
evolve：进化超参数
bucket：gsutil bucket
cache-images：缓存图像以加快训练速度
weights：权重文件路径
name： 重命名results.txt to results_name.txt
device：cuda device, i.e. 0 or 0,1,2,3 or cpu
adam：使用adam优化
multi-scale：多尺度训练，img-size +/- 50%
single-cls：单类别的训练集
开始训练：
训练过程可视化
利用tensorboard可视化训练过程，训练开始会在yolov5目录生成一个runs文件夹，利用tensorboard打开即可查看训练日志，命令如下：
tensorboard --logdir=runs
在浏览器中打开生成的链接即可查看。
4. pycharm远程连接服务器
pycharm需要专业版，社区版不行。
Pycharm菜单栏，如下图所示，依次点击 Tools -> Deployment -> Configration…
Connection下，协议最好选择sftp，接下来填写服务器主机IP，用户名，密码。
Mappings下可先不配，后面配置解释器再将其关联起来。
5. pycharm解释器配置
使用服务器调试Python程序的前提时在服务器上安装了Python解释器，如果没安装，请先安装。
在菜单栏，File -> Settings… -> Project ×× -> Project Interpreter，点击右侧 Add按钮，添加解释器。
选择SSH Interpreter，Existing server configuration,选择上一步连接的服务器，如果没有则新建一个服务器连接。
选择远程服务器上Python解释器的位置，服务器上的远程同步文件夹Sync folders，可以选择多个。如果不知道Python安装在哪，可以远程连接服务器后，使用 命令 which python 找到Python安装位置。
点击Sync folder 右侧的文件夹图标，填写本地工程目录和要映射到服务器的工程路径，这一步将上一步mappings关联起来。
Finish，配置结束。该项目现在使用的就是远程服务器上的Python解释器了。以后的项目若想/不想使用该解释器，手动更改解释器即可。
使用远程解释器运行本地Python程序
将测试代码上传至远程服务器（Tools -> Deployment -> Upload to ××）。
将服务器程序生成的模型文件或文件夹下载到本地如下操作：
Tools -> Deployment -> Browse Remote Host， 选择相应文件或文件夹，下载下来即可。
执行测试代码，可以看到现在代码是在远程服务器上运行了。
6. 测试
测试图片：
python detect.py --source ../../../tpAdasData/images_dir/test_set/guide5000/ --weights ./runs/train/exp4/weights/best.pt
测试视频：
python detect.py --source ../../test_video/car_sunny_20210508.avi --weights ./runs/train/exp4/weights/best.pt