Chinaunix首页 | 论坛 | 博客
  • 博客访问: 5077669
  • 博文数量: 1200
  • 博客积分: 12961
  • 博客等级: 上将
  • 技术积分: 14456
  • 用 户 组: 普通用户
  • 注册时间: 2009-01-09 11:25
  • 认证徽章:
个人简介

偷得浮生半桶水(半日闲), 好记性不如抄下来(烂笔头). 信息爆炸的时代, 学习是一项持续的工作.

文章分类

全部博文(1200)

文章存档

2019年(177)

2018年(81)

2017年(80)

2016年(70)

2015年(52)

2014年(41)

2013年(51)

2012年(85)

2011年(45)

2010年(231)

2009年(287)

分类: 其他平台

2019-07-31 13:53:02

https://zhuanlan.zhihu.com/p/59291168

第五讲 机器人感知

1.机器视觉(图像校准、图像识别等)

ROS中的图像数据(二维图像)

显示图像类型

 roslaunch usb_cam usb_cam-test.launch 		
   rostopic info /usb_cam/image_raw 

查看图像消息

 rosmsg show sensor_msgs/Image 
  • Header:消息头,包含消息序号,时间戳和绑定坐标系
  • height:图像的纵向分辨率
  • width:图像的横向分辨率
  • encoding:图像的编码格式,包含RGB、YUV等常用格式,不涉及图像压缩编码
  • is_bigendian:图像数据的大小端存储模式
  • step:一行图像数据的字节数量,作为数据的步长参数
  • data:存储图像数据的数组,大小为step*height个字节

1080*720分辨率的摄像头产生一帧图像的数据大小是 3*1080*720=2764800字节,即2.7648MB

压缩图像消息

 rosmsg show sensor_msgs/CompressedImage
  • format:图像的压缩编码格式(jpeg,png,bmp)
  • data:存储图像数据数组

显示点云类型

roslaunch freenet_launch freenect.launch 	
rostopic info /camera/depth_registered/points 

查看点云消息

 rosmsg show sensor_msgs/PointCloud2 
  • height:点云图像的纵向分辨率
  • width:点云图像的横向分辨率
  • fields:每个点的数据类型
  • is_bigendian:数据的大小端存储模式
  • point_step:单点的数据字节步长
  • row_step:一列数据的字节步长
  • data:点云数据的存储数组,总字节大小为row_step*height
  • is_dense:是否有无效点

点云单帧数据量也很大,如果使用分布式网络传输,需要考虑能否满足数据的传输要求,或者针对数据进行压缩

摄像头标定

摄像头为什么要标定

摄像头这种精密仪器对光学器件的要求较高,由于摄像头内部与外部的一些原因,生成的物体图像往往会发生畸变,为避免数据源造成的误差,需要针对摄像头的参数进行标定

安装标定功能包

 sudo apt-get install ros-kinetic-camera-calibration 

摄像头标定流程

1.启动摄像头

 roslaunch robot_vision usb_cam.launch 

2.启动标定包

rosrun camera_calibration cameracalibrator.py --size 8x6 --square 0.024 image:=/usb_cam/image_raw camera:=/usb_cam 
  • 1.size:标定棋盘格的内部角点个数,这里使用的棋盘一共有六行,每行有8个内部角点
  • 2.square:这个参数对应每个棋盘格的边长,单位是米
  • 3.image和camera:设置摄像头发布的图像话题
  • X:标定靶在摄像头视野中的左右移动
  • Y:标定靶在摄像头视野中的上下移动
  • Size:标定靶在摄像头视野中的前后移动
  • Skew:标定靶在摄像头视野中的倾斜转动

终端中的标定结果

标定结果保存路径 /tmp/calibrationdata.tar.gz

Kinect标定流程

1).启动Kinect

roslaunch robot_vision freenect.launch 

2).启动彩色摄像头

rosrun camera_calibration cameracalibrator.py image:=/camera/rgb/image_raw camera:=/camera/rgb --size 8x6 --square 0.024 

3).标定红外摄像头

rosrun camera_calibration cameracalibrator.py image:=/camera/ir/image_raw camera:=/camera/ir --size 8x6 --square 0.024 

摄像头如何使用标定文件

Kinect如何使用标定文件

使用标定文件时可能产生的错误

原因:标定文件中camera_name参数与实际传感器名称不匹配

解决方法:按照警告提示的信息进行修改即可。

ROS+OpenCV应用实例(人脸识别、物体跟踪)

OpenCV:Open Source Computer Vision Library

实现了图像处理和计算机视觉方面的很多通用算法,而且对非商业应用和商业应用都是免费的

安装OpenCV

sudo apt-get install ros-kinetic-vision-opencv libopencv-dev python-opencv 

测试例程

 roslaunch robot_vision usb_cam.launch
	rosrun robot_vision cv_bridge_test.py
	rqt_image_view

imgmsg_to_cv2();将ROS图像消息转换成OpenCV图像数据

cv2_to_imgmsg():将OpenCV格式的图像数据转换成ROS图像消息

输入参数:1).图像消息流 2).转换的图像数据格式

人脸识别流程

图像输入 输出结果

基于Haar特征的级联分类器对象检测算法

启动人脸识别实例

roslaunch robot_vision usb_cam.launch roslaunch robot_vision face_detector.launch rqt_image_view 

初始化部分:完成ROS节点、图像、识别参数的设置。

ROS图像回调函数:将图像转化成OpenCV的数据格式,然后预处理之后开始调用人脸识别的功能函数,最后把识别的结果发布。

人脸识别:调用OpenCV提供的人脸识别接口,与数据库中的人脸特征进行匹配。

跟踪物体的特征点


启动物体跟踪实例

roslaunch robot_vision usb_cam.launch
roslaunch robot_vision motion_detector.launch
rqt_image_view

初始化部分:完成ROS节点、图像、识别参数的设置

图像处理:将图像转换成OpenCV格式;完成图像预处理之后开始针对两帧图像进行比较,基于图像差异识别到运动的物体,最后标识识别结果并发布

二维码识别

安装二维码识别功能包

 sudo apt-get install ros-kinect-ar-track-alvar

创建二维码

 rosrun ar_track_alvar createMarker
	rosrun ar_track_alvar createMarker 0
	
	roscd robot_vision/config
	rosrun ar_track_alvar createMarker -s 5 0
	rosrun ar_track_alvar createMarker -s 5 1
	rosrun ar_track_alvar createMarker -s 5 2

二维码识别(摄像头)

启动摄像头二维码识别示例

 roslaunch robot_vision usb_cam_with_calibration.launch
	roslaunch robot_vision ar_track_camera.launch

启动摄像头时,需要加载标定文件,否则可能无法识别二维码

查看识别到的二维码位姿

 rostopic echo /ar_pose_marker

二维码识别(Kinect)

启动Kinect二维码识别示例

 roslaunch robot_vision freenect.launch
	roslaunch robot_vision ar_track_kinect.launch

扩展内容:物体识别与机器学习

Object Recognition Kitchen(ORK)

2.机器语音

语言识别理论模型

常用语音功能包

  • pocketsphinx:集成CMU Sphinx和Festival开源项目中的代码,实现语音识别的功能
  • audio-common:提供了文本转语音的功能实现完成"机器人说话"的想法
  • AIML:人工智能标记语音,Artificial Intelligence Markup Language是一种创建自然语音软件代理的XML语言
阅读(1040) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~
评论热议
请登录后评论。

登录 注册