为什么要用docker, 熟悉docker 其实已经很久了,自从实习的时候觉得它是一个利器以来一直没有机会使用它,这几天在折腾caffe环境中,觉得是时候用上Docker了。
需求:构建一个独立的容器,里面安装了caffe 的所有依赖,在需要跑代码的时候,直接运行它。
优点:可以解决各种依赖问题,比如这个软件需要安装gcc 4.7 ,而另外一个需要安装gcc 4.8 等等互斥的环境需求。
Docker 安装
docker 的安装和基本使用,可以参照我上面的两篇博客:安装篇 和 使用篇 。
构建镜像
构建镜像有两种方法:
1,写Dockerfile,优点是便于共享;
2,从容器中commit,优点是简单方便,但是不方便共享。
由于安装caffe环境需要众多的依赖包,而且由于网络方面的原因,这些依赖包往往不能一次够装好,为了方便起见,这里直接启动一个基本的容器,然后从里面安装依赖包。
这边选择基本的ubuntu:14.04 来开始构建环境,
1,启动容器:
复制代码 代码如下:sudo docker run --dns 8.8.8.8 --dns 8.8.4.4 --name ubuntu_caffe -i -t ubuntu:14.04 /bin/bash
需要更改dns,是因为如果没有的话,容器上不了网。
2,依赖包安装
进入容器之后,所有的操作就跟普通的一个样了。
首先安装一些基本的工具:
apt-get install wget apt-get install unzip apt-get install python-pip
新建路径,后面所有的caffe代码都放在这里
mkdir /home/crw/Caffe cd /home/crw/Caffe
opencv 的安装:
github上面有一个一键安装的,但是在容器里面一键安装不了,后面我是把它里面的脚本一句一句的搞出来执行。
#opencv一句一句的运行 arch=$(uname -m) if [ "$arch" == "i686" -o "$arch" == "i386" -o "$arch" == "i486" -o "$arch" == "i586" ]; then flag=1; else flag=0; fi echo "Installing OpenCV 2.4.9" mkdir OpenCV cd OpenCV sudo apt-get -y install libopencv-dev sudo apt-get -y install build-essential checkinstall cmake pkg-config yasm sudo apt-get -y install libtiff4-dev libjpeg-dev libjasper-dev sudo apt-get -y install libavcodec-dev libavformat-dev libswscale-dev libdc1394-22-dev libxine-dev libgstreamer0.10-dev libgstreamer-plugins-base0.10-dev libv4l-dev sudo apt-get -y install python-dev python-numpy sudo apt-get -y install libtbb-dev sudo apt-get -y install libqt4-dev libgtk2.0-dev sudo apt-get -y install libfaac-dev libmp3lame-dev libopencore-amrnb-dev libopencore-amrwb-dev libtheora-dev libvorbis-dev libxvidcore-dev wget http://archive.ubuntu.com/ubuntu/pool/multiverse/f/faac/faac_1.28-6.debian.tar.gz vi /etc/hosts ifconfig sudo apt-get -y install x264 v4l-utils ffmpeg wget -O OpenCV-2.4.9.zip http://sourceforge.net/projects/opencvlibrary/files/opencv-unix/2.4.9/opencv-2.4.9.zip/download unzip OpenCV-2.4.9.zip cd opencv-2.4.9 mkdir build cd build cmake -D CMAKE_BUILD_TYPE=RELEASE -D CMAKE_INSTALL_PREFIX=/usr/local -D WITH_TBB=ON -D BUILD_NEW_PYTHON_SUPPORT=ON -D WITH_V4L=ON -D INSTALL_C_EXAMPLES=ON -D INSTALL_PYTHON_EXAMPLES=ON -D BUILD_EXAMPLES=ON -D WITH_QT=ON -D WITH_OPENGL=ON .. make -j4 sudo make install sudo sh -c 'echo "/usr/local/lib" > /etc/ld.so.conf.d/opencv.conf' sudo ldconfig cd ..
caffe 和python依赖包:
sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libhdf5-serial-dev protobuf-compiler sudo apt-get install --no-install-recommends libboost-all-dev sudo apt-get install libgflags-dev libgoogle-glog-dev liblmdb-dev sudo apt-get install libatlas-base-dev
安装cuda:
这里面个小技巧就是,如何从host 主机导入数据到容器中,可以使用如下命令(在host上运行)
sudo cp cuda_7.5.18_linux.run /var/lib/docker/aufs/mnt/92562f161e51994949dd8496360265e5d54d32fbe301d693300916cd56d4e0a2/home/crw/Caffe sudo cp cudnn-7.0-linux-x64-v3.0-prod.tgz /var/lib/docker/aufs/mnt/92562f161e51994949dd8496360265e5d54d32fbe301d693300916cd56d4e0a2/home/crw/Caffe sudo cp caffe-master.zip /var/lib/docker/aufs/mnt/92562f161e51994949dd8496360265e5d54d32fbe301d693300916cd56d4e0a2/home/crw/Caffe
其中,那一长串数字,是你的容器的完全id,可以用命令
复制代码 代码如下:docker inspect -f '{{.Id}}' ubuntu_caffe #ubuntu_caffe 是容器的名字
./cuda_*_linux.run -extract=`pwd` ./NVIDIA-Linux-x86_64-*.run -s --no-kernel-module ./cuda-linux64-rel-*.run -noprompt
安装cudnn:
tar -xvf cudnn-7.0-linux-x64-v3.0-prod.tgz cp cuda/include/cudnn.h /usr/local/cuda/include/ cp cuda/lib64/* /usr/local/cuda/lib64/
安装caffe:
cd caffe-15.12.07/ cp Makefile.config.example Makefile.config vi Makefile.config make all make test
安装caffe 的python绑定
cd python/ apt-get install python-pip for req in $(cat requirements.txt); do pip install $req; done sudo apt-get install python-numpy python-scipy python-matplotlib ipython ipython-notebook python-pandas python-sympy python-nose
下面这几个包需要手动自己去装,用上面的命令一直装不好。
apt-get install python-scipy for req in $(cat requirements.txt); do pip install $req; done pip install -U scikit-learn for req in $(cat requirements.txt); do pip install $req; done pip install scikit-image for req in $(cat requirements.txt); do pip install $req; done
然后
make pycaffe
最后, 新建一个路径,以便于磁盘映射
mkdir /media/crw/MyBook
所有的环境都做好了之后,就可以commit 了
docker commit 92562f161e519 my-ubuntu-caffe
这样,就在本地环境中,制作好了一个转好caffe gpu环境的容器了。
启动caffe启动容器:
sudo docker run -ti --device /dev/nvidia0:/dev/nvidia0 --device /dev/nvidiactl:/dev/nvidiactl --device /dev/nvidia-uvm:/dev/nvidia-uvm -v /media/crw/MyBook:/media/crw/MyBook my-ubuntu-caffe /bin/bash
1,显卡直通使用,
2,文件映射,挂载一个host主机的磁盘到容器路径下,这里设置为相同,可以减少一些不必要的麻烦。
运行caffe模型训练
会有提示说找不到cuda啥的,设置一下环境变量即可。
$ export CUDA_HOME=/usr/local/cuda $ export LD_LIBRARY_PATH=${CUDA_HOME}/lib64 $ PATH=${CUDA_HOME}/bin:${PATH} $ export PATH
cd /media/crw/MyBook/Experience/FaceRecognition/Softmax/try3_3 ./train.sh
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
docker,caffe环境搭建
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
更新日志
- 小骆驼-《草原狼2(蓝光CD)》[原抓WAV+CUE]
- 群星《欢迎来到我身边 电影原声专辑》[320K/MP3][105.02MB]
- 群星《欢迎来到我身边 电影原声专辑》[FLAC/分轨][480.9MB]
- 雷婷《梦里蓝天HQⅡ》 2023头版限量编号低速原抓[WAV+CUE][463M]
- 群星《2024好听新歌42》AI调整音效【WAV分轨】
- 王思雨-《思念陪着鸿雁飞》WAV
- 王思雨《喜马拉雅HQ》头版限量编号[WAV+CUE]
- 李健《无时无刻》[WAV+CUE][590M]
- 陈奕迅《酝酿》[WAV分轨][502M]
- 卓依婷《化蝶》2CD[WAV+CUE][1.1G]
- 群星《吉他王(黑胶CD)》[WAV+CUE]
- 齐秦《穿乐(穿越)》[WAV+CUE]
- 发烧珍品《数位CD音响测试-动向效果(九)》【WAV+CUE】
- 邝美云《邝美云精装歌集》[DSF][1.6G]
- 吕方《爱一回伤一回》[WAV+CUE][454M]