运用dd命令,将/dev/sdb磁盘中所有的数据全部备份到/dev/sdc磁盘上,需要的命令如下
dd if=/dev/sdb of=/dev/sdc bs=1024k
说明,if是需要备份的磁盘 of后面是将备份导入的磁盘,bs=1024k这个地方的1024k都不要写错,如果忘了写k默认是1024个字节,容易出很多问题
备份这两块磁盘的前提是/dev/sdc这块磁盘已经格式化好了
跨服务器数据盘对拷,
盘大小:500G
实实际数据不足10G
dd if=/dev/sda bs=4M|ssh 192.168.1.13 “dd of=/dev/sdc conv=fdatasync”
居然要21个小时,万兆网卡。怎么能快点加速
linux系统如果想做备份还原,使用ghost的时候经常出现问题,后来发现可以直接使用dd命令完成硬盘的克隆和还原.当拷贝完硬盘后,就可以拿这个硬盘放到其它设备上跑了。也就是完成了“烧写”了。
实际操作中,最好使用另一个系统启动,如另一个硬盘的系统,或者用live cd。当然,拷贝当前运行中的系统也是可以的,但不知当前的这个系统还有哪些不确定东西,所以还是不建议。
用fdisk -l查看当前所有分区信息(记得用root,否则执行了啥也看不到),如:
Device Boot Start End Blocks Id System /dev/sdb1 2048 1002047 500000 83 Linux /dev/sdb2 1002048 12002047 5500000 83 Linux /dev/sdb3 12002048 13002047 500000 83 Linux /dev/sdb4 13002048 15002047 1000000 83 Linux
上面是我为了方便写文档而做的分区,可以看到Blocks十分工整,那是故意而为之的。
全盘拷贝的命令:
dd if=/dev/sdb of=/dev/sdc
分区拷贝:
dd bs=512 count=[fdisk命令中最大的end数+1] if=/dev/sdb of=name.img
以上为例:
dd bs=512 count=15002048 if=/dev/sdb of=ghost_linux_latelee.img
由于ghost_linux_latelee.img会很大,可以在拷贝时将其压缩:
dd bs=512 count=15002048 if=/dev/sdb | gzip -9 > ghost_linux_latelee.img.gz
上面所做的,就是传说的系统“备份”,或叫“系统克隆”。
对应的,有系统恢复的操作。命令如下:
dd if=ghost_linux_latelee.img of=/dev/sda
如果是压缩包,则命令为:
gzip -c -d ghost_linux_latelee.img.gz | dd of=/dev/sda
在上面的拷贝过程中,并不知道拷贝了多少,只有最终结束时才显示出时间、拷贝速度。为了查看进度,可以在另一个终端输入(记得用root):
watch -n 5 killall -USR1 dd
(注:killall并不是传说中把进程kill掉,而是发送一个指定的信号到指定的进程)
之后,就能执行dd的终端看到进度了,如:
58299+0 records in 58298+0 records out 29848576 bytes (30 MB) copied, 4.67728 s, 6.4 MB/s 161403+0 records in 161402+0 records out 82637824 bytes (83 MB) copied, 9.69359 s, 8.5 MB/s 238651+0 records in 238650+0 records out 122188800 bytes (122 MB) copied, 14.7105 s, 8.3 MB/s
备注:
用dd的方式,得到的镜像文件十分庞大——取决于所要做的系统的大小。比如,拷贝4GB的分区,真的就是拷贝4GB,即使是用gzip压缩,也压缩不了多少,文件依然很大。
另外dd的方式也消除了我之前的担心,因为现在的Linux发行版的分区使用硬盘uuid作为标识,而不是/dev/sda1这种格式,据说uuid更好。但用dd拷贝,竟然连硬盘的uuid也一一拷贝,毫无变化,这的确让我吃惊。不过,目前看没什么时间研究dd了。
PS:使用dd命令,可以读取硬盘的mbr扇区,示例如下:
dd if=/dev/sdb of=mbr.bin bs=512 count=1
dd:用指定大小的块拷贝一个文件,并在拷贝的同时进行指定的转换。
注意:指定数字的地方若以下列字符结尾,则乘以相应的数字:b=512;c=1;k=1024;w=2
if=文件名:输入文件名,缺省为标准输入。即指定源文件。< if=input file >
of=文件名:输出文件名,缺省为标准输出。即指定目的文件。< of=output file >
ibs=bytes:一次读入bytes个字节,即指定一个块大小为bytes个字节。
obs=bytes:一次输出bytes个字节,即指定一个块大小为bytes个字节。
bs=bytes:同时设置读入/输出的块大小为bytes个字节。
cbs=bytes:一次转换bytes个字节,即指定转换缓冲区大小。
skip=blocks:从输入文件开头跳过blocks个块后再开始复制。
seek=blocks:从输出文件开头跳过blocks个块后再开始复制。
注意:通常只用当输出文件是磁盘或磁带时才有效,即备份到磁盘或磁带时才有效。
count=blocks:仅拷贝blocks个块,块大小等于ibs指定的字节数。
conv=conversion:用指定的参数转换文件。
ascii:转换ebcdic为ascii
ebcdic:转换ascii为ebcdic
ibm:转换ascii为alternate ebcdic
block:把每一行转换为长度为cbs,不足部分用空格填充
unblock:使每一行的长度都为cbs,不足部分用空格填充
lcase:把大写字符转换为小写字符
ucase:把小写字符转换为大写字符
swab:交换输入的每对字节
noerror:出错时不停止
notrunc:不截短输出文件
sync:将每个输入块填充到ibs个字节,不足部分用空(NUL)字符补齐。
1 | dd if=/dev/hdb of=/dev/hdd |
1 | dd if=/dev/hdb of=/root/image |
1 | dd if=/root/image of=/dev/hdb |
1 | dd if=/dev/hdb | gzip > /root/image.gz |
1 | gzip -dc /root/image.gz | dd of=/dev/hdb |
备份磁盘开始的512个字节大小的MBR信息到指定文件:
1 | dd if=/dev/hda of=/root/image count=1 bs=512 |
count=1指仅拷贝一个块;bs=512指块大小为512个字节。
恢复:
1 | dd if=/root/image of=/dev/had |
将备份的MBR信息写到磁盘开始部分
1 | dd if=/dev/fd0 of=disk.img count=1 bs=1440k (即块大小为1.44M) |
1 | dd if=/dev/mem of=/root/mem.bin bs=1024 (指定块大小为1k) |
1 | dd if=/dev/cdrom(hdc) of=/root/cd.iso |
第一步:创建一个大小为256M的文件:
1 | dd if=/dev/zero of=/swapfile bs=1024 count=262144 |
第二步:把这个文件变成swap文件:
1 | mkswap /swapfile |
第三步:启用这个swap文件:
1 | swapon /swapfile |
第四步:编辑/etc/fstab文件,使在每次开机时自动加载swap文件:
1 | /swapfile swap swap default 0 0 |
1 | dd if=/dev/urandom of=/dev/hda1 |
注意:利用随机的数据填充硬盘,在某些必要的场合可以用来销毁数据。
1 2 | dd if=/dev/zero bs=1024 count=1000000 of=/root/1Gb.filedd if=/root/1Gb.file bs=64k | dd of=/dev/null |
通过以上两个命令输出的命令执行时间,可以计算出硬盘的读、写速度。
1 2 3 4 5 6 7 | dd if=/dev/zero bs=1024 count=1000000 of=/root/1Gb.filedd if=/dev/zero bs=2048 count=500000 of=/root/1Gb.filedd if=/dev/zero bs=4096 count=250000 of=/root/1Gb.filedd if=/dev/zero bs=8192 count=125000 of=/root/1Gb.file |
通过比较以上命令输出中所显示的命令执行时间,即可确定系统最佳的块大小。
1 | dd if=/dev/sda of=/dev/sda 或dd if=/dev/hda of=/dev/hda |
当硬盘较长时间(一年以上)放置不使用后,磁盘上会产生magnetic flux point,当磁头读到这些区域时会遇到困难,并可能导致I/O错误。当这种情况影响到硬盘的第一个扇区时,可能导致硬盘报废。上边的命令有可能使这些数 据起死回生。并且这个过程是安全、高效的。
1 | dd if=/dev/hda bs=16065b | netcat < targethost-IP > 1234 |
在源主机上执行此命令备份/dev/hda
1 | netcat -l -p 1234 | dd of=/dev/hdc bs=16065b |
在目的主机上执行此命令来接收数据并写入/dev/hdc
1 2 3 | netcat -l -p 1234 | bzip2 > partition.imgnetcat -l -p 1234 | gzip > partition.img |
以上两条指令是目的主机指令的变化分别采用bzip2、gzip对数据进行压缩,并将备份文件保存在当前目录。
1 | echo A | dd of=bigfile seek=$i bs=1 count=1 conv=notrunc |
/dev/null,外号叫无底洞,你可以向它输出任何数据,它通吃,并且不会撑着!
/dev/zero,是一个输入设备,你可你用它来初始化文件。该设备无穷尽地提供0,可以使用任何你需要的数目——设备提供的要多的多。他可以用于向设备或文件写入字符串0。
/dev/null——它是空设备,也称为位桶(bit bucket)。任何写入它的输出都会被抛弃。如果不想让消息以标准输出显示或写入文件,那么可以将消息重定向到位桶。
1 2 3 4 5 | heng@me:if=/dev/zero of=./test.txt bs=1k count=1heng@me:ls –ltotal 4-rw-r--r-- 1 oracle dba 1024 Jul 15 16:56 test.txtheng@me:find / -name access_log 2>/dev/null |
把/dev/null看作”黑洞”, 它等价于一个只写文件,所有写入它的内容都会永远丢失.,而尝试从它那儿读取内容则什么也读不到。然而, /dev/null对命令行和脚本都非常的有用
禁止标准输出
1 | heng@me:cat $filename >/dev/null #文件内容丢失,而不会输出到标准输出. |
禁止标准错误
1 | heng@me:rm $badname 2>/dev/null #这样错误信息[标准错误]就被丢到太平洋去了 |
禁止标准输出和标准错误的输出
1 | heng@me:cat $filename 2>/dev/null >/dev/null |
如果”$filename”不存在,将不会有任何错误信息提示;如果”$filename”存在, 文件的内容不会打印到标准输出。因此,上面的代码根本不会输出任何信息。当只想测试命令的退出码而不想有任何输出时非常有用。
像/dev/null一样, /dev/zero也是一个伪文件, 但它实际上产生连续不断的null的流(二进制的零流,而不是ASCII型的)。 写入它的输出会丢失不见, 而从/dev/zero读出一连串的null也比较困难, 虽然这也能通过od或一个十六进制编辑器来做到。
/dev/zero主要的用处是用来创建一个指定长度用于初始化的空文件,就像临时交换文件。
用/dev/zero创建一个交换临时文件
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 | #!/bin/bash# 创建一个交换文件.ROOT_UID=0 # Root 用户的 $UID 是 0.E_WRONG_USER=65 # 不是 root?FILE=/swapBLOCKSIZE=1024MINBLOCKS=40SUCCESS=0# 这个脚本必须用root来运行.if [ "$UID" -ne "$ROOT_UID" ]thenecho; echo "You must be root to run this script."; echoexit $E_WRONG_USERfiblocks=${1:-$MINBLOCKS} # 如果命令行没有指定,#+ 则设置为默认的40块.# 上面这句等同如:# --------------------------------------------------# if [ -n "$1" ]# then# blocks=$1# else# blocks=$MINBLOCKS# fi# --------------------------------------------------if [ "$blocks" -lt $MINBLOCKS ]thenblocks=$MINBLOCKS # 最少要有 40 个块长.fiecho "Creating swap file of size $blocks blocks (KB)."dd if=/dev/zero of=$FILE bs=$BLOCKSIZE count=$blocks # 把零写入文件.mkswap $FILE $blocks # 将此文件建为交换文件(或称交换分区).swapon $FILE # 激活交换文件.echo "Swap file created and activated."exit $SUCCESS |
关于 /dev/zero 的另一个应用是为特定的目的而用零去填充一个指定大小的文件, 如挂载一个文件系统到环回设备 (loopback device)或"安全地" 删除一个文件。
例子创建ramdisk
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 | #!/bin/bash# ramdisk.sh# "ramdisk"是系统RAM内存的一段,#+ 它可以被当成是一个文件系统来操作.# 它的优点是存取速度非常快 (包括读和写).# 缺点: 易失性, 当计算机重启或关机时会丢失数据.#+ 会减少系统可用的RAM.# 10 # 那么ramdisk有什么作用呢?# 保存一个较大的数据集在ramdisk, 比如一张表或字典,#+ 这样可以加速数据查询, 因为在内存里查找比在磁盘里查找快得多.E_NON_ROOT_USER=70 # 必须用root来运行.ROOTUSER_NAME=rootMOUNTPT=/mnt/ramdiskSIZE=2000 # 2K 个块 (可以合适的做修改)BLOCKSIZE=1024 # 每块有1K (1024 byte) 的大小DEVICE=/dev/ram0 # 第一个 ram 设备username=`id -nu`if [ "$username" != "$ROOTUSER_NAME" ]thenecho "Must be root to run "`basename $0`"."exit $E_NON_ROOT_USERfiif [ ! -d "$MOUNTPT" ] # 测试挂载点是否已经存在了,then #+ 如果这个脚本已经运行了好几次了就不会再建这个目录了mkdir $MOUNTPT #+ 因为前面已经建立了.fidd if=/dev/zero of=$DEVICE count=$SIZE bs=$BLOCKSIZE# 把RAM设备的内容用零填充.# 为何需要这么做?mke2fs $DEVICE # 在RAM设备上创建一个ext2文件系统.mount $DEVICE $MOUNTPT # 挂载设备.chmod 777 $MOUNTPT # 使普通用户也可以存取这个ramdisk.# 但是, 只能由root来缷载它.echo ""$MOUNTPT" now available for use."# 现在 ramdisk 即使普通用户也可以用来存取文件了.# 注意, ramdisk是易失的, 所以当计算机系统重启或关机时ramdisk里的内容会消失.# 拷贝所有你想保存文件到一个常规的磁盘目录下.# 重启之后, 运行这个脚本再次建立起一个 ramdisk.# 仅重新加载 /mnt/ramdisk 而没有其他的步骤将不会正确工作.# 如果加以改进, 这个脚本可以放在 /etc/rc.d/rc.local,#+ 以使系统启动时能自动设立一个ramdisk.# 这样很合适速度要求高的数据库服务器.exit 0 |
via http://www.linuxde.net/2013/03/12928.html
dd命令:convert and copy a file
用法:
dd if=/PATH/FROM/SRC of=/PATH/TO/DEST
bs=#:block size, 复制单元大小;
count=#:复制多少个bs;
磁盘拷贝:
dd if=/dev/sda of=/dev/sdb
备份MBR
dd if=/dev/sda of=/tmp/mbr.bak bs=512 count=1
破坏MBR中的bootloader:
dd if=/dev/zero of=/dev/sda bs=256 count=1
两个特殊设备:
/dev/null: 数据黑洞;
/dev/zero:吐零
1.做硬盘对拷:
dd if=/dev/sda of=/dev/sdb bs=1024k &
注意:
(1).先改fstab文件,把LABLE换成对应的 /dev/sda(不改的话,拷完后重启系统不知道从哪块盘启动了)
/dev/sda2 / ext3 defaults 1 1
/dev/sda5 /data ext3 defaults 1 2
/dev/sda1 /boot ext3 defaults 1 2
(2).一定要写bs=1024k,一定要加k, 默认是bytes,不加K或M,是以bytes写入,
有可能系统要挂了,至于 也有人写bs=4M,没啥区别,最后速度差不多。
(3).加 & 后台进行,因为要用当前的终端来查看dd进度,如果忘了加 &,可以用Ctrl+z
把dd进程移到后台,再运行 bg 记其后台运行(为了在当前终端查看进度)。
2.查看dd完成进度,要不然鬼知道啥时候能dd完成啊
ps -ef|grep dd //查看 dd 进程id号,其实上边命令加&后,己经显示了。
kill -USR1 id //查看 dd 完成进度
100118036480 bytes (100 GB) copied, 1346.94 seconds, 74.3 MB/s
如果想时时查看进度,可以用下面语句:
watch -n 1 kill -USR1 3730 // 每2秒查看一次进度
while kill -USR1 3730;do sleep 2;done; //每2秒查看一次进度
这种是通过发送USR1信号的方法,去产生一个标准的IO错误,来达到显示当前COPY进度与COPY速度的目的。
3.如果sdb原来是一个裸盘没有格式化过,dd可能并不能拷贝superblock信息,所以盘不能mount起来。
所以只需要进入fdisk界面:
# fdisk /dev/sdb
# w
“write table to disk and exit”,sdb就可以mount起来了,如果是格过的,可能需要fsck一下就可以了
注意:建议不要轻易dd,有可能把系统搞坏,在有把握情况下或数据备份过情况下使用dd
本文永久更新链接地址:http://www.linuxidc.com/Linux/2017-03/141749.htm
只拷贝前120GB:
120GB=128MB * 938=64MB*1875
sudo dd if=/dev/sdb of=/dev/sdc conv=notrunc bs=128MB count=938
sudo dd if=/dev/sdb of=/dev/sdc conv=notrunc bs=64MB count=1875
count为bs的次数
一个盘到多个盘的拷贝:
dd if=image.bin | tee >(dd of=/dev/sdc) | dd of=/dev/sdh
进度条dd with progress bar and statistics
dd if=/dev/source | pv -s $(pv -s $(blockdev –getsize64 /dev/source) | tee >(dd of=/dev/dest1) | dd of=/dev/dest2
部分拷贝问题修复:
对于GPT格式的硬盘,如果只拷贝前面的部分,则会漏掉backup gpt table,出现下面的错误:
the backup gpt table is corrupt
小盘向大盘拷贝,使用parted命令查看硬盘时,会自动修复gpt备份表。
等大小的盘拷贝,parted不会自动修复,需要使用gdisk命令:
sudo gdisk /dev/sda
然后分别执行:x(专家模式) e(将gpt备份表写到硬盘尾部) w(写入到磁盘)y(yes)
查看UUID:
ls -l /dev/disk/by-uuid
blkid /dev/sda1
改变UUID:
tune2fs /dev/sdbX -U random
其他相关命令:
partprobe 通知内核分区表已经改变
dcfldd 直接支持一个盘到多个盘的拷贝
guymager 是将 dd 与 dcfldd 命令转换为图形化接口
PyFlag 是一个使用 python 语言编写的硬盘分析工具
partimage 分区备份压缩
rsync 数据镜像远程备份工具
ddrescue, gddrescue硬盘数据恢复工具
