您好,欢迎来到码863代码分享网! 请[登录] / [注册]

dd命令详解,拷贝硬盘,可备份linux,windows,底层块拷贝

编辑

运用dd命令,将/dev/sdb磁盘中所有的数据全部备份到/dev/sdc磁盘上,需要的命令如下

dd  if=/dev/sdb of=/dev/sdc bs=1024k     

说明,if是需要备份的磁盘  of后面是将备份导入的磁盘,bs=1024k这个地方的1024k都不要写错,如果忘了写k默认是1024个字节,容易出很多问题

备份这两块磁盘的前提是/dev/sdc这块磁盘已经格式化好了


跨服务器数据盘对拷,

盘大小:500G

实实际数据不足10G

dd if=/dev/sda bs=4M|ssh 192.168.1.13 “dd of=/dev/sdc conv=fdatasync” 

居然要21个小时,万兆网卡。怎么能快点加速


                        

linux系统如果想做备份还原,使用ghost的时候经常出现问题,后来发现可以直接使用dd命令完成硬盘的克隆和还原.当拷贝完硬盘后,就可以拿这个硬盘放到其它设备上跑了。也就是完成了“烧写”了。

实际操作中,最好使用另一个系统启动,如另一个硬盘的系统,或者用live cd。当然,拷贝当前运行中的系统也是可以的,但不知当前的这个系统还有哪些不确定东西,所以还是不建议。

用fdisk -l查看当前所有分区信息(记得用root,否则执行了啥也看不到),如:


Device Boot      Start         End      Blocks   Id  System /dev/sdb1            2048     1002047      500000   83  Linux /dev/sdb2         1002048    12002047     5500000   83  Linux /dev/sdb3        12002048    13002047      500000   83  Linux /dev/sdb4        13002048    15002047     1000000   83  Linux

上面是我为了方便写文档而做的分区,可以看到Blocks十分工整,那是故意而为之的。

全盘拷贝的命令:


dd if=/dev/sdb  of=/dev/sdc

分区拷贝:


dd bs=512 count=[fdisk命令中最大的end数+1] if=/dev/sdb of=name.img

以上为例:


dd bs=512 count=15002048 if=/dev/sdb of=ghost_linux_latelee.img

由于ghost_linux_latelee.img会很大,可以在拷贝时将其压缩:


dd bs=512 count=15002048 if=/dev/sdb | gzip -9 > ghost_linux_latelee.img.gz

上面所做的,就是传说的系统“备份”,或叫“系统克隆”。

对应的,有系统恢复的操作。命令如下:


dd if=ghost_linux_latelee.img of=/dev/sda

如果是压缩包,则命令为:


gzip -c -d ghost_linux_latelee.img.gz | dd of=/dev/sda

在上面的拷贝过程中,并不知道拷贝了多少,只有最终结束时才显示出时间、拷贝速度。为了查看进度,可以在另一个终端输入(记得用root):


watch -n 5 killall -USR1 dd

(注:killall并不是传说中把进程kill掉,而是发送一个指定的信号到指定的进程)

之后,就能执行dd的终端看到进度了,如:


58299+0 records in 58298+0 records out 29848576 bytes (30 MB) copied, 4.67728 s, 6.4 MB/s 161403+0 records in 161402+0 records out 82637824 bytes (83 MB) copied, 9.69359 s, 8.5 MB/s 238651+0 records in 238650+0 records out 122188800 bytes (122 MB) copied, 14.7105 s, 8.3 MB/s

备注:

用dd的方式,得到的镜像文件十分庞大——取决于所要做的系统的大小。比如,拷贝4GB的分区,真的就是拷贝4GB,即使是用gzip压缩,也压缩不了多少,文件依然很大。

另外dd的方式也消除了我之前的担心,因为现在的Linux发行版的分区使用硬盘uuid作为标识,而不是/dev/sda1这种格式,据说uuid更好。但用dd拷贝,竟然连硬盘的uuid也一一拷贝,毫无变化,这的确让我吃惊。不过,目前看没什么时间研究dd了。

PS:使用dd命令,可以读取硬盘的mbr扇区,示例如下:

dd if=/dev/sdb of=mbr.bin bs=512 count=1




一:dd命令

dd:用指定大小的块拷贝一个文件,并在拷贝的同时进行指定的转换。

注意:指定数字的地方若以下列字符结尾,则乘以相应的数字:b=512;c=1;k=1024;w=2

参数注释:

  1. if=文件名:输入文件名,缺省为标准输入。即指定源文件。< if=input file >

  2. of=文件名:输出文件名,缺省为标准输出。即指定目的文件。< of=output file >

  3. ibs=bytes:一次读入bytes个字节,即指定一个块大小为bytes个字节。
    obs=bytes:一次输出bytes个字节,即指定一个块大小为bytes个字节。
    bs=bytes:同时设置读入/输出的块大小为bytes个字节。

  4. cbs=bytes:一次转换bytes个字节,即指定转换缓冲区大小。

  5. skip=blocks:从输入文件开头跳过blocks个块后再开始复制。

  6. seek=blocks:从输出文件开头跳过blocks个块后再开始复制。
    注意:通常只用当输出文件是磁盘或磁带时才有效,即备份到磁盘或磁带时才有效。

  7. count=blocks:仅拷贝blocks个块,块大小等于ibs指定的字节数。

  8. conv=conversion:用指定的参数转换文件。

    • ascii:转换ebcdic为ascii

    • ebcdic:转换ascii为ebcdic

    • ibm:转换ascii为alternate ebcdic

    • block:把每一行转换为长度为cbs,不足部分用空格填充

    • unblock:使每一行的长度都为cbs,不足部分用空格填充

    • lcase:把大写字符转换为小写字符

    • ucase:把小写字符转换为大写字符

    • swab:交换输入的每对字节

    • noerror:出错时不停止

    • notrunc:不截短输出文件

    • sync:将每个输入块填充到ibs个字节,不足部分用空(NUL)字符补齐。

二、dd应用实例

1.将本地的/dev/hdb整盘备份到/dev/hdd

1
dd if=/dev/hdb of=/dev/hdd

2.将/dev/hdb全盘数据备份到指定路径的image文件

1
dd if=/dev/hdb of=/root/image

3.将备份文件恢复到指定盘

1
dd if=/root/image of=/dev/hdb

4.备份/dev/hdb全盘数据,并利用gzip工具进行压缩,保存到指定路径

1
dd if=/dev/hdb | gzip > /root/image.gz

5.将压缩的备份文件恢复到指定盘

1
gzip -dc /root/image.gz | dd of=/dev/hdb

6.备份与恢复MBR

备份磁盘开始的512个字节大小的MBR信息到指定文件:

1
dd if=/dev/hda of=/root/image count=1 bs=512

count=1指仅拷贝一个块;bs=512指块大小为512个字节。

恢复:

1
dd if=/root/image of=/dev/had

将备份的MBR信息写到磁盘开始部分

7.备份软盘

1
dd if=/dev/fd0 of=disk.img count=1 bs=1440k (即块大小为1.44M)

8.拷贝内存内容到硬盘

1
dd if=/dev/mem of=/root/mem.bin bs=1024 (指定块大小为1k)

9.拷贝光盘内容到指定文件夹,并保存为cd.iso文件

1
dd if=/dev/cdrom(hdc) of=/root/cd.iso

10.增加swap分区文件大小

第一步:创建一个大小为256M的文件:

1
dd if=/dev/zero of=/swapfile bs=1024 count=262144

第二步:把这个文件变成swap文件:

1
mkswap /swapfile

第三步:启用这个swap文件:

1
swapon /swapfile

第四步:编辑/etc/fstab文件,使在每次开机时自动加载swap文件:

1
/swapfile swap swap default 0 0

11.销毁磁盘数据

1
dd if=/dev/urandom of=/dev/hda1

注意:利用随机的数据填充硬盘,在某些必要的场合可以用来销毁数据。

12.测试硬盘的读写速度

1
2
dd if=/dev/zero bs=1024 count=1000000 of=/root/1Gb.file
dd if=/root/1Gb.file bs=64k | dd of=/dev/null

通过以上两个命令输出的命令执行时间,可以计算出硬盘的读、写速度。

13.确定硬盘的最佳块大小:

1
2
3
4
5
6
7
dd if=/dev/zero bs=1024 count=1000000 of=/root/1Gb.file
 
dd if=/dev/zero bs=2048 count=500000 of=/root/1Gb.file
 
dd if=/dev/zero bs=4096 count=250000 of=/root/1Gb.file
 
dd if=/dev/zero bs=8192 count=125000 of=/root/1Gb.file

通过比较以上命令输出中所显示的命令执行时间,即可确定系统最佳的块大小。

14.修复硬盘:

1
dd if=/dev/sda of=/dev/sda dd if=/dev/hda of=/dev/hda

当硬盘较长时间(一年以上)放置不使用后,磁盘上会产生magnetic flux point,当磁头读到这些区域时会遇到困难,并可能导致I/O错误。当这种情况影响到硬盘的第一个扇区时,可能导致硬盘报废。上边的命令有可能使这些数 据起死回生。并且这个过程是安全、高效的。

15.利用netcat远程备份

1
dd if=/dev/hda bs=16065b | netcat < targethost-IP > 1234

在源主机上执行此命令备份/dev/hda

1
netcat -l -p 1234 | dd of=/dev/hdc bs=16065b

在目的主机上执行此命令来接收数据并写入/dev/hdc

1
2
3
netcat -l -p 1234 | bzip2 > partition.img
 
netcat -l -p 1234 | gzip > partition.img

以上两条指令是目的主机指令的变化分别采用bzip2、gzip对数据进行压缩,并将备份文件保存在当前目录。

16.将一个很大的视频文件中的第i个字节的值改成0x41(也就是大写字母A的ASCII值)

1
echo A | dd of=bigfile seek=$i bs=1 count=1 conv=notrunc

三、/dev/null和/dev/zero的区别

/dev/null,外号叫无底洞,你可以向它输出任何数据,它通吃,并且不会撑着!

/dev/zero,是一个输入设备,你可你用它来初始化文件。该设备无穷尽地提供0,可以使用任何你需要的数目——设备提供的要多的多。他可以用于向设备或文件写入字符串0。

/dev/null——它是空设备,也称为位桶(bit bucket)。任何写入它的输出都会被抛弃。如果不想让消息以标准输出显示或写入文件,那么可以将消息重定向到位桶。

1
2
3
4
5
heng@me:if=/dev/zero of=./test.txt bs=1k count=1
heng@me:ls –l
total 4
-rw-r--r-- 1 oracle dba 1024 Jul 15 16:56 test.txt
heng@me:find / -name access_log 2>/dev/null

使用/dev/nul

把/dev/null看作”黑洞”, 它等价于一个只写文件,所有写入它的内容都会永远丢失.,而尝试从它那儿读取内容则什么也读不到。然而, /dev/null对命令行和脚本都非常的有用

禁止标准输出

1
heng@me:cat $filename >/dev/null #文件内容丢失,而不会输出到标准输出.

禁止标准错误

1
heng@me:rm $badname 2>/dev/null #这样错误信息[标准错误]就被丢到太平洋去了

禁止标准输出和标准错误的输出

1
heng@me:cat $filename 2>/dev/null >/dev/null

如果”$filename”不存在,将不会有任何错误信息提示;如果”$filename”存在, 文件的内容不会打印到标准输出。因此,上面的代码根本不会输出任何信息。当只想测试命令的退出码而不想有任何输出时非常有用。

使用/dev/zero

像/dev/null一样, /dev/zero也是一个伪文件, 但它实际上产生连续不断的null的流(二进制的零流,而不是ASCII型的)。 写入它的输出会丢失不见, 而从/dev/zero读出一连串的null也比较困难, 虽然这也能通过od或一个十六进制编辑器来做到。

/dev/zero主要的用处是用来创建一个指定长度用于初始化的空文件,就像临时交换文件。

用/dev/zero创建一个交换临时文件

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
#!/bin/bash
# 创建一个交换文件.
ROOT_UID=0 # Root 用户的 $UID 是 0.
E_WRONG_USER=65 # 不是 root?
FILE=/swap
BLOCKSIZE=1024
MINBLOCKS=40
SUCCESS=0
# 这个脚本必须用root来运行.
if [ "$UID" -ne "$ROOT_UID" ]
then
echo; echo "You must be root to run this script."; echo
exit $E_WRONG_USER
fi
blocks=${1:-$MINBLOCKS} # 如果命令行没有指定,
#+ 则设置为默认的40块.
# 上面这句等同如:
# --------------------------------------------------
# if [ -n "$1" ]
# then
# blocks=$1
# else
# blocks=$MINBLOCKS
# fi
# --------------------------------------------------
if [ "$blocks" -lt $MINBLOCKS ]
then
blocks=$MINBLOCKS # 最少要有 40 个块长.
fi
echo "Creating swap file of size $blocks blocks (KB)."
dd if=/dev/zero of=$FILE bs=$BLOCKSIZE count=$blocks # 把零写入文件.
mkswap $FILE $blocks # 将此文件建为交换文件(或称交换分区).
swapon $FILE # 激活交换文件.
echo "Swap file created and activated."
exit $SUCCESS

关于 /dev/zero 的另一个应用是为特定的目的而用零去填充一个指定大小的文件, 如挂载一个文件系统到环回设备 (loopback device)或"安全地" 删除一个文件。

例子创建ramdisk

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
#!/bin/bash
# ramdisk.sh
# "ramdisk"是系统RAM内存的一段,
#+ 它可以被当成是一个文件系统来操作.
# 它的优点是存取速度非常快 (包括读和写).
# 缺点: 易失性, 当计算机重启或关机时会丢失数据.
#+ 会减少系统可用的RAM.
# 10 # 那么ramdisk有什么作用呢?
# 保存一个较大的数据集在ramdisk, 比如一张表或字典,
#+ 这样可以加速数据查询, 因为在内存里查找比在磁盘里查找快得多.
E_NON_ROOT_USER=70 # 必须用root来运行.
ROOTUSER_NAME=root
MOUNTPT=/mnt/ramdisk
SIZE=2000 # 2K 个块 (可以合适的做修改)
BLOCKSIZE=1024 # 每块有1K (1024 byte) 的大小
DEVICE=/dev/ram0 # 第一个 ram 设备
username=`id -nu`
if [ "$username" != "$ROOTUSER_NAME" ]
then
echo "Must be root to run "`basename $0`"."
exit $E_NON_ROOT_USER
fi
if [ ! -d "$MOUNTPT" ] # 测试挂载点是否已经存在了,
then #+ 如果这个脚本已经运行了好几次了就不会再建这个目录了
mkdir $MOUNTPT #+ 因为前面已经建立了.
fi
dd if=/dev/zero of=$DEVICE count=$SIZE bs=$BLOCKSIZE
 
# 把RAM设备的内容用零填充.
# 为何需要这么做?
mke2fs $DEVICE # 在RAM设备上创建一个ext2文件系统.
mount $DEVICE $MOUNTPT # 挂载设备.
chmod 777 $MOUNTPT # 使普通用户也可以存取这个ramdisk.
# 但是, 只能由root来缷载它.
echo ""$MOUNTPT" now available for use."
# 现在 ramdisk 即使普通用户也可以用来存取文件了.
# 注意, ramdisk是易失的, 所以当计算机系统重启或关机时ramdisk里的内容会消失.
# 拷贝所有你想保存文件到一个常规的磁盘目录下.
# 重启之后, 运行这个脚本再次建立起一个 ramdisk.
# 仅重新加载 /mnt/ramdisk 而没有其他的步骤将不会正确工作.
# 如果加以改进, 这个脚本可以放在 /etc/rc.d/rc.local,
#+ 以使系统启动时能自动设立一个ramdisk.
# 这样很合适速度要求高的数据库服务器.
exit 0

via http://www.linuxde.net/2013/03/12928.html 









dd命令:convert and copy a file

用法:

dd if=/PATH/FROM/SRC of=/PATH/TO/DEST

bs=#:block size, 复制单元大小;

count=#:复制多少个bs;

磁盘拷贝:

dd if=/dev/sda of=/dev/sdb

备份MBR

dd if=/dev/sda of=/tmp/mbr.bak bs=512 count=1

破坏MBR中的bootloader:

dd if=/dev/zero of=/dev/sda bs=256 count=1

两个特殊设备:

/dev/null: 数据黑洞;

/dev/zero:吐零

1.做硬盘对拷:

dd if=/dev/sda of=/dev/sdb bs=1024k &

注意:

(1).先改fstab文件,把LABLE换成对应的  /dev/sda(不改的话,拷完后重启系统不知道从哪块盘启动了)

/dev/sda2               /                       ext3    defaults        1 1

/dev/sda5               /data                   ext3    defaults        1 2

/dev/sda1               /boot                   ext3    defaults        1 2

(2).一定要写bs=1024k,一定要加k, 默认是bytes,不加K或M,是以bytes写入,

    有可能系统要挂了,至于 也有人写bs=4M,没啥区别,最后速度差不多。

(3).加 & 后台进行,因为要用当前的终端来查看dd进度,如果忘了加 &,可以用Ctrl+z

把dd进程移到后台,再运行 bg 记其后台运行(为了在当前终端查看进度)。

2.查看dd完成进度,要不然鬼知道啥时候能dd完成啊

ps -ef|grep dd   //查看 dd 进程id号,其实上边命令加&后,己经显示了。

kill -USR1  id   //查看 dd 完成进度

100118036480 bytes (100 GB) copied, 1346.94 seconds, 74.3 MB/s

如果想时时查看进度,可以用下面语句:

watch -n 1 kill -USR1 3730   // 每2秒查看一次进度

while kill -USR1 3730;do sleep 2;done;   //每2秒查看一次进度

这种是通过发送USR1信号的方法,去产生一个标准的IO错误,来达到显示当前COPY进度与COPY速度的目的。

3.如果sdb原来是一个裸盘没有格式化过,dd可能并不能拷贝superblock信息,所以盘不能mount起来。

所以只需要进入fdisk界面:

# fdisk /dev/sdb

# w

“write table to disk and exit”,sdb就可以mount起来了,如果是格过的,可能需要fsck一下就可以了

注意:建议不要轻易dd,有可能把系统搞坏,在有把握情况下或数据备份过情况下使用dd

本文永久更新链接地址http://www.linuxidc.com/Linux/2017-03/141749.htm





只拷贝前120GB:

120GB=128MB * 938=64MB*1875

sudo dd if=/dev/sdb of=/dev/sdc conv=notrunc bs=128MB count=938

sudo dd if=/dev/sdb of=/dev/sdc conv=notrunc bs=64MB count=1875

count为bs的次数


一个盘到多个盘的拷贝:

dd if=image.bin | tee >(dd of=/dev/sdc) | dd of=/dev/sdh

进度条dd with progress bar and statistics

dd if=/dev/source | pv -s $(pv -s $(blockdev –getsize64 /dev/source) | tee >(dd of=/dev/dest1) | dd of=/dev/dest2


部分拷贝问题修复:

对于GPT格式的硬盘,如果只拷贝前面的部分,则会漏掉backup gpt table,出现下面的错误:

the backup gpt table is corrupt

小盘向大盘拷贝,使用parted命令查看硬盘时,会自动修复gpt备份表。

等大小的盘拷贝,parted不会自动修复,需要使用gdisk命令:

sudo gdisk /dev/sda

然后分别执行:x(专家模式) e(将gpt备份表写到硬盘尾部) w(写入到磁盘)y(yes)



查看UUID:

ls -l /dev/disk/by-uuid

blkid /dev/sda1


改变UUID:

tune2fs /dev/sdbX -U random


其他相关命令:

partprobe 通知内核分区表已经改变
dcfldd 直接支持一个盘到多个盘的拷贝

guymager 是将 dd 与 dcfldd 命令转换为图形化接口

PyFlag 是一个使用 python 语言编写的硬盘分析工具

partimage 分区备份压缩

rsync 数据镜像远程备份工具

ddrescue, gddrescue硬盘数据恢复工具



CopyRight 2002~2023 精通2100网 联系邮箱:qqtxt@163.com
版权所有:精通2100网 湘ICP备2023018646号-1
MYSQl共执行 3 个查询,用时 0.072309017181396 秒,PHP脚本用时 0.074935 秒,占用内存 0.762 MB,Gzip 已启用