12.1 open()
open()函数作用是打开文件，返回一个文件对象。
用法格式：open(name[, mode[, buffering[,encoding]]]) -> file object
name 文件名
mode 模式，比如以只读方式打开
buffering 缓冲区
encoding 返回数据采用的什么编码，一般utf8或gbk
| Mode |
Description |
| r | 只读，默认 |
| w | 只写，打开前清空文件内容 |
| a | 追加 |
| a+ | 读写，写到文件末尾 |
| w+ | 可读写，清空文件内容 |
| r+ | 可读写，能写到文件任何位置 |
| rb | 二进制模式读 |
| wb | 二进制模式写，清空文件内容 |
例如：打开一个文件
|
1
2
3
4
5
6
7
8
9
10
11
12
|
>>> f
=
open
(
'test.txt'
,
'r'
)
>>> f.
f.__class__( f.__new__( f.encoding f.readinto(
f.__delattr__( f.__reduce__( f.errors f.readline(
f.__doc__ f.__reduce_ex__( f.fileno( f.readlines(
f.__enter__( f.__repr__( f.flush( f.seek(
f.__exit__( f.__setattr__( f.isatty( f.softspace
f.__format__( f.__sizeof__( f.mode f.tell(
f.__getattribute__( f.__str__( f.name f.truncate(
f.__hash__( f.__subclasshook__( f.newlines f.write(
f.__init__( f.close( f.
next
( f.writelines(
f.__iter__( f.closed f.read( f.xreadlines(
|
open()函数打开文件返回一个文件对象，并赋予遍历f，f就拥有了这个文件对象的操作方法。
| 方法 |
描述 |
| f.read([size]) | 读取size字节，当未指定或给负值时，读取剩余所有的字节，作为字符串返回 |
| f.readline([size]) | 从文件中读取下一行，作为字符串返回。如果指定size则返回size字节 |
| f.readlines([size]) | 读取size字节，当未指定或给负值时，读取剩余所有的字节，作为列表返回 |
| f.write(str) | 写字符串到文件 |
| f.writelines(seq) | 写序列到文件，seq必须是一个可迭代对象，而且要是一个字符串序列 |
| f.seek(offset[, whence=0]) | 在文件中移动文件指针，从whence（0代表文件起始位置，默认。1代表当前位置。2代表文件末尾）偏移offset个字节 |
| f.tell() | 返回当前在文件中的位置 |
| f.close() |
关闭文件 |
| f.flush | 刷新缓冲区到磁盘 |
12.2 文件对象操作
写一个测试文件test.txt举例：
|
1
2
3
4
5
|
# cat test.txt
1.Python
2.Java
3.C
+
+
4.Ruby
|
12.2.1 read()读取所有内容
|
1
2
3
|
>>> f
=
open
(
'test.txt'
,
'r'
)
>>> f.read()
'1.Python\n2.Java\n3.C++\n4.Ruby\n'
|
指定读取多少字节：
|
1
2
3
|
>>> f
=
open
(
'test.txt'
,
'r'
)
>>> f.read(
9
)
# 获取指定字节
'1.Python\n'
|
12.2.2 readline()读取下一行内容
|
1
2
3
4
5
|
>>> f
=
open
(
'test.txt'
,
'r'
)
>>> f.readline()
'1.Python\n'
>>> f.readline()
'2.Java\n'
|
12.2.3 readlines()读取所有内容返回一个列表
|
1
2
3
|
>>> f
=
open
(
'test.txt'
,
'r'
)
>>> f.readlines()
[
'1.Python\n'
,
'2.Java\n'
,
'3.C++\n'
,
'4.Ruby\n'
]
|
12.2.4 wirte()写入字符串到文件
|
1
2
3
4
5
6
7
8
9
|
>>> f
=
open
(
'test.txt'
,
'a'
)
# 以追加方式打开文件
>>> f.write(
"5.Shell\n"
)
# 这一步并没有真正写到文件
>>> f.flush()
# 刷新到磁盘才写到文件
# cat test.txt
1.Python
2.Java
3.C
+
+
4.Ruby
5.Shell
|
12.2.5 wirtelines()写入一个序列字符串到文件
|
1
2
3
4
5
6
7
8
9
10
|
>>> f
=
open
(
'test.txt'
,
'a'
)
>>> f.writelines([
'a'
,
'b'
,
'c'
])
>>> f.flush()
# cat test.txt
1.Python
2.Java
3.C
+
+
4.Ruby
5.Shell
abc
|
12.2.6 seek()从指定位置读取
|
1
2
3
4
5
6
7
8
9
|
>>> f
=
open
(
'test.txt'
,
'r'
)
>>> f.tell()
0
>>> f.seek(
9
)
>>> f.tell()
9
>>> f.seek(
5
,
1
)
# 1表示从当前位置开始
>>> f.tell()
14
|
12.2.7 tell()返回当前指针位置
|
1
2
3
4
5
6
7
8
9
10
11
12
|
>>> f
=
open
(
'test.txt'
,
'r'
)
>>> f.tell()
0
>>> f.readline()
'1.Python\n'
>>> f.tell()
9
>>> f.readline()
'2.Java\n'
>>> f.tell()
16
>>> f.close()
# 使用完后关闭文件
|
博客地址：http://lizhenliang.blog.51cto.com
QQ群：323779636（Shell/Python运维开发群）
12.3 文件对象增删改查
在shell中，我们要想对文件指定行插入内容、替换等情况，使用sed工具很容易就实现。在本章节讲的open()函数并没有直接类似与sed工具的方法，要想实现这样的操作，变通的处理能到达此效果，主要思路是先读取内容修改，再写会文件，以下举几个常用的情况 。
12.3.1 在第一行增加一行
例如：在开头添加一个test字符串
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
,
'r'
)
data
=
f.read()
data
=
"test\n"
+
data
f
=
open
(
'test.txt'
,
'w'
)
f.write(data)
f.flush()
f.close()
# python test.py
# cat test.txt
test
1.Python
2.Java
3.C
+
+
4.Ruby
|
先将数据读出来，然后把要添加的test字符串拼接到原有的数据，然后在写入这个文件。
12.3.2 在指定行添加一行
例如：在第二行添加一个test字符串
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
,
'r'
)
data_list
=
f.readlines()
# 经测试，此方法比下面迭代效率高
# data_list = []
# for line in f:
# data_list.append(line)
data_list.insert(
1
,
'test\n'
)
# data = ''.join(data)
f
=
open
(
'test.txt'
,
'w'
)
# f.write(data)
f.writelines(data_list)
f.flush()
f.close
# python test.py
# cat test.txt
1.Python
test
2.Java
3.C
+
+
4.Ruby
|
先将数据以列表存储，就可以根据下标插入到指定位置，也就是哪一行了。再通过join把列表拼接成字符串，最后写到文件。
12.3.3 在匹配行前一行或后一行添加test字符串
|
1
2
3
4
5
6
7
8
9
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
,
'r'
)
data_list
=
f.readlines()
data_list.insert(
2
-
1
,
'test\n'
)
# 在指定行减去一行就是上一行了，下一行插入同理
f
=
open
(
'test.txt'
,
'w'
)
f.writelines(data_list)
f.flush()
f.close
|
12.3.4 删除指定行
例如：删除第三行，与在指定行添加同理
|
1
2
3
4
5
6
7
8
9
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
,
'r'
)
data_list
=
f.readlines()
data_list.pop(
2
)
f
=
open
(
'test.txt'
,
'w'
)
f.writelines(data_list)
f.flush()
f.close
|
例如：只保留第一行至第三行
|
1
2
3
4
5
6
7
8
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
,
'r'
)
data_list
=
f.readlines()[
0
:
2
]
# 列表切片
f
=
open
(
'test.txt'
,
'w'
)
f.write(data_list)
f.flush()
f.close
|
12.3.5 删除匹配行
例如：删除匹配Py字符的行
|
1
2
3
4
5
6
7
8
9
10
11
12
13
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
,
'r'
)
data
=
f.readlines()
# data_list = []
# for line in data:
# if line.find('Py') == -1: # 如果当前行不包含Py字符，会返回-1，否则返回下标
# data_list.append(line)
data_list
=
[line
for
line
in
data
if
line.find(
'Py'
)
=
=
-
1
]
f
=
open
(
'test.txt'
,
'w'
)
f.writelines(data_list)
f.flush()
f.close
|
12.3.6 全局替换字符串
|
1
2
3
4
5
6
7
8
9
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
,
'r'
)
data
=
f.read()
data.replace(
'old string'
,
'new string'
)
f
=
open
(
'test.txt'
,
'w'
)
f.write(data)
f.flush()
f.close
|
12.3.7 在指定行替换字符串
例如：将C++改为C#
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
,
'r'
)
data
=
f.readlines()
data_list
=
[]
for
line
in
data:
if
data.index(line)
=
=
2
:
data_list.append(line.replace(
'++'
,
'#'
))
else
:
data_list.append(line)
f
=
open
(
'test.txt'
,
'w'
)
f.writelines(data_list)
f.flush()
f.close
|
12.3.8 处理大文件
在读取上G文件时，直接读取所有内容会导致内存占用过多，内存爆掉。要想提高处理效率，有以下两种方法：
方法1：open()打开文件返回的对象本身就是可迭代的，利用for循环迭代可提高处理性能
|
1
2
3
4
5
6
7
8
|
>>> f
=
open
(
'test.txt'
)
>>>
for
line
in
f:
...
print
line
# 每行后面会有一个换行符\n，所以会打印出来换行符，可以使用line.strip('\n')去除
...
1.Python
2.Java
3.C
+
+
4.Ruby
|
方法2：每次只读取固定字节
|
1
2
3
4
5
6
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
)
while
True
:
data
=
f.read(
1024
)
# 每次只读取1024字节
if
not
data:
break
|
12.3.9 下载文件
|
1
2
3
4
5
6
7
8
9
10
11
|
方法
1
：
import
urllib
url
=
"http://nginx.org/download/nginx-1.10.1.tar.gz"
urllib.urlretrieve(url,
"nginx-1.10.1.tar.gz"
)
方法
2
：
import
urllib2
url
=
"http://nginx.org/download/nginx-1.10.1.tar.gz"
f
=
urllib2.urlopen(url).read()
with
open
(
"nginx-1.10.1.tar.gz"
,
"wb"
) as data:
data.write(f)
|
12.4 fileinput
fileinput模块是Python内建模块，用于遍历文件，可对多文件操作。
| 方法 |
描述 |
| fileinput.input([files[, inplace[, backup[, mode[, openhook]]]]]) | files：文件路径，多文件这样写['1.txt,'2.txt''] inplace：是否将标准输出写到原文件，默认是0，不写 backup：备份文件扩展名，比如.bak mode：读写模式，默认r，只读 openhook： |
| fileinput.isfirstline() | 检查当前行是否是文件的第一行 |
| fileinput.lineno() | 返回当前已经读取行的数量 |
| fileinput.fileno() | 返回当前文件数量 |
| fileinput.filelineno() | 返回当前读取行的行号 |
| fileinput.filename() | 返回当前文件名 |
12.4.1 遍历文件内容
|
1
2
3
4
5
6
7
8
9
10
11
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
import
fileinput
for
line
in
fileinput.
input
(
'test.txt'
):
print
line
# python test.py
1.Python
2.Java
3.C
+
+
4.Ruby
|
12.4.2 返回当前读取行的行号
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
import
fileinput
for
line
in
fileinput.
input
(
'test.txt'
):
print
fileinput.filelineno()
print
line,
# 逗号忽略换行符
# python test.py
1
1.Python
2
2.Java
3
3.C
+
+
4
4.Ruby
|
12.4.3 全局替换字符，修改原文件
|
1
2
3
4
5
6
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
import
fileinput
for
line
in
fileinput.
input
(
'test.txt'
, backup
=
'.bak'
, inplace
=
1
):
line
=
line.replace(
'++'
,
'#'
)
print
line,
|
先把要操作的文件备份一个以.bak的后缀文件，inplace=1是将标准输出写到原文件，也就是这个脚本如果没有标准输出，就会以空数据写到原文件。
12.4.4 对多文件操作
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
import
fileinput
for
line
in
fileinput.
input
([
'test.txt'
,
'test2.txt'
]):
print
line,
12.4
.
5
实时读取文件新增内容，类似tail
-
f
#!/usr/bin/python
# -*- coding: utf-8 -*-
with
open
(
'access.log'
) as f:
f.seek(
0
,
2
)
# 每次打开文件都将文件指针移动到末尾
while
True
:
line
=
f.readline()
if
line:
print
line,
|
这个死循环会一直执行下面的操作。很消耗性能。
我们可以加个休眠，每秒读取一次：
|
1
2
3
4
5
6
7
8
9
10
11
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
import
time
with
open
(
'access.log'
) as f:
f.seek(
0
,
2
)
while
True
:
line
=
f.readline()
if
line:
print
line,
else
:
time.sleep(
1
)
|
12.5 shutil
shutil模块是Python内建模块，用于文件或目录拷贝，归档。
| 方法 |
描述 |
| shutil.copyfile(src, dst) | 复制文件 |
| shutil.copytree(src, dst) | 复制文件或目录 |
| shutil.move(src, dst) | 移动文件或目录 |
| shutil.rmtree(path,ignore_errors=False, onerror=None) | 递归删除目录。os.rmdir()不能删除有文件的目录，就可以用这个了 |
| shutil.make_archive(base_name, format, root_dir=None, base_dir=None, verbose=0, dry_run=0, owner=None, group=None, logger=None) | Python2.7以后才有这个方法。 功能是创建zip或tar归档文件。 base_name：要创建归档文件名 format：归档文件格式，有zip、tar、bztar、gztar root_dir：要压缩的目录 base_dir：？ 用法：shutil.make_archive('wp','zip','/root/wordpress') |
12.6 with语句
在处理一些事务时，可能会出现异常和后续的清理工作，比如读取失败，关闭文件等。这就用到了异常处理语句try...except，如下：
|
1
2
3
4
5
6
7
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
f
=
open
(
'test.txt'
)
try
:
data
=
f.read()
finally
:
f.close()
|
Python对于这种情况提供了一种更简单的处理方式，with语句。处理一个文件时，先获取一个文件句柄，再从文件中读取数据，最后关闭文件句柄。如下：
|
1
2
3
4
|
#!/usr/bin/python
# -*- coding: utf-8 -*-
with
open
(
'test.txt'
) as f:
data
=
f.read()
|
可见这种方式显得更简约，一些异常、清理工作都交给with处理了。
