最新文章专题视频专题问答1问答10问答100问答1000问答2000关键字专题1关键字专题50关键字专题500关键字专题1500TAG最新视频文章推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37视频文章20视频文章30视频文章40视频文章50视频文章60 视频文章70视频文章80视频文章90视频文章100视频文章120视频文章140 视频2关键字专题关键字专题tag2tag3文章专题文章专题2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章专题3
当前位置: 首页 - 科技 - 知识百科 - 正文

如何高效地获取文件行数

来源:动视网 责编:小采 时间:2020-11-27 14:09:41
文档

如何高效地获取文件行数

如何高效地获取文件行数:简单的做法:需要在python中获取大文件(数十万行)的行数。def file_len(fname): with open(fname) as f: for i, l in enumerate(f): pass return i + 1有效的方法(缓冲区读取策略):首先看下运行的结果:mapcount : 0.4717999458
推荐度:
导读如何高效地获取文件行数:简单的做法:需要在python中获取大文件(数十万行)的行数。def file_len(fname): with open(fname) as f: for i, l in enumerate(f): pass return i + 1有效的方法(缓冲区读取策略):首先看下运行的结果:mapcount : 0.4717999458
 简单的做法:

需要在python中获取大文件(数十万行)的行数。

def file_len(fname):
 with open(fname) as f:
 for i, l in enumerate(f):
 pass return i + 1

有效的方法(缓冲区读取策略):

首先看下运行的结果:

mapcount : 0.471799945831
simplecount : 0.634400033951
bufcount : 0.468800067902
opcount : 0.602999973297

因此,对于Windows/Python2.6来说,缓冲区读取策略似乎是最快的。

以下是代码:

from __future__ import with_statement
import time
import mmap
import random
from collections import defaultdict
def mapcount(filename):
 f = open(filename, "r+")
 buf = mmap.mmap(f.fileno(), 0)
 lines = 0
 readline = buf.readline
 while readline():
 lines += 1
 return lines
def simplecount(filename):
 lines = 0
 for line in open(filename):
 lines += 1
 return lines
def bufcount(filename):
 f = open(filename) 
 lines = 0
 buf_size = 1024 * 1024
 read_f = f.read # loop optimization
 buf = read_f(buf_size)
 while buf:
 lines += buf.count('
')
 buf = read_f(buf_size)
 return lines
def opcount(fname):
 with open(fname) as f:
 for i, l in enumerate(f):
 pass
 return i + 1
counts = defaultdict(list)
for i in range(5):
 for func in [mapcount, simplecount, bufcount, opcount]:
 start_time = time.time()
 assert func("big_file.txt") == 1209138
 counts[func].append(time.time() - start_time)
for key, vals in counts.items():
 print key.__name__, ":", sum(vals) / float(len(vals))

文档

如何高效地获取文件行数

如何高效地获取文件行数:简单的做法:需要在python中获取大文件(数十万行)的行数。def file_len(fname): with open(fname) as f: for i, l in enumerate(f): pass return i + 1有效的方法(缓冲区读取策略):首先看下运行的结果:mapcount : 0.4717999458
推荐度:
  • 热门焦点

最新推荐

猜你喜欢

热门推荐

专题
Top