用Python找出文件中使用率最高的汉字

2009 3 15 11:24 PM 3070次查看

分类：Python 标签：Python

这是我初学Python时写的，为了简便，我并没在排序完后再去掉非中文字符，稍微会影响性能（大约增加了25％的时间）。
你还可以看看找出使用率最高的英文单词的方法。
# -*- coding: gbk -*-
import codecs
from time import time
from operator import itemgetter

def top_words(filename, size=10, encoding='gbk'):
    count = {}
    for line in codecs.open(filename, 'r', encoding):
        for word in line:
            if u'\u4E00' <= word <= u'\u9FA5' or  u'\uF900' <= word <= u'\uFA2D':
                count[word] = 1 + count.get(word, 0)
    top_words = sorted(count.iteritems(), key=itemgetter(1), reverse=True)[:size]
    print '\n'.join([u'%s : %s次' % (word, times) for word, times in top_words])

begin = time()
top_words('空之境界.txt')
print '一共耗时 : %s秒' % (time()-begin)
如果想用上新方法，以及让join的可读性更高的话，这样也是可以的：
# -*- coding: gbk -*-
import codecs
from time import time
from operator import itemgetter
from heapq import nlargest

def top_words(filename, size=10, encoding='gbk'):
    count = {}
    for line in codecs.open(filename, 'r', encoding):
        for word in line:
            if u'\u4E00' <= word <= u'\u9FA5' or  u'\uF900' <= word <= u'\uFA2D':
                count[word] = 1 + count.get(word, 0)
    top_words = nlargest(size, count.iteritems(), key=itemgetter(1))
    for word, times in top_words:
        print u'%s : %s次' % (word, times)

begin = time()
top_words('空之境界.txt')
print '一共耗时 : %s秒' % (time()-begin)
或者让行数更少（好囧的列表综合）：
# -*- coding: gbk -*-
import codecs
from time import time
from operator import itemgetter

def top_words(filename, size=10, encoding='gbk'):
    count = {}
    for word in [word for word in codecs.open(filename, 'r', encoding).read() if u'\u4E00' <= word <= u'\u9FA5' or  u'\uF900' <= word <= u'\uFA2D']:
        count[word] = 1 + count.get(word, 0)
    top_words = sorted(count.iteritems(), key=itemgetter(1), reverse=True)[:size]
    print '\n'.join([u'%s : %s次' % (word, times) for word, times in top_words])

begin = time()
top_words('空之境界.txt')
print '一共耗时 : %s秒' % (time()-begin)
此外还可以引入with语句，这样只需一行就能获得异常安全性。

3者性能几乎一样，结果如下：
的 : 17533次
是 : 8581次
不 : 6375次
我 : 6168次
了 : 5586次
一 : 5197次
这 : 4394次
在 : 4264次
有 : 4188次
人 : 4025次
一共耗时 : 0.5秒
引入psyco模块的成绩：
的 : 17533次
是 : 8581次
不 : 6375次
我 : 6168次
了 : 5586次
一 : 5197次
这 : 4394次
在 : 4264次
有 : 4188次
人 : 4025次
一共耗时 : 0.280999898911秒
注：测试文件为778KB的GBK编码，40余万字。

1条评论 你不来一发么↓ 顺序排列 倒序排列

    向下滚动可载入更多评论，或者点这里禁止自动加载。

    想说点什么呢？