统计十篇新闻TF-IDF
统计TF-IDF词频，每篇文章的 top10 的高频词存储为 json 文件
TF-IDF
TF-IDF（term frequency–inverse document frequency）是一种用于资讯检索与文本挖掘的常用加权技术。TF-IDF是一种统计方法，用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加，但同时会随着它在语料库中出现的频率成反比下降。TF-IDF加权的各种形式常被搜索引擎应用，作为文件与用户查询之间相关程度的度量或评级。除了TF-IDF以外，互联网上的搜索引擎还会使用基于连结分析的评级方法，以确定文件在搜寻结果中出现的顺序。
假如一篇文件的总词语数是100个，而词语“母牛”出现了3次，那么“母牛”一词在该文件中的词频就是3/100=0.03。一个计算文件频率（DF）的方法是测定有多少份文件出现过“母牛”一词，然后除以文件集里包含的文件总数。所以，如果“母牛”一词在1,000份文件出现过，而文件总数是10,000,000份的话，其逆向文件频率就是log（10,000,000 / 1,000）=4。最后的TF-IDF的分数为0.03 * 4=0.12。 —— [ 维基百科 ]
博主选择的是chinadaily的十篇新闻.
1.使用http request请求
2.使用Beautiful Soup来抓取文章标题和内容
3.统计TF-IDF
4.保存到json文件中
代码块
@requires_authorization
#coding=utf-8
import requests
import bs4
import sys
import math
import json
reload(sys)
sys.setdefaultencoding('utf-8')
url_list = ['http://www.chinadaily.com.cn/china/2016-04/20/content_24701635.htm',
'http://www.chinadaily.com.cn/china/2016-04/20/content_24700746.htm',
'http://www.chinadaily.com.cn/china/2016-04/20/content_24681482.htm',
'http://www.chinadaily.com.cn/china/2016-04/19/content_24675530.htm',
'http://www.chinadaily.com.cn/china/2016-04/19/content_24675455.htm',
'http://www.chinadaily.com.cn/china/2016-04/19/content_24674074.htm',
'http://www.chinadaily.com.cn/china/2016-04/19/content_24655536.htm',
'http://www.chinadaily.com.cn/china/2016-04/18/content_24643685.htm',
'http://www.chinadaily.com.cn/china/2016-04/18/content_24636917.htm',
'http://www.chinadaily.com.cn/china/2016-04/15/content_24562198.htm'
]
articles_title = []
articles_content = []
for pos,url in enumerate(url_list):
r = requests.get(url)
soup1 = bs4.BeautifulSoup(r.text)
soup2 = bs4.BeautifulSoup(str(soup1.find_all(id="Title_e")))
articles_title.append(soup2.h1.string)
mystr = ""
soup3 = bs4.BeautifulSoup(str(soup1.find_all(id="Content")))
for x in soup3.find_all("p"):
mystr = mystr + x.string
str_p = ""
contents = []
for pos,x in enumerate(mystr):
if x == '.' or x == ',':
if pos < (len(mystr) - 1) and mystr[pos+1] >= '0' and mystr[pos+1] <= '9':
str_p = str_p + x
elif str_p == "":
continue
else:
contents.append(str_p)
str_p = ""
elif x == '(' or x == ')' or x == ' ' or x == '"' or x == '[' or x == ']' or x == '-':
if str_p == "":
continue
else:
contents.append(str_p)
str_p = ""
else:
str_p = str_p + x
articles_content.append(contents)
Dict_idf = {}
DictList = []
for content in articles_content:
Dict_tf = {}
for x in content:
if not Dict_tf.has_key(x):
Dict_tf[x] = 1.0
if not Dict_idf.has_key(x):
Dict_idf[x] = 1.0
else:
Dict_idf[x] += 1.0
else:
Dict_tf[x] += 1.0
for k, v in Dict_tf.items():
Dict_tf[k] = v / len(content)
DictList.append(Dict_tf)
for k, v in Dict_idf.items():
Dict_idf[k] = math.log(float(len(url_list)) / v)
for pos,x in enumerate(DictList):
for k,v in x.items():
DictList[pos][k] = v*Dict_idf[k]
DictList[pos] = sorted(x.iteritems(), key=lambda d: d[1], reverse=True)
"""
[
[
article_titile:"XXXX"
[
{
word:"hello"
value:3.5
}
{
word:"hello"
value:3.5
}
{
word:"hello"
value:3.5
}
...
]
]
]
"""
data = []
for pos in range(10):
data2=[]
data2.append("article_titile:")
data2.append(articles_title[pos])
data2.append([{"word": k,"value":round(v,4)} for k,v in DictList[pos][:10]])
data.append(data2)
# Writing JSON data
with open('data.json', 'w') as f:
json.dump(data, f)
使用json.cn查看数据:
github地址：https://github.com/mqsee/learngit
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。
Python,爬取,TF,IDF
免责声明：本站文章均来自网站采集或用户投稿，网站不提供任何软件下载或自行开发的软件！ 如有用户或公司发现本站内容信息存在侵权行为，请邮件告知！ 858582#qq.com
《魔兽世界》大逃杀！60人新游玩模式《强袭风暴》3月21日上线
暴雪近日发布了《魔兽世界》10.2.6 更新内容，新游玩模式《强袭风暴》即将于3月21 日在亚服上线，届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。
艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕，并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时，他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中，玩家将会进入一个全新的海盗主题大逃杀式限时活动，其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场，作为一个独立于主游戏之外的活动，玩家可以用大逃杀的风格来体验《魔兽世界》，不分职业、不分装备（除了你在赛局中捡到的），光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式，玩家在加入海盗主题的预赛大厅区域前，可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹，《巨龙崛起》和《魔兽世界：巫妖王之怒 经典版》的玩家都可以获得奖励。