zhihu-analysis-python

by simoncos

Social Network Analysis of Zhihu with Python

206 Stars 142 Forks Last release: Not found 33 Commits 0 Releases

Available items

No Items, yet!

The developer of this repository has not created any items for sale yet. Need a bug fixed? Help with integration? A different license? Create a request here:

知乎社交网络分析

简介

项目包含基于zhihu-python的多线程爬虫,数据I/O(

SQLite
,
csv
),以及基于用户关注网络的分析(使用networkx作为图算法库)。

注:本项目所使用的zhihu-python已与原版存在差异

详细内容

文件说明

  • crawler
    文件夹:爬虫部分,以广度优先策略爬取知乎数据,并以csv格式储存(这一部分代码目前版本有误,爬到的数据文件与
    zhihu_database.py
    无法衔接,此外存在topic爬漏的问题,待修复)
  • zhihu_schema.sql
    :SQLite数据库的schema
  • zhihu_database.py
    :将csv中的数据导入至数据库中
  • zhihu_analysis.py
    :从数据库中提取数据并进行分析

爬虫部分已知问题及(可能)原因

爬虫部分已年久失修,由于这个project的重点不在于爬虫,所以不打算更新了,还请谨慎入坑:)

  • zhihu-python InsecureRequestWarning | urlib
  • topic.py 会爬漏话题标签 | 原因未知

未来计划

之后考虑利用已有数据集再做一些分析,比如用户聚类、用户-话题-问题网络之类。

We use cookies. If you continue to browse the site, you agree to the use of cookies. For more information on our use of cookies please see our Privacy Policy.