【Python】数据提取xpath和lxml模块（糗事百科的爬虫）
程序中用到的一些零碎知识点：
一、列表推导式：帮助我们快速生成一堆数据的列表
1、format：字符串格式化的一种方式
>>> ["10月{}日".format(i) for i in range(1,10)]
['10月1日', '10月2日', '10月3日', '10月4日', '10月5日', '10月6日', '10月7日', '10月8日', '10月9日']
二、字典推导式：帮助我们快速生成一堆数据的字典
>>> {i+10:i for i in range(10)}
{10: 0, 11: 1, 12: 2, 13: 3, 14: 4, 15: 5, 16: 6, 17: 7, 18: 8, 19: 9}>>> {"a{}".format(i):10 for i in range(10)}
{'a0': 10, 'a1': 10, 'a2': 10, 'a3': 10, 'a4': 10, 'a5': 10, 'a6': 10, 'a7': 10, 'a8': 10, 'a9': 10}
三、三元运算符
a=10 if 3>4 else 20 #a=20
a=10 if 3<4 else 20 #a=10
代码如下：
import requestsfrom lxml import etreeimport jsonclass Qiushibaike():def __init__(self):self.url = "https://www.qiushibaike.com/8hr/page/{}/"self.headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36"}def parse_url(self,url):print("now:",url)response =requests.get(url,headers = self.headers)return response.content.decode()def get_content_list(self,html_str):html = etree.HTML(html_str)div_list = html.xpath("//div[@id='content-left']/div")content_list=[]for div in div_list:item={}item["username"]=div.xpath(".//div[@class='author clearfix']//h2/text()")[0].strip() if len(div.xpath(".//div[@class='author clearfix']//h2/text()"))>0 else Noneitem["age"]=div.xpath(".//div[@class='author clearfix']//div/text()")item["content"]=div.xpath(".//div[@class='content']/span/text()")item["stats_vote"]=div.xpath(".//span[@class='stats-vote']/i/text()")item["stats_vote"]=item["stats_vote"][0] if len(item["stats_vote"])>0 else Noneitem["stats_commments"]=div.xpath(".//span[@class='stats-comments']//i/text()")item["stats_commments"]=item["stats_commments"][0] if len(item["stats_commments"])>0 else Noneitem["img"]=div.xpath(".//div[@class='thumb']//img/@src")item["img"]="https:"+item["img"][0] if len(item["img"])>0 else Nonecontent_list.append(item)return content_listdef save_content_list(self,content_list):with open("糗事百科.txt","a",encoding="utf-8") as f:for content in content_list:f.write(json.dumps(content,ensure_ascii=False,indent=2))f.write("\n")print("保存成功")def run(self):#1.根据url地址的规律构造url_listurl_list = [self.url.format(i) for i in range(1,14)]#2.发送请求，获取响应for url in url_list:html_str = self.parse_url(url)#3.提取数据content_list = self.get_content_list(html_str)#4.保存self.save_content_list(content_list)if __name__ == '__main__':qiushi = Qiushibaike()qiushi.run()相关文章：
Linux Performance
性能专家Brendan Gregg的网站。 Linux性能 该页面链接到我创建的各种Linux性能材料，包括右侧的工具图。它们使用大字体来适合滑盖。您也可以将它们打印出来用于办公室墙壁。它们显示：Linux可观察性工具， Linux静态性能分析工具，…
07.LoT.UI 前后台通用框架分解系列之——强大的文本编辑器
LOT.UI分解系列汇总：http://www.cnblogs.com/dunitian/p/4822808.html#lotui LoT.UI开源地址如下：https://github.com/dunitian/LoTCodeBase/tree/master/LoTUI 先看在LoT.UI里面的应用效果图： 完整Demo：（https://gith…
workerman结合laravel开发在线聊天应用的示例代码
项目背景： 最近由于公司的业务需求，需要用到聊天功能。而且有比较多的个性化需求需要定制。之前使用别人的聊天组件是基于微擎的。如果要移植到普通的H5在逻辑修改还有定制上存在比较多的困难。为此只能克服困难，自己搭建一个吧 什么是Worker…
复杂系统设计 企业开发的困境
复杂系统设计源自我多年对企业复杂系统的设计的一些思考，类似日记吧，不断完善。 为什么从一个大公司的引入架构师甚至架构师组还是很难架构企业开发中的很多问题？ 这些问题表现出架构上的复杂性，和业务上的复杂性。 有时候架构…
数据库服务器跟网站服务器间传输慢的问题
数据库服务器和网站服务器是分开的，现在从网站服务器这边查数据比较慢，什么原因？？？ 一、首先确定服务器之间的网络有没有问题 可以简单的在网站服务器上ping数据库服务器（反过来也可以）…
【Python】百度贴吧图片的爬虫实现（努力努力再努力）
学会爬取图片以后，第一时间去了张艺兴吧，哈哈哈哈哈哈 一定要放上一张爬取的照片，哼唧 import reimport requestsimport urllibclass Baidutieba():def __init__(self):self.url "http://tieba.baidu.com/p/4876047826?pn{}"#u…
cin、cout的重载
一、cin重载 1.cin为ostream类的成员 2.cin重载应为全局函数（毕竟ostream是别人写好的） 3.代码 a.核心代码 ostream & operator<<(ostream &os,const A &a)//const A &a是为了避免复制函数的调用 ；ostream &o 相当…
第二次冲刺第十天
第二次冲刺今天就结束了，这十天来学会了不少的东西。 简单说一下昨天做的：整合各个部件的功能。 今天：小组进行总结，加强性能。 这十天来遇到的问题： 一，对于网络云端，之前都是其他小组成员在使…
说透泛型类和泛型方法以及Class＜T＞和Class＜?＞的差异
泛型类和泛型方法看起来似乎可以实现类似的功能，但是很多人并未真正掌握泛型方法，网上很多文章说了很多还是似是而非，特别是初学者还是搞不明白。 一.关于泛型方法 1.泛型方法可以独立于泛型类 2.泛型方法等效于泛型类里泛型参数方法&…
win10 +python 3.6.4安装scrapy
第一步： 首先，我们先在电脑上安装好python3.6并且配置好环境变量，以可以直接在命令行界面输入python命令可以出现如图的界面为主。 第二步： 升级pip ，在cmd窗口中会有提示，没有提示的话就已经是最新版本了…
7 种 Javascript 常用设计模式学习笔记
7 种 Javascript 常用设计模式学习笔记 由于 JS 或者前端的场景限制，并不是 23 种设计模式都常用。 有的是没有使用场景，有的模式使用场景非常少，所以只是列举 7 个常见的模式 本文的脉络： 设计与模式5 大设计原则 7 种常见的设计…
从难免的线上bug说起代码的思考
经常是某司线上又出bug了，然后是给公司造成多少损失，追根究底总是可以找到一些原因，诸如：写代码逻辑考虑不全面，或者代码有硬伤，也有测试不充分，甚至不测试都有，也有是运维的问题等等…
PHP-Fpm应用池配置
//php.net php-fpm配置简介http://php.net/manual/zh/install.fpm.configuration.php//Global Options//pool defined[www]user nobodygroup nobodylisten 127.0.0.1:9000pm dynamicpm.max_children 5pm.start_servers 2pm.min_spare_servers 1pm.max_spare_servers 3s…
【Python】百度首页GIF动画的爬虫
今天百度首页的GIF动画很可爱，就想着用才学的爬虫爬取一下，虽然直接点击“图片另存为”就可以了 import requestsimport urllibclass Gif():def __init__(self):self.url "https://www.baidu.com/"self.headers {"User-Agent": …
CSS题目系列（3）- 实现文字切割效果
描述 有一天逛 Codepen 的时候，看到这么一个效果：将文字上下切开两半。 点进去看了一下代码，发现原理很简单，大概就是通过伪类使用attr()函数获取内容，然后进行定位。 你可以点下方链接查看效果： gd4ark.gi…
Java开发字符串JSON处理
需求很简单就是数据库存json。 数据库字段 varchar 入参request 定义 List<String> 如果不定义这个 而是定义String那么需要加"/转义比较难看 这样就只要入参传这个就行了： "xxxIds": ["33","44"], 数据库也是…
1.JSONObject与JSONArray的使用
参考文献： http://blog.csdn.net/huangwuyi/article/details/5412500 1.JAR包简介 要使程序可以运行必须引入JSON-lib包，JSON-lib包同时依赖于以下的JAR包： commons-lang.jarcommons-beanutils.jarcommons-collections.jarcommons-logging.ja…
【Python】Scrapy爬虫实战（豆瓣电影 Top 250）
今天一天都在弄Scrapy，虽然爬虫起来真的很快，很有效率，但是......捣鼓了一天 豆瓣电影 Top 250：https://movie.douban.com/top250 安装好的scrapy 在你想要的文件夹的目录下输入命令： scrapy startproject douban_m…
vmrun 批量创建vmware虚拟机
1 准备模板机 具体步骤如下： 1. 下载镜像安装系统 https://mirrors.aliyun.com/centos/7.5.1804/isos/x86_64/2. 安装完成配置好IP ，关闭SELINUX ,关闭firewalld ,修改网卡名 3. 预设置好修改其他机器IP脚本 1.1 安装系统 略 1.2 模板机的设置 修改网卡名…
暗时间：开发效率为何如此低下
产品 开发 测试 三者都理解不一致。 产品怎么样表达出自己的诉求，是否写清文档就够了。 开发觉得自己沟通了，但是为什么测试一提测又许多问题。 测试的case看似都一起评审了。 而这样的结果必然是重新修修补补，怎么样事前把问题全部解…
【Python】Scrapy爬虫实战（传智播客老师简介）
在文件夹里创建一个爬虫项目 scrapy startproject ITcast 在spiders目录下： scrapy genspider itcast ------------------------------------------------------------------------------------------------------------------------------------------------------…
坑系列 --- 高可用架构的银弹
呵呵，题图是一队困在坑中的鸭子：）作为一个搬砖的，我经常被困着。今天高考，想起15年前的今天（哦，那时候是七月高考），恩，考完了，还不错，…
【TeeChart Pro ActiveX教程】（八）：ADO数据库访问（上）
2019独角兽企业重金招聘Python工程师标准>>> 下载TeeChart Pro ActiveX最新版本 介绍 将TeeChart控件连接到ADO.NET数据库可以在设计时使用TeeChart编辑器完成，并在运行时使用几行代码完成。 任何Series都可以使用TeeChart Editor连接到ADO.NET表或查询。…
代码规范碎碎念
代码规范碎碎念 list条件多于2不要写命名上 controller (model-DTO) service (model) repository层 语义化构造 (entity->model) String转map 语义化数据结构 String转model 从数据库层增强语义 组装模型 DAO ( entity) mapper VO(admin) DTO(client) -------…
RRDTool原理简介
1.概述 RRDtool 代表 “Round Robin Database tool” ，作者同时也是 MRTG 软件的发明人。官方站点位于http://oss.oetiker.ch/rrdtool/ 。 所谓的“Round Robin” 其实是一种存储数据的方式，使用固定大小的空间来存储数据，并有一个指针指向最…
【Python】Scrapy爬虫实战（腾讯社会招聘职位检索）
爬虫网页：https://hr.tencent.com/position.php 应用Scrapy框架，具体步骤就不详细说明，前面几篇Scrapy有一定的介绍 因为要涉及到翻页，下面的代码使用拼接的方式获取url，应用在一些没办法提取下一页链接的情况下 直…
一对一直播app源码功能操详解方案分享
一：登录页面：1.快捷登录：可以利用第三方账号进行快捷登录2.手机登录：可以让用户通过输入手机号码和密码进行登录.3.注册：可以使用手机号获取验证码注册账号二：打开一对一直播APP首页打开APP，会显…
从一个需求看问题的无限复杂化和简单化
一个需求 如果你一开始的出发点就错了，那么后续的设计只会非常复杂，而且还会有漏洞，也很难发现，发现了也很难解决。 先看数据结构： A表 主键id 其他各种字段不重要 ，重要的就一个字段sort字段 aid1 …
使用自定义材质球，实现NGUI屏幕溶解和灰显
UITexture实现的溶解： 重设UITeture的材质球实现上述效果，把当前屏幕渲染的Texture2D丢给UITexture，即可实现UI屏幕特效，背景模糊等都可以。 难点主要是实时刷新问题 解决的比较粗暴，每次Update重设材质球，…
【Python】Tkinter 体验
import tkinter as tk root tk.Tk() root.title("work hard") #添加一个Label组件，Label组件是GUI程序中最常用的组件之一 #Label组件可以显示文本，图标或图片 #在这里我们让它显示指定文本 theLabel tk.Label(root,text"努力努力再努力…