所有文章

城市运营之商圈商业区数据完善

目前大部分O2O性质的服务(如外卖)都是以城市商圈未中心进行拓展的。在社区运营层面往往也需要商圈的信息,比如咸鱼的“鱼塘”也是基于商圈进行的运营。更加完善的商圈数据,无疑会更好的协助城市运营。由于商圈/ 商…

术→技巧, 研发, 运营 ·

正则表达式与Python Re模块

在数据抓取的时候会经常使用正则表达式,如果对于Python的re模块不太熟悉,很容易被里面的各种方法搞混,今天就一起来复习下Python的re模块。 在学习Python模块之前,先来看下官方说明文档是怎么说的?执行…

术→技巧, 研发 ·

HTML解析抽取工具Beautiful Soup

Beautiful Soup 是一个可以从HTML或XML文件中提取数据的Python库,简单来说,它能将HTML的标签文件解析成树形结构,然后方便地获取到指定标签的对应属性。这个特性lxml差不多。 Beautiful Soup的安装 Beautif…

器→工具, 开源项目 ·

Python网络请求库Requests使用技巧

Requests 库是用来在Python中发出标准的HTTP请求。它将请求背后的复杂性抽象成一个漂亮,简单的API,以便你可以专注于与服务交互和在应用程序中使用数据。 Requests POST/GET 参数 常用参数见下表: Req…

术→技巧, 研发 ·

Python异常重试解决方案

数据抓取时,经常遇到由于网络问题导致的程序异常,一开始的做法只是记录了错误内容,并对错误内容再进行后期处理。这里整理了一些更好的异常重试方法或机制。 初始版本: def crawl_page(url): pass …

术→技巧, 研发 ·

HTML网页解析提取工具lxml和XPath

在数据抓取过程中,经常遇到需要解析HTML中的内容,常用的是用正则表达式,今天主要介绍lxml工具及xpath的语法。 lxml简介 lxml 是一款高性能Python XML 库,它天生支持 XPath 1.0、XSLT 1.0、定制元素类,甚至 P…

条件随机场CRF及CRF++安装与使用

条件随机场(conditional random field, CRF)是用来标注和划分序列结构数据的概率化结构模型。言下之意,就是对于给定的输出,标识序列Y和观测序列X,条件随机场通过定义条件概率P(Y|X),而不是联合概率分布P(X, Y)…

Linux下文件的压缩与解压缩

Linux下文件的压缩与解压缩与Windows环境下有较大的区别,在Windows下只需要安装类似Winrar工具就能解压缩大部分文件,而在Linux命令行下每一种文件都有不同的压缩和解压缩方法。 常用Linux压缩解压缩命令 使…

器→工具, 工具软件 ·

最小熵原理确认词向量维度

随着 NLP 的发展,像 Word2Vec、Glove 这样的词向量模型,正逐渐地被基于 Transformer 的 BERT 等模型代替,不过经典始终是经典,词向量模型依然在不少场景发光发热,并且仍有不少值得我们去研究的地方。本文来关心…

Python中文简繁繁简转换

中文繁体、简体的差异,在NPL中类似英文中的大小写,但又比大小写更为复杂,比如同样为繁体字,大陆、香港和台湾又不一样。 OpenCC(Open Chinese Convert) OpenCC是一个开源的中文繁简转化项目,支持词汇级…

数据, 术→技巧 ·