在使用 Python 处理分析数据的时候，用的最多的算是 Pandas 时，由于 Pandas 是个非常强大的工具，涉及到的功能非常多，所以平常使用的时候经常需要查询文档。这里记载了自己常用的一些功能及知识点。 Pandas 简介 …
在使用Pandas分析数据时，除了读取文本类数据，如Excel、CSV文件外，还会涉及到数据库的读取。通常的方案是Pandas+SQLAlchemy。 以下内容是记录的一些操作记录，算是备忘。 使用sqlalchemy连接数据库 Engine翻译…
在使用Pandas处理数据时，有时需要多数据进行合并和连接操作，最常用的包括将多个分割的文件进行合并： import pandas as pd import glob file_list = glob.glob('data/*') df_list = [] for file in file_list: …
公司的 Jupyter 环境支持 PySpark。这样就可以非常方便的使用 PySpark 连接到 Hive 查询和使用。由于先前完全没有接触过 Spark，所以整理了一些参考资料。 SparkContext PySpark 里最核心的模块是 SparkContext（…
在日常工作中，除了会涉及到使用Python处理文本文件，有时候还会涉及对压缩文件的处理。 通常会涉及到的压缩文件格式有： rar：Windows环境下用的比较多的压缩，比较著名的GUI工具是winrar tar:Linux系统下的…
Python中可以使用两种类型的循环：for循环和while循环。您可以将它们用于重复任务。因此，重复性任务将自动发生，使流程更加高效。不幸的是，您的循环可能会遇到一些问题。有时，您的程序可能会遇到问题，需要它跳…
LaTeX简介 LaTeX是一个强大的排版工具，一般场景很少会接触，但是在数学领域却用的非常的多，主要原因是他可以非常方便的生成各种数学公式。想要学会怎么使用LaTeX只需学会几个简单的概念即可。 显示模式 显示…
在自然语言的处理中语义分析中，除了需要拆解字形外，字音有时也能表示含义。另外，在搭建搜索引擎时在搜索词query分析是也会的用到汉字转拼音或拼音转汉字的场景。 Python已经有很多包支持类似的功能，整理出来…
Jupyter与IPython的关系 IPython 是个比默认的 Python Shell 好用得多的 Python 交互命令行界面，支持变量自动补全、自动缩进、Bash Shell 命令，还内置了许多很有用的功能和函数。大大提高交互式计算和软件开发的…
汉字是记录汉语的文字。汉字对发展中华民族的优秀文化起了重大的作用。汉字是世界上最古老的文字之一。汉字以象形字为基础，形、音、义、结合于一体，成为独特的方块形的表意体系的文字。 汉字的特点： 汉字的…
