Pandas与SQL的超强结合,爆赞!

x33g5p2x  于2022-05-18 转载在 其他  
字(2.5k)|赞(0)|评价(0)|浏览(400)

1. 演示数据

本文的所有演示数据,均是基于下方的四张表。下面这四张表大家应该不陌生,这就是网传50道经典MySQL面试题中使用到的几张原表。关于下方各表之间的关联关系,我就不给大家说明了,仔细观察字段名,应该就可以发现。

2. pandasql的使用

1)简介

pandas中的DataFrame是一个二维表格,数据库中的表也是一个二维表格,因此在pandas中使用sql语句就显得水到渠成,pandasql使用SQLite作为其操作数据库,同时Python自带SQLite模块,不需要安装,便可直接使用。

这里有一点需要注意的是:使用pandasql读取DataFrame中日期格式的列,默认会读取年月日、时分秒,因此我们要学会使用sqlite中的日期处理函数,方便我们转换日期格式,下方提供sqlite中常用函数大全,希望对你有帮助。

sqlite函数大全http://suo.im/5DWraE

导入相关库:

  1. import pandas as pd
  2. from pandasql import sqldf
2)声明全局变量的2种方式
  • ① 在使用之前,声明该全局变量;
  • ② 一次性声明好全局变量;
① 在使用之前,声明该全局变量
  1. df1 = pd.read_excel("student.xlsx")
  2. df2 = pd.read_excel("sc.xlsx")
  3. df3 = pd.read_excel("course.xlsx")
  4. df4 = pd.read_excel("teacher.xlsx")
  5. global df1
  6. global df2
  7. global df3
  8. global df4query1 = "select * from df1 limit 5"
  9. query2 = "select * from df2 limit 5"
  10. query3 = "select * from df3"
  11. query4 = "select * from df4"
  12. sqldf(query1)
  13. sqldf(query2)
  14. sqldf(query3)
  15. sqldf(query4)

部分结果如下:

② 一次性声明好全局变量
  1. df1 = pd.read_excel("student.xlsx")
  2. df2 = pd.read_excel("sc.xlsx")
  3. df3 = pd.read_excel("course.xlsx")
  4. df4 = pd.read_excel("teacher.xlsx")
  5. pysqldf = lambda q: sqldf(q, globals())
  6. query1 = "select * from df1 limit 5"
  7. query2 = "select * from df2 limit 5"
  8. query3 = "select * from df3"
  9. query4 = "select * from df4"
  10. sqldf(query1)
  11. sqldf(query2)
  12. sqldf(query3)
  13. sqldf(query4)

部分结果如下:

3)写几个简单的SQL语句
① 查看sqlite的版本
  1. student = pd.read_excel("student.xlsx")
  2. pysqldf = lambda q: sqldf(q, globals())
  3. query1 = """
  4.     select sqlite_version(*)
  5. """
  6. pysqldf(query1)

结果如下:

② where筛选
  1. student = pd.read_excel("student.xlsx")
  2. pysqldf = lambda q: sqldf(q, globals())
  3. query1 = """
  4.     select * 
  5.     from student 
  6.     where strftime('%Y-%m-%d',sage) = '1990-01-01'
  7. """
  8. pysqldf(query1)

结果如下:

③ 多表连接
  1. student = pd.read_excel("student.xlsx")
  2. sc = pd.read_excel("sc.xlsx")
  3. pysqldf = lambda q: sqldf(q, globals())
  4. query2 = """
  5.     select *
  6.     from student s
  7.     join sc on s.sid = sc.sid
  8. """
  9. pysqldf(query2)

部分结果如下:

④ 分组聚合
  1. student = pd.read_excel("student.xlsx")
  2. sc = pd.read_excel("sc.xlsx")
  3. pysqldf = lambda q: sqldf(q, globals())
  4. query2 = """
  5.     select s.sname as 姓名,sum(sc.score) as 总分
  6.     from student s
  7.     join sc on s.sid = sc.sid
  8.     group by s.sname
  9. """
  10. pysqldf(query2)

结果如下:

⑤ union查询
  1. student = pd.read_excel("student.xlsx")
  2. pysqldf = lambda q: sqldf(q, globals())
  3. query1 = """
  4.     select * 
  5.     from student 
  6.     where strftime('%Y-%m',sage) = '1990-01'
  7.     union
  8.     select * 
  9.     from student 
  10.     where strftime('%Y-%m',sage) = '1990-12'
  11. """
  12. pysqldf(query1)

结果如下:

相关文章