人工智能通识课:Pandas 基础

news2026/4/9 4:59:31
在学习 Pandas 时初学者最容易遇到的困难并不是某个函数不会写而是不清楚这些函数在整个数据处理流程中各自承担什么任务。如果将 Pandas 仅理解为分散的 API知识点容易显得零碎如果将其放回真实任务链中则更容易把握其整体作用。Pandas 的常见工作流程大致如下1把原始数据整理成 DataFrame2从整张表中选出当前真正需要的数据3把不规范的数据清洗到可分析状态4从表格中提取统计结果5在必要时重塑表格或整合多张表6从文件读入数据并把结果重新导出7把分析结果转化为更直观的图形表达这七个环节并不是彼此孤立的而是构成了一条完整的数据处理路径。一、任务起点把原始数据整理成 DataFrame数据分析的起点是将原始数据整理为 Pandas 可以统一处理的表格对象即 DataFrame。这一阶段的核心任务是将原始数据整理为结构清楚、字段明确且可继续操作的数据表。这一阶段的重点不在复杂分析而在于建立对表格结构的基本认识• 行对应什么• 列对应什么• 行索引与列标签分别起什么作用• 初步查看数据类型Data Type是否符合预期示例构建学生成绩表 scoresimport pandas as pd students [ {学号: S001, 姓名: 张三, 班级: C01, 语文: 88, 数学: 92, 英语: 85}, {学号: S002, 姓名: 李四, 班级: C01, 语文: 76, 数学: 81, 英语: 79}, {学号: S003, 姓名: 王五, 班级: C02, 语文: 90, 数学: 87, 英语: 93}, {学号: S004, 姓名: 赵六, 班级: C02, 语文: 85, 数学: 89, 英语: 88}, {学号: S005, 姓名: 孙七, 班级: C03, 语文: 91, 数学: 95, 英语: 90}, {学号: S006, 姓名: 周八, 班级: C03, 语文: 78, 数学: 84, 英语: 80}] scores pd.DataFrame(students)print(scores)输出学号 姓名 班级 语文 数学 英语0 S001 张三 C01 88 92 851 S002 李四 C01 76 81 792 S003 王五 C02 90 87 933 S004 赵六 C02 85 89 884 S005 孙七 C03 91 95 905 S006 周八 C03 78 84 80完成这一阶段之后应当能够• 已得到一张 DataFrame• 已能看懂其行、列、索引与标签• 已能查看其前几行、整体形状与数据类型• 已为后续选取、清洗、统计奠定基础延伸阅读《Pandas 操作指南一DataFrame 的构建与表格数据组织》二、任务聚焦选出真正需要的数据一张完整数据表并不等于“当前就要全部使用”。在实际任务中分析者通常只关心表中的某一部分• 某几列• 某几行• 某个标签范围• 某个位置区间• 满足某些条件的记录因此这一阶段的核心任务是先从整张表中选出真正需要的数据。重点不是“改数据”而是“缩小分析范围”。示例 1选取关键列print(scores[[学号, 姓名, 数学]])示例 2按标签选取print(scores.loc[0:2, [姓名, 数学, 英语]])示例 3按位置选取print(scores.iloc[0:3, 1:5])示例 4按条件筛选print(scores[scores[数学] 90])示例 5处理多个筛选条件excellent scores[ (scores[班级] C03) (scores[数学] 90)]print(excellent)完成这一阶段之后应当能够• 按列选取分析对象• 按行选取记录范围• 区分 .loc[] 与 .iloc[]• 使用布尔条件筛选数据• 组合多个筛选条件也就是说到了这一阶段已经不再是“面对整张表”而是“已经拿到当前任务真正关心的数据子集”。延伸阅读《Pandas 操作指南二数据选取与条件筛选》三、任务准备把数据清洗到可分析状态能够选出数据并不意味着数据已经可以直接分析。现实中的原始数据往往还存在大量问题例如• 缺失值Missing Value• 无效值或异常内容• 重复记录Duplicate Data• 类型不一致• 日期、数字格式不统一因此此阶段的核心任务是把已经选出的数据整理为结构一致、类型合理、格式统一、能够参与分析的数据。这一阶段的任务是将可读取的数据进一步整理为可分析的数据。示例清洗存在问题的成绩表raw_scores pd.DataFrame([ {学号: S001, 姓名: 张三, 班级: C01, 考试日期: 2025/09/01, 语文: 88, 数学: 92, 英语: 85}, {学号: S002, 姓名: 李四, 班级: C01, 考试日期: 2025-09-01, 语文: None, 数学: 81, 英语: 79}, {学号: S003, 姓名: 王五, 班级: C02, 考试日期: 2025-09-01, 语文: 90, 数学: 缺考, 英语: 93}, {学号: S004, 姓名: 赵六, 班级: C02, 考试日期: 2025.09.01, 语文: 85, 数学: 89, 英语: 88}, {学号: S004, 姓名: 赵六, 班级: C02, 考试日期: 2025.09.01, 语文: 85, 数学: 89, 英语: 88}]) clean_scores raw_scores.copy() # 缺失值处理clean_scores[语文] clean_scores[语文].fillna(clean_scores[语文].mean()) # 无效值替换clean_scores[数学] clean_scores[数学].replace(缺考, pd.NA) # 类型修正clean_scores[数学] pd.to_numeric(clean_scores[数学], errorscoerce)clean_scores[考试日期] pd.to_datetime(clean_scores[考试日期], errorscoerce) # 去重clean_scores clean_scores.drop_duplicates() print(clean_scores)完成这一阶段之后应当能够• 识别并处理缺失值• 替换无效内容• 把文本列转为数值或时间类型• 删除重复记录• 统一数字与时间格式• 让表格进入“可分析状态”也就是说这一步并不是附加修饰而是保证分析结果可靠性的基础。延伸阅读《Pandas 操作指南三数据清洗与预处理》四、任务求解从表格中提取统计结果当前的数据已经具备可分析条件接下来就进入真正的分析阶段。分析并不只是“看数据”而是要从数据中提取出可以解释的结果。这一阶段的核心任务是把分散在表格中的原始数值转换为整体概况、类别分布、基础指标与分组结论。示例 1快速把握整体概况print(scores.describe())示例 2统计类别分布print(scores[班级].value_counts())示例 3计算基础指标print(scores[数学].mean())print(scores[数学].max())print(scores[数学].min())示例 4按类别分组分析print(scores.groupby(班级)[[语文, 数学, 英语]].mean())示例 5汇总多个统计量print( scores.groupby(班级)[数学].agg([mean, min, max, count]))完成这一阶段之后应当能够• 使用 describe() 快速把握数值概况• 使用 value_counts() 统计类别分布• 计算均值、最大值、最小值、中位数等基础指标• 使用 groupby() 观察类别间差异• 使用 agg() 汇总多个统计结果经过上述处理表格中的数据已经从“记录集合”转化为“可解释结果”。延伸阅读《Pandas 操作指南四统计分析与结果汇总》五、任务扩展重塑表格并整合多张数据表并非所有分析任务都能直接在当前表格结构上完成。有时问题出在“单张表结构不适合分析”有时问题出在“信息分散在多张表中”。因此这一阶段的核心任务是当表结构不合适或数据分散在多张表里时先重塑表格或整合数据再进行分析。示例 1把宽表转换成长表long_scores scores.melt( id_vars[学号, 姓名, 班级], value_vars[语文, 数学, 英语], var_name科目, value_name成绩) print(long_scores)示例 2生成更适合分析的透视表summary long_scores.pivot_table( index班级, columns科目, values成绩, aggfuncmean) print(summary)示例 3按关键字段合并多张表classes pd.DataFrame([ {班级: C01, 班主任: 刘老师}, {班级: C02, 班主任: 陈老师}, {班级: C03, 班主任: 王老师}]) scores_with_class pd.merge(scores, classes, on班级)print(scores_with_class)示例 4按学号整合社团信息clubs pd.DataFrame([ {学号: S001, 社团: 篮球社}, {学号: S003, 社团: 文学社}, {学号: S005, 社团: 科技社}]) scores_with_club pd.merge(scores, clubs, on学号, howleft)print(scores_with_club)完成这一阶段之后应当能够• 理解长表与宽表• 使用 melt() 重塑单张表• 使用 pivot_table() 生成统计透视表• 使用 merge() 按关键字段合并多张表• 区分 merge()、join() 与 concat() 的适用场景经过上述处理数据处理不再局限于“单表内部操作”而是进入更完整的数据组织阶段。延伸阅读《Pandas 操作指南五表格重塑与数据整合》六、任务衔接读写文件与数据输入输出在前面的示例中数据多通过代码直接构造这是为了便于教学。但在真实环境中数据通常来自文件或外部系统分析结果也需要重新输出。因此这一阶段的核心任务是把 Pandas 与真实的数据输入输出场景连接起来。示例 1读取 CSV 文件import pandas as pd scores pd.read_csv(scores.csv)print(scores.head())示例 2读取 Excel 文件scores pd.read_excel(scores.xlsx, sheet_name成绩表)print(scores.head())示例 3导出清洗结果scores.to_csv(scores_cleaned.csv, indexFalse)scores.to_excel(scores_cleaned.xlsx, indexFalse)示例 4处理表头与索引问题scores pd.read_csv( scores.csv, headerNone, names[学号, 姓名, 班级, 语文, 数学, 英语])scores pd.read_csv(scores.csv, index_col学号)完成这一阶段之后应当能够• 使用 read_csv() 读取文本数据文件• 使用 read_excel() 读取电子表格文件• 使用 to_csv()、to_excel() 导出结果• 处理表头、索引与编码问题• 理解 Pandas 在真实数据输入与结果输出流程中的中间作用也就是说Pandas 已经不再只是“代码中的表格对象”而是现实数据流程中的中间枢纽。延伸阅读《Pandas 操作指南六文件读写》七、任务表达把分析结果展示出来完成统计之后分析任务还没有真正结束。因为分析的目标不仅是“得到结果”还包括“把结果清楚表达出来”。这一阶段的核心任务是把统计结果转化为更直观的图形表达。Pandas 的内置绘图接口基于 Matplotlib因此运行相关示例前应确保环境中已安装 Matplotlib。示例 1直接从表格生成图形scores[数学].plot()注意在交互环境中这类代码通常可直接显示图形在普通脚本环境中往往还需配合 matplotlib.pyplot.show()。示例 2比较数量大小规律scores.plot(x姓名, y数学, kindbar)示例 3展示类别分布与占比scores[班级].value_counts().plot(kindbar)scores[班级].value_counts().plot(kindpie, autopct%.1f%%)示例 4观察分布特征scores[数学].plot(kindhist, bins5)scores[[语文, 数学, 英语]].plot(kindbox)示例 5展示分组结果class_mean scores.groupby(班级)[数学].mean()class_mean.plot(kindbar)完成这一阶段之后应当能够• 使用 plot() 从 DataFrame 或 Series 快速生成图形• 根据任务选择柱状图、折线图、饼图、直方图和箱线图• 把类别分布、数值变化、分布特征和分组结果图形化• 理解 Pandas 绘图与 Matplotlib、Seaborn 的关系经过上述处理分析流程中的“结果表达”也建立起来了。延伸阅读《Pandas 操作指南七数据可视化与结果展示》《Pandas 应用实例多工具协同与数据可视化》 小结本次课以任务驱动方式梳理了 Pandas 的核心工作链先构建 DataFrame再完成数据选取、清洗、统计、重塑与整合、文件读写与结果展示。掌握这条处理路径比零散记忆函数更重要也更有助于形成完整而稳定的表格数据处理能力。“点赞有美意赞赏是鼓励”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2498343.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…