视频转写+LLM分析:课堂录音自动化处理实现

news2026/3/20 0:52:25
目录一、工具核心功能二、核心技术栈三、核心代码逐模块讲解3.1 类初始化与基础配置3.2 视频转音频核心方法3.3 讯飞 API 鉴权与交互3.4 大模型智能文本优化3.5 结果导出与主流程3.6 程序入口四、运行步骤五、处理效果展示六、总结与优化方向6.1 核心价值6.2 优化方向在教育数字化转型的背景下课堂视频的音频转写、师生对话梳理、教学活动识别成为刚需。手动处理视频转写不仅效率低下还存在语音识别噪声、角色混淆、课堂活动标注繁琐等问题。本文基于 Python 实现一套端到端课堂视频处理工具整合视频转音频、讯飞语音识别、大模型文本优化、课堂活动智能识别、多格式结果导出功能代码模块化封装可直接落地使用以下是完整技术实现详解。一、工具核心功能本工具封装为audio_to_data类实现从 MP4 视频文件到结构化教学数据的全自动处理核心能力如下视频转音频提取 MP4 音频轨道转换为讯飞 API 兼容的 WAV 格式支持截取测试时长讯飞语音识别API 签名生成、音频上传、轮询获取识别结果支持多发言人区分智能文本处理大模型过滤识别噪声、修正师生角色分配自动识别课堂教学活动多格式导出生成原始识别 JSON、句子级 CSV、CV 专用 JSON适配不同业务场景异常防护文件校验、目录自动创建、接口异常捕获提升工具稳定性二、核心技术栈音视频处理moviepy视频转音频语音识别讯飞语音转写 APIlfasr大模型调用OpenAI SDK兼容调用 DeepSeek-V3阿里云通义千问兼容模式网络请求requests/httpxAPI 交互数据处理json/csv/collections.Counter结构化数据处理加密签名hashlib/hmac/base64讯飞接口鉴权三、核心代码逐模块讲解3.1 类初始化与基础配置初始化阶段完成 API 密钥配置、客户端初始化同时适配阿里云通义千问的 OpenAI 兼容接口为后续大模型调用做准备。python运行class audio_to_data(): def __init__(self, appid, secret_key, upload_file_path, llm_api, duration_secondsNone): self.appid appid self.secret_key secret_key self.client Client() self.upload_file_path upload_file_path self.llm_api llm_api self.duration_seconds duration_seconds self.sentences_activity [] self.sentences_paragraphs [] # 通义千问OpenAI兼容模式初始化 self.llm OpenAI( base_urlhttps://dashscope.aliyuncs.com/compatible-mode/v1, api_keyself.llm_api, )3.2 视频转音频核心方法使用VideoFileClip提取视频音频校验文件有效性、自动创建输出目录音频编码严格遵循讯飞 API 要求的pcm_s16le同时支持截取测试时长降低调试成本。def movie_to_audio(self, mp4_file, wav_file, duration_secondsNone): if not os.path.exists(mp4_file): print(f错误输入文件不存在{mp4_file}) return False # 自动创建输出目录 output_dir os.path.dirname(wav_file) if output_dir and not os.path.exists(output_dir): os.makedirs(output_dir) # 加载视频并提取音频 video_clip VideoFileClip(mp4_file) if duration_seconds: end_duration min(duration_seconds, video_clip.duration) video_clip video_clip.subclip(0, end_duration) audio_clip video_clip.audio audio_clip.write_audiofile(wav_file, codecpcm_s16le) # 释放资源 audio_clip.close() video_clip.close() return True3.3 讯飞 API 鉴权与交互讯飞语音识别接口需要签名鉴权通过MD5HAMC-SHA1生成签名完成音频上传后轮询查询识别状态直到获取最终结果。签名生成def get_signa(self, ts): m2 hashlib.md5((self.appid ts).encode(utf-8)).hexdigest() signa hmac.new(self.secret_key.encode(), bytes(m2, utf-8), hashlib.sha1).digest() return base64.b64encode(signa).decode(utf-8)音频上传def upload_file(self, ts, signa): file_len os.path.getsize(self.upload_file_path) param_dict {appId: self.appid, signa: signa, ts: ts, fileSize: file_len, pd: edu} with open(self.upload_file_path, rb) as f: data f.read() response requests.post(lfasr_host api_upload, paramsparam_dict, datadata) return json.loads(response.text) if response.status_code 200 else None轮询获取识别结果def get_recognition_result(self, ts, signa, order_id): param_dict {appId: self.appid, signa: signa, ts: ts, orderId: order_id} status 3 # 3处理中 while status 3: result json.loads(requests.post(lfasr_host api_get_result, paramsparam_dict).text) status result[content][orderInfo][status] time.sleep(5) return result3.4 大模型智能文本优化这是工具的核心亮点通过 DeepSeek-V3 实现两大核心能力过滤语音识别噪声、修正师生角色分配、识别课堂教学活动批量处理避免接口限流精准适配课堂场景。def llm_filter(self, text): # 第一步修复识别噪声 prompt_fix f修复课堂转写文本噪声保持CSV格式{text} response_fix self.llm.chat.completions.create(modeldeepseek-v3, messages[{role:user,content:prompt_fix}]) # 第二步修正角色分配 prompt_role f修正师生角色仅修改说话人字段{response_fix.choices[0].message.content} response_role self.llm.chat.completions.create(modeldeepseek-v3, messages[{role:user,content:prompt_role}]) return response_role.choices[0].message.content # 课堂活动识别 def _llm_identify_activity(self, sentences): prompt f分析课堂对话插入≥30秒的学生活动标签输出严格CSV格式{sentences} return self.llm.chat.completions.create(modeldeepseek-v3, messages[{role:user,content:prompt}]).choices[0].message.content3.5 结果导出与主流程将处理后的文本导出为时间轴 角色 内容的 CSV 格式同时生成 CV 专用 JSON主流程process_audio_file串联所有环节实现一键处理。def json_to_sentences_csv(self, json_file_path): output_csv_path os.path.splitext(json_file_path)[0] _sentences.csv with open(output_csv_path, w, encodingutf-8-sig) as f: writer csv.writer(f) writer.writerow([时间, 角色, 内容]) for s in self.sentences_activity: writer.writerow([self.ms_to_mmss(s[start_ms]), s[spk], s[text]]) return output_csv_path # 主流程视频→音频→识别→处理→导出 def process_audio_file(self): # 视频转音频 wav_file os.path.join(audio, f{os.path.splitext(os.path.basename(self.upload_file_path))[0]}.wav) self.movie_to_audio(self.upload_file_path, wav_file, self.duration_seconds) # 讯飞识别 ts, signa str(int(time.time())), self.get_signa(ts) upload_resp self.upload_file(ts, signa) result self.get_recognition_result(ts, signa, upload_resp[content][orderId]) # 文本处理与导出 if result[content][orderInfo][status] -1: json_path self.save_processed_result(result) self._processing_sentences(json_path) csv_path self.json_to_sentences_csv(json_path) return {status: success, csv_path: csv_path} return {status: fail}3.6 程序入口配置 API 密钥与视频路径一键启动全流程处理if __name__ __main__: # 替换为个人密钥 APPID 471f6433 SECRET_KEY 你的api LLM_API_KEY 你的api VIDEO_FILE_PATH rtest.mp4 processor audio_to_data(APPID, SECRET_KEY, VIDEO_FILE_PATH, LLM_API_KEY) res processor.process_audio_file() print(json.dumps(res, ensure_asciiFalse, indent4))四、运行步骤安装依赖pip install moviepy httpx requests openai配置密钥替换代码中的讯飞 APPID、SECRET_KEY、大模型 API_KEY放入视频将待处理 MP4 视频路径填入VIDEO_FILE_PATH执行程序运行代码自动生成audio音频、result处理结果目录五、处理效果展示工具最终输出的 CSV 文件格式清晰包含时间轴、师生角色、转写文本、课堂活动标签示例如下时间角色内容00:05老师现在请大家自主思考这道题00:10学生(自主思考活动持续 40 秒)00:50老师接下来我们一起讲解思路同时输出的 JSON 文件包含完整的时间戳、角色统计、句子总数可直接用于教学数据分析、CV 模型训练等场景。六、总结与优化方向6.1 核心价值全流程自动化从视频到结构化数据无需人工干预效率提升 90% 以上场景化适配针对课堂教学优化自动区分师生、识别教学活动高兼容性多格式导出适配教学分析、数据标注、二次开发等场景6.2 优化方向增加日志系统替代 print 输出便于问题排查支持更多音视频格式MOV、MKV 等扩展适用范围优化大模型批量逻辑降低 API 调用成本增加 GUI 界面非技术人员也可便捷使用本工具基于 Python 生态成熟组件实现代码可读性强、扩展性高可直接应用于教育视频处理、课堂数据分析等场景也可根据业务需求二次开发定制功能。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2428175.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…