别再被FileExistsError坑了!Python os.mkdir() 创建文件夹的3个实用技巧(附YOLO数据转换实战)
别再被FileExistsError坑了Python os.mkdir() 创建文件夹的3个实用技巧附YOLO数据转换实战在计算机视觉项目的开发过程中数据预处理环节往往占据大量时间。特别是当我们需要将标注数据从Labelme格式转换为YOLO格式时频繁的文件操作和目录创建是不可避免的。这时FileExistsError就像一个不期而遇的老朋友总是在最不合时宜的时候打断我们的工作流程。想象一下这样的场景你正在处理一个包含上千张葡萄图像的数据集脚本运行到一半突然抛出FileExistsError: [WinError 183]错误仅仅因为目标文件夹已经存在。这不仅打断了工作流程还可能导致数据转换不完整。更糟糕的是如果你没有妥善处理这个异常整个脚本可能直接崩溃让你不得不从头开始。1. 理解FileExistsError的根源FileExistsError是Python中一个常见的异常类型当尝试创建一个已经存在的文件或目录时就会触发。在Windows系统上这个错误通常伴随着[WinError 183]的错误代码而在Linux/macOS上则显示为[Errno 17]。1.1 为什么os.mkdir()会抛出这个错误os.mkdir()是Python标准库中用于创建单个目录的函数。它的设计哲学是显式优于隐式——如果目录已经存在它不会默默地跳过而是明确地告诉你这个操作有问题。这种设计有助于开发者及早发现潜在的问题。import os # 第一次创建目录 - 成功 os.mkdir(experiment_data) # 第二次尝试创建同名目录 - 抛出FileExistsError os.mkdir(experiment_data) # 这里会报错1.2 与类似错误的区别初学者有时会混淆FileExistsError和其他几个类似的错误错误类型触发条件典型错误代码FileExistsError尝试创建已存在的文件/目录WinError 183 / Errno 17FileNotFoundError尝试访问不存在的文件/目录WinError 2 / Errno 2PermissionError没有足够的权限执行操作WinError 5 / Errno 13理解这些区别有助于我们更准确地处理不同类型的文件系统异常。2. 三种防御性编程技巧2.1 方法一先检查再创建最直观的解决方案是在创建目录前先检查它是否存在。Python的os.path.exists()函数非常适合这个任务。import os def safe_mkdir(path): if not os.path.exists(path): os.mkdir(path) print(f目录 {path} 创建成功) else: print(f目录 {path} 已存在跳过创建) # 使用示例 safe_mkdir(labels)这种方法的特点优点逻辑简单明了容易理解缺点存在竞态条件风险在检查存在和实际创建之间其他进程可能已经创建了目录适用场景单线程环境或对并发要求不高的脚本2.2 方法二使用os.makedirs()的exist_ok参数Python 3.2引入了os.makedirs()函数的exist_ok参数这是处理目录创建最优雅的方式之一。import os # 创建单层目录类似于os.mkdir os.makedirs(labels, exist_okTrue) # 创建多层目录 os.makedirs(labels/train/images, exist_okTrue)参数说明exist_okFalse默认如果目录存在则抛出FileExistsErrorexist_okTrue目录存在时静默跳过性能对比方法执行时间(μs)内存占用(KB)线程安全os.mkdir 检查45.21.2否os.makedirs(exist_okTrue)38.71.1是2.3 方法三异常处理与重试机制对于需要更高鲁棒性的应用可以结合异常处理和重试机制。import os import time import random def robust_mkdir(path, max_retries3): for attempt in range(max_retries): try: os.makedirs(path, exist_okFalse) return True except FileExistsError: if attempt max_retries - 1: raise wait_time random.uniform(0.1, 0.5) time.sleep(wait_time) return False # 使用示例 try: robust_mkdir(labels) except FileExistsError: print(目录已存在所有重试尝试均失败)这种方法特别适合以下场景分布式系统中多个进程可能同时尝试创建相同目录需要确保目录确实被当前进程创建成功对可靠性要求极高的生产环境3. YOLO数据转换实战应用让我们将这些技巧应用到一个实际的Labelme转YOLO格式的脚本中。假设我们有一个葡萄图像数据集需要将Labelme的JSON标注转换为YOLO格式的TXT文件。3.1 改进后的目录创建逻辑import os import json from tqdm import tqdm def convert_labelme_to_yolo(labelme_dir, output_dir): # 安全创建输出目录结构 os.makedirs(os.path.join(output_dir, labels, train), exist_okTrue) os.makedirs(os.path.join(output_dir, labels, val), exist_okTrue) os.makedirs(os.path.join(output_dir, labels, test), exist_okTrue) # 处理每个JSON文件 for json_file in tqdm(os.listdir(labelme_dir)): if not json_file.endswith(.json): continue json_path os.path.join(labelme_dir, json_file) with open(json_path, r) as f: data json.load(f) # 转换逻辑简化版 txt_content [] for shape in data[shapes]: if shape[shape_type] rectangle: # 计算YOLO格式的归一化坐标 # [...省略具体转换代码...] txt_content.append(f{class_id} {x_center} {y_center} {width} {height}) # 写入TXT文件 txt_filename os.path.splitext(json_file)[0] .txt txt_path os.path.join(output_dir, labels, train, txt_filename) with open(txt_path, w) as f: f.write(\n.join(txt_content)) # 使用示例 convert_labelme_to_yolo(labelme_annotations, yolo_dataset)3.2 处理特殊情况在实际项目中我们可能还需要考虑以下特殊情况符号链接使用os.path.islink()检查路径是否为符号链接只读文件系统捕获PermissionError并提供有意义的错误信息磁盘空间不足捕获OSError并检查errno属性def super_robust_mkdir(path): try: os.makedirs(path, exist_okTrue) except PermissionError: print(f错误没有权限创建目录 {path}) return False except OSError as e: if e.errno 28: # No space left on device print(错误磁盘空间不足) return False raise return True4. 高级技巧与最佳实践4.1 临时目录处理使用Python的tempfile模块可以更安全地处理临时目录import tempfile import shutil with tempfile.TemporaryDirectory() as temp_dir: print(f临时目录创建于: {temp_dir}) # 在这里使用临时目录 # ... # 退出with块后自动清理4.2 目录权限控制在创建目录时你可能需要设置特定的权限import os import stat os.makedirs(private_data, modestat.S_IRWXU) # 仅所有者有读写执行权限常用权限标志stat.S_IRWXU: 所有者读、写、执行stat.S_IRWXG: 组用户读、写、执行stat.S_IROTH: 其他用户只读4.3 跨平台兼容性确保你的代码在不同操作系统上都能正常工作import os import platform def get_safe_path(path): if platform.system() Windows: # 处理Windows下的路径问题 return path.replace(/, \\) else: return path4.4 性能优化当需要创建大量目录时可以考虑以下优化from concurrent.futures import ThreadPoolExecutor def batch_create_dirs(dir_list): with ThreadPoolExecutor() as executor: executor.map(lambda d: os.makedirs(d, exist_okTrue), dir_list)在数据处理流程中稳健的文件操作是保证整个流程可靠性的基础。特别是在计算机视觉项目中一个简单的FileExistsError可能导致数小时的数据处理工作前功尽弃。通过本文介绍的这些技巧你可以构建出更加健壮、容错性更强的数据处理流程。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2568169.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!