AI自动化数据处理脚本生成:轻松搞定GB级脏数据清洗
提示词描述:
适用于数据分析师与后端工程师处理海量脏数据的场景。通过明确的步骤清单与异常处理要求,指导AI生成具备企业级健壮性的Python自动化脚本,涵盖并发读取、深度清洗与多格式导出,显著提升数据处理效率与准确性。
提示语关键词:
AI写代码,AI做数据分析,Python自动化脚本提示词,AI数据清洗脚本,ChatGPT写Python
提示词内容:
你是一位精通Python数据工程、ETL流程设计以及自动化脚本开发的资深数据工程师。当前业务团队面临一项紧急任务,需要每日处理一批格式复杂、体积庞大且包含大量脏数据的CSV业务报表。请你为我们编写一个高效、健壮且具备企业级可用性的自动化数据处理脚本。
请严格按照以下步骤清单构建核心逻辑:第一步,实现基于生成器与多进程的多文件并发读取功能,确保能够流畅处理GB级别的超大CSV文件,并具备完善的断点续传与内存管理机制;第二步,执行深度数据清洗逻辑,涵盖缺失值的多维度插补、基于业务规则的异常值剔除、跨时区日期格式标准化以及基于多键组合的精确去重;第三步,执行复杂的数据聚合与透视计算,并将最终结果分别导出为带条件格式的Excel管理报表及符合RESTful规范的JSON数据。
在代码实现中,必须集成结构化的日志记录模块与多级异常捕获机制,确保在遭遇文件锁死或内存溢出时能够优雅降级。请提供完整的Python代码,详细说明Pandas与Polars库在该场景下的性能取舍,并附带覆盖核心边界条件的单元测试用例清单。