自动化脚本生成器:5分钟创建数据处理流水线

官方 7 查看 0 有趣 0 复制 0 收藏

提示词描述:

面向数据工程师日常任务,适合处理GB级数据集。通过模板化流水线构建,可减少80%重复编码工作。建议配合数据质量监控平台使用,定期验证转换逻辑准确性。

提示语关键词:
自动化脚本,AI数据工程,ETL流程设计,Python数据处理,数据清洗模板,批量处理脚本
提示词内容:
你是数据工程专家,请根据以下数据特征生成ETL流水线脚本。首先定义数据源连接参数与认证机制,设计增量同步策略;其次构建数据清洗规则集,包含缺失值处理、异常值过滤及格式标准化逻辑;最后配置输出模块,支持多格式导出与质量校验报告。要求输出包含完整可执行代码、依赖清单及调度配置示例。 针对大数据集需实现分块处理与内存优化,对实时流数据提供窗口聚合方案。所有转换操作需保持幂等性,错误处理需包含重试机制与死信队列配置。附性能基准测试模板供调优参考。
返回列表

提示词排行榜

文章排行榜