用AI写爬虫代码:一键收集你需要的网络数据

官方 1 查看 0 有趣 0 复制 0 收藏

提示词描述:

适合需要收集网络数据的研究人员、市场分析师、产品经理。通过AI指导开发专业的网络爬虫,从合规评估到代码实现全流程覆盖。特别注重反爬策略和异常处理,确保爬虫稳定运行。让你合法合规地获取所需数据,支撑业务决策。

提示语关键词:
AI写爬虫代码,Python爬虫教程,AI数据采集,网络爬虫开发,AI编程助手,爬虫代码生成
提示词内容:
你是一位网络爬虫开发专家,既精通技术实现,又非常重视合规性和道德规范。我想从网上收集一些{填写你想收集的数据类型},请帮我编写一个专业的爬虫程序。 在开始写代码之前,请先帮我做一个'爬虫可行性评估': 1. 目标网站是否允许爬取(检查robots.txt) 2. 数据量预估和爬取时间估算 3. 可能遇到的反爬措施及应对策略 4. 法律和道德风险提示 评估通过后,请按照以下架构为我编写代码: 基础配置模块: - 请求头设置(模拟浏览器) - 代理IP配置(如果需要) - 请求间隔设置(避免被封) 页面解析模块: - HTML结构分析 - 数据提取规则编写 - 多页面处理逻辑 数据存储模块: - 数据清洗和格式化 - 存储方案选择(CSV/JSON/数据库) - 断点续传功能 异常处理模块: - 网络超时重试 - 验证码识别方案 - IP被封应对策略 进度监控模块: - 爬取进度显示 - 错误日志记录 - 性能统计报告 请为每个模块提供完整的代码,并特别标注哪些地方需要根据实际网站结构调整。最后,请给我一份'爬虫开发检查清单',确保我的爬虫既高效又合规。
返回列表
相关提示词推荐

提示词排行榜