# procurement-crawler

**Repository Path**: skny/procurement-crawler

## Basic Information

- **Project Name**: procurement-crawler
- **Description**: 爬虫政府采购网 - NodeJS
- **Primary Language**: Unknown
- **License**: MIT
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2025-12-17
- **Last Updated**: 2025-12-17

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# procurement-crawler

#### 介绍
爬虫政府采购网 - NodeJS

#### 软件架构
这个 Node.js 版本的爬虫系统具有以下特点：

模块化设计：每个功能模块分离，便于维护

配置驱动：通过YAML文件配置，无需修改代码

多网站支持：可同时爬取多个政府采购网站

数据持久化：SQLite数据库存储，支持MySQL扩展

智能处理：自动识别系统开发项目，提取技术关键词

数据导出：支持Excel、JSON格式导出

定时任务：支持定时自动爬取

错误处理：完善的错误处理和重试机制

遵守规则：支持robots.txt检查

性能优化：并发控制，请求延迟，避免被封禁


#### 安装教程

1.  xxxx
2.  xxxx
3.  xxxx

#### 使用说明

# 爬取所有网站
node index.js crawl

# 导出数据
node index.js export all

# 导出最近7天数据
node index.js recent 7

# 查看统计
node index.js stats

# 启动定时任务
node index.js schedule

# 运行测试
node index.js test

#### 参与贡献

1.  Fork 本仓库
2.  新建 Feat_xxx 分支
3.  提交代码
4.  新建 Pull Request


#### 特技

1.  使用 Readme\_XXX.md 来支持不同的语言，例如 Readme\_en.md, Readme\_zh.md
2.  Gitee 官方博客 [blog.gitee.com](https://blog.gitee.com)
3.  你可以 [https://gitee.com/explore](https://gitee.com/explore) 这个地址来了解 Gitee 上的优秀开源项目
4.  [GVP](https://gitee.com/gvp) 全称是 Gitee 最有价值开源项目，是综合评定出的优秀开源项目
5.  Gitee 官方提供的使用手册 [https://gitee.com/help](https://gitee.com/help)
6.  Gitee 封面人物是一档用来展示 Gitee 会员风采的栏目 [https://gitee.com/gitee-stars/](https://gitee.com/gitee-stars/)