全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

CeraNetworks网络延迟测速工具IP归属甄别会员请立即修改密码
楼主: joF3hzd97uHgKu

搞了个爬虫框架

[复制链接]
发表于 2021-4-28 17:46:43 | 显示全部楼层
joF3hzd97uHgKu 发表于 2021-4-28 15:52
你的意思是最好是 Web 版本的(可以通过浏览器直接管理)?

支持的脚本多一点?没明白这个啥意思,是兼 ...

你的意思是最好是 Web 版本的(可以通过浏览器直接管理)?
re: 我的意思是不需要界面, 纯框架就可以了

支持的脚本多一点?没明白这个啥意思,是兼 ...
re:我的意思是支持的脚本语言多一点, 包括不限于 js, py, 等等
发表于 2021-4-28 18:05:40 | 显示全部楼层
最好能用node.js 安装到宝塔的后台。
发表于 2021-4-28 18:10:43 | 显示全部楼层
内部是哪里内部?
 楼主| 发表于 2021-4-28 18:53:34 | 显示全部楼层
锦安 发表于 2021-4-28 17:46
你的意思是最好是 Web 版本的(可以通过浏览器直接管理)?
re: 我的意思是不需要界面, 纯框架就可以了
re: 我的意思是不需要界面, 纯框架就可以了


这个目前可能不太好抽出来,因为很多事情需要界面去操作。

目前可以支持从命令行启动(去完成指定的任务),后期可能也会支持通过 HTTP API 控制。

re:我的意思是支持的脚本语言多一点, 包括不限于 js, py, 等等


js 肯定支持,但是 JS 以外的语言,整合进数据抓取比较难
(因为浏览器不支持运行别的语言,在考虑支持 WASM 这样就可以任何能编译到 WASM 的语言),
整合进其他逻辑应该没啥问题(目前还没有打算支持)。
 楼主| 发表于 2021-4-28 18:54:39 | 显示全部楼层
gssasd 发表于 2021-4-28 18:05
最好能用node.js 安装到宝塔的后台。

这个目前不太可能,但是后面我准备搞个 Web 管理的版本,应该可以支持一键安装。
 楼主| 发表于 2021-4-28 18:55:54 | 显示全部楼层
祭徐坤 发表于 2021-4-28 18:10
内部是哪里内部?

我们公司内部啊
发表于 2021-4-28 19:49:39 | 显示全部楼层



我手头有个别人17年开发的一个采集,现在还在一直用没啥问题。
发表于 2021-4-28 22:45:16 | 显示全部楼层
joF3hzd97uHgKu 发表于 2021-4-28 16:20
现在就有监控 和 通知,就是通知是通知到本机的,还不能通知到别的地方。

你是需要通知到微信之类的吗? ...

可以加入这个https://hostloc.com/thread-808429-1-1.html
mjj版本自定义的企业微信推送
 楼主| 发表于 2021-4-28 22:49:30 | 显示全部楼层
dbug 发表于 2021-4-28 22:45
可以加入这个https://hostloc.com/thread-808429-1-1.html
mjj版本自定义的企业微信推送 ...

接入企业微信应该挺容易的,后面可以加上。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2024-5-4 03:07 , Processed in 0.088651 second(s), 8 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表