全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

CeraNetworks网络延迟测速工具IP归属甄别会员请立即修改密码
查看: 7307|回复: 79

昨天坛友让帮忙爬的秀人,今天来分享了

  [复制链接]
发表于 2022-5-9 20:05:17 | 显示全部楼层 |阅读模式
https://hostloc.com/thread-1013618-1-1.html
@akkba

源站是这个
[url][url]xiurenb.net[/url][/url]

我分成了两个部分爬的,一个是秀人,一个是其他分类

秀人的29万多张,近80g

all的是其他分类,27万多张,近70g

下面两个都是txt链接地址,wget -i txt名 即可食用

http://141.94.115.57:81/xiuren.zip

http://141.94.115.57:81/all.zip

欢迎楼下大佬分流txt以及图包

发表于 2022-5-10 16:33:55 | 显示全部楼层
本帖最后由 stuazt 于 2022-5-11 19:52 编辑

网站改域名了,url列表先把p.xiurenb.net替换成pic.xiurenb.net哦
====================
给大家来个PowerShell的下载命令吧,方便大家在Windows下直接下载。
可以直接按uploadfile后面的路径自动建文件夹,保留楼主的目录结构:
  1. $urls = Get-Content "E:/xiuren.txt"
  2. $lastPath = ""
  3. $currentPath = ""
  4. $outputFile = ""
  5. foreach ($url in $urls){
  6.         $outputFile = $url.replace("https://pic.xiurenb.net/uploadfile","E:/target")
  7.         $currentPath = $outputFile.Substring(0,$outputFile.LastIndexOf('/'))
  8.         if($lastPath -ne $currentPath){
  9.                 $lastPath = $currentPath
  10.                 if(-NOT (Test-Path $currentPath)){
  11.                         mkdir -p $currentPath
  12.                 }
  13.                
  14.         }
  15.         if(-NOT (Test-Path $outputFile)){
  16.                 Invoke-WebRequest -Uri $url -OutFile $outputFile
  17.         }
  18.         else{
  19.                 echo "Skip $outputFile"
  20.         }
  21. }
复制代码


使用方法,新建个down.txt文件,把这段代码复制进去,保存。修改扩展名为ps1,也就是down.ps1
然后打开PowerShell7,输入这个down.ps1的完整路径回车就可以运行了。
注意:
1,这段代码是在PowerShell7中测试ok的;
2,代码中"E:/xiuren.txt","E:/target"这两个路径自己酌情修改。
3,如果中断了,可以再次执行命令,会自动跳过已经下载过的文件。
4,下载很慢,还是需要改成多线程下载才行

发表于 2022-5-10 18:32:02 | 显示全部楼层
用fultter写了个app,  有没有要的
发表于 2022-5-9 23:08:06 | 显示全部楼层
wissmiss 发表于 2022-5-9 20:09
在下载了 谢谢大佬

不错
还是wget行
我是win本机下 使用这个https://eternallybored.org/misc/wget/
 楼主| 发表于 2022-5-9 20:16:04 | 显示全部楼层
lewss 发表于 2022-5-9 20:13
小鸡硬盘不够大怎么下载?

1.不下载
2.给小鸡花钱加硬盘
3.换一个硬盘更大的小鸡
4.挂载od或者gd云盘然后下载
5.等其他大佬分享成品
6.直接在源站观赏
发表于 2022-5-10 22:46:18 | 显示全部楼层
wangjianjilei 发表于 2022-5-10 19:47
附件为php版本下载图片,自取
运行方式 windows命令行下php ./doall.php,没有环境变量的自己配 ...

单线程速度太慢,能不能弄个多线程的
发表于 2022-5-10 22:43:37 | 显示全部楼层
etc小号 发表于 2022-5-10 20:04
大佬你好,带文件结构吗

带的,看代码就知道了
发表于 2022-5-10 18:20:45 | 显示全部楼层
发表于 2022-5-9 20:41:55 | 显示全部楼层
只有链接没意思呀,图包的名都没有了
发表于 2022-5-9 20:07:14 | 显示全部楼层
不错 支持一下
发表于 2022-5-9 20:09:17 | 显示全部楼层

在下载了 谢谢大佬
 楼主| 发表于 2022-5-9 20:12:13 | 显示全部楼层
wissmiss 发表于 2022-5-9 20:09
在下载了 谢谢大佬

你的速度怎么样。我这大概5m/s的样子
发表于 2022-5-9 20:12:44 | 显示全部楼层
wissmiss 发表于 2022-5-9 20:09
在下载了 谢谢大佬

大佬到时候分享一个阿里云盘吧
发表于 2022-5-9 20:13:44 来自手机 | 显示全部楼层
小鸡硬盘不够大怎么下载?
发表于 2022-5-9 20:28:57 | 显示全部楼层
这两个zip文件下载不了大佬
 楼主| 发表于 2022-5-9 20:33:17 | 显示全部楼层
yanzhiling2002 发表于 2022-5-9 20:28
这两个zip文件下载不了大佬

我这没问题啊,你那显示什么
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2024-4-28 16:46 , Processed in 0.071127 second(s), 12 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表