全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

IP归属甄别会员请立即修改密码
查看: 647|回复: 4
打印 上一主题 下一主题

有什么方法或者软件工具能批量探测url的有效性

[复制链接]
跳转到指定楼层
1#
发表于 2015-9-15 15:39:28 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
一次性扫描10来万个url的 其中只有一个是非404 其他的全部是404
有什么试用的解决方案吗.IDM的话一次导入过多直接卡掉了
2#
发表于 2015-9-15 15:41:10 | 只看该作者
python写一个  自己定义个你及其能承受的线程数  直接10来万个线程肯定吃不消

3#
发表于 2015-9-15 15:48:36 | 只看该作者
  1. curl -o /dev/null -s -w %{http_code} $url
复制代码
然后for循环读url 然后打印输出httpcode 或者直接就是httpcode如果是200打印
4#
发表于 2015-9-15 17:08:07 | 只看该作者
shell脚本速度更快吧。
5#
发表于 2015-9-15 20:20:27 | 只看该作者
写个脚本跑起来
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2026-1-15 22:31 , Processed in 0.061231 second(s), 12 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表