如何使用xurlfind3r查找目标域名的已知URL地址

2023-10-06 13:59:22 浏览数 (2)

关于xurlfind3r

xurlfind3r是一款功能强大的URL地址查询工具,该工具本质上是一个CLI命令行工具,可以帮助广大研究人员从多种在线源来查询目标域名的已知URL地址。

功能介绍

1、从被动在线源获取URL地址以实现最大数量结果获取; 2、支持从Wayback网页和robots.txt快照解析URL地址; 3、支持URL匹配和过滤; 4、支持stdin和stdout已实现轻松跟工作流整合; 5、跨平台支持,支持Windows、Linux和macOS;

支持的在线源

AlienVault's OTX BeVigil Common Crawl Github Intelligence X URLScan Wayback Machine

工具安装

安装发布版本代码(不需要安装Go环境)

广大研究人员可以直接访问该项目的Releases页面下载和安装对应操作系统和架构的发布版本代码。

或者也可以使用wget或curl命令行工具来下载和安装xurlfind3r:

代码语言:javascript复制
代码语言:javascript复制
wget https://github.com/hueristiq/xurlfind3r/releases/download/v<version>/xurlfind3r-<version>-linux-amd64.tar.gz

(向右滑动,查看更多)

代码语言:javascript复制

代码语言:javascript复制
代码语言:javascript复制
curl -OL https://github.com/hueristiq/xurlfind3r/releases/download/v<version>/xurlfind3r-<version>-linux-amd64.tar.gz

(向右滑动,查看更多)

代码语言:javascript复制

然后提取代码即可:

代码语言:javascript复制
代码语言:javascript复制
tar xf xurlfind3r-<version>-linux-amd64.tar.gz
代码语言:javascript复制

别忘了将xurlfind3r代码拷贝到PATH路径下,比如说:

代码语言:javascript复制
sudo mv xurlfind3r /usr/local/bin/

源码安装(需要安装Go环境)

首先,我们需要在本地设备上安装并配置好最新版本的Go语言环境。接下来,使用go install命令下载该工具即可:

代码语言:javascript复制
代码语言:javascript复制
go install -v github.com/hueristiq/xurlfind3r/cmd/xurlfind3r@latest
代码语言:javascript复制

(向右滑动,查看更多)

除此之外,我们也可以先将项目源码克隆至本地:

代码语言:javascript复制
代码语言:javascript复制
git clone https://github.com/hueristiq/xurlfind3r.git
代码语言:javascript复制

然后构建工具:

代码语言:javascript复制
代码语言:javascript复制
cd xurlfind3r/cmd/xurlfind3r && 

 go build .
代码语言:javascript复制

工具配置

在使用该工具之前,我们还需要配置相应的API密钥,配置文件为config.yaml:

代码语言:javascript复制
version: 0.3.0

sources:

    - bevigil

    - commoncrawl

    - github

    - intelx

    - otx

    - urlscan

    - wayback

keys:

    bevigil:

        - awA5nvpKU3N8ygkZ

    github:

        - d23a554bbc1aabb208c9acfbd2dd41ce7fc9db39

        - asdsd54bbc1aabb208c9acfbd2dd41ce7fc9db39

    intelx:

        - 2.intelx.io:00000000-0000-0000-0000-000000000000

    urlscan:

        - d4c85d34-e425-446e-d4ab-f5a3412acbe8

(向右滑动,查看更多)

工具使用

-h参数可以直接查看工具的帮助选项:

代码语言:javascript复制
xurlfind3r -h

帮助信息如下:

代码语言:javascript复制
代码语言:javascript复制
_  __ _           _ _____      

__  ___   _ _ __| |/ _(_)_ __   __| |___ / _ __

 / / | | | '__| | |_| | '_  / _` | |_ | '__|

 >  <| |_| | |  | |  _| | | | | (_| |___) | |

/_/_\__,_|_|  |_|_| |_|_| |_|__,_|____/|_| v0.3.0

 

USAGE:

  xurlfind3r [OPTIONS]

 

INPUT:

 -d, --domain string[]              设置目标域名

 -l, --list string                    目标域名的列表文件路径

 

SCOPE:

     --include-subdomains bool       匹配子域名URL

 

SOURCES:

      --sources bool                 列举支持的源

 -u,  --use-sources string[]          要使用的源,用逗号分隔

 -e,  --exclude-sources string[]       要排除的源,用逗号分隔

      --parse-wayback-robots bool    使用wayback,解析robots.txt快照

      --parse-wayback-source bool    使用wayback,解析源代码快照

 

FILTER & MATCH:

 -f, --filter string                    正则式过滤URL

 -m, --match string                 正则式匹配URL

 

OUTPUT:

     --no-color bool               禁用颜色高亮输出

 -o, --output string                输出URL文件路径

 -O, --output-directory string      输出URL目录路径 

 -v, --verbosity string            Verbose模式,默认为info

 

CONFIGURATION:

 -c,  --configuration string   配置文件路径(默认为~/.hueristiq/xurlfind3r/config.yaml)

(向右滑动,查看更多)

工具使用样例

基础使用:

代码语言:javascript复制
xurlfind3r -d hackerone.com --include-subdomains

过滤器正则表达式:

代码语言:javascript复制
代码语言:javascript复制
# filter images

xurlfind3r -d hackerone.com --include-subdomains -f '`^https?://[^/]*?/.*.(jpg|jpeg|png|gif|bmp)(?[^s]*)?$`'
代码语言:javascript复制

(向右滑动,查看更多)

匹配正则表达式:

代码语言:javascript复制
代码语言:javascript复制
# match js URLs

xurlfind3r -d hackerone.com --include-subdomains -m '^https?://[^/]*?/.*.js(?[^s]*)?$'

(向右滑动,查看更多)

代码语言:javascript复制

许可证协议

本项目的开发与发布遵循MIT开源许可证协议。

项目地址

xurlfind3r

https://github.com/hueristiq/xurlfind3r

0 人点赞