空间测绘
免责声明
本文档仅供学习和研究使用,请勿使用文中的技术源码用于非法用途,任何人造成的任何负面影响,与本人无关.
大纲
语料收集
Github
Google
Shodan
BinaryEdge
Censys
Zoomeye
FoFa
Dnsdb
知风
ONYPHE
GreyNoise
Thingful
LeakIX
spyse
quake
netlas
相关文章
相关工具
ffffffff0x/ones - 可用于多个网络资产测绘引擎 API 的命令行查询工具
projectdiscovery/uncover - Quickly discover exposed hosts on the internet using multiple search engines.
常用搜索接口
语料收集
杂项
人名
wainshine/Chinese-Names-Corpus - 中文人名语料库。中文姓名,姓氏,名字,称呼,日本人名,翻译人名,英文人名。可用于中文分词、人名实体识别。
地名
黑产 seo 关键词
fwwdn/sensitive-stop-words - 互联网常用敏感词、停止词词库
observerss/textfilter - 敏感词过滤的几种实现+某1w词敏感词
lining0806/TextMining - 敏感词过滤系统
funNLP/data/敏感词库 - 反动词表、暴恐词表
qloog/sensitive_words - 敏感词库整理
57ing/Sensitive-word - 收集的一些敏感词汇,细分了暴恐词库、反动词库、民生词库、色情词库、贪腐词库、其他词库等
adlered/DangerousSpamWords - 超轻量的中文敏感字、敏感词库,字典词典
Github
相关文章
语法
in:name
in:name python 查出仓库名中有 python 的项目(python in:name 也是一样的)
in:description
in:name,description python 查出仓库名或者项目描述中有 python 的项目
in:readme
in:readme python 查出 readme.md 文件里有 python 的项目
repo:owner/name
repo:octocat/hello-world 查出 octocat 的 hello-world 项目(指定了某个人的某个项目)
user:USERNAME
user:1335951413 stars:<10 查出用户 1335951413 名下 stars 少于 10 的项目
org:ORGNAME
org:github 查出 github 名下的项目
stars:n
stars:>=5 查出 star数大于等于 5 个 的项目(支持大于小于区间等)
pushed:YYYY-MM-DD
css pushed:>2013-02-01 查出仓库中包含 css 关键字,并且在 2013年1月 之后更新过的项目
language:LANGUAGE
rails language:javascript 查出仓库包含 rails 关键字,并且使用 javscript 语言的项目
created:YYYY-MM-DD
webos created:<2011-01-01 查出仓库中包含 webos 关键字并且是在 2011 年之前创建的项目(也支持时分秒,支持大于小于区间等)
followers:n
followers:1000 查出有 1000 个拥护者(followers) 的项目(支持大于小于区间等)
forks:n
forks:5 查出有 5 个 forks 的项目(支持大于小于区间等)
filename:n
filename:xxx.txt 查找xxx.txt文件
topic:TOPIC
topic:jekyll 查出含有 jekyll 这个 topic 的项目(项目描述下面的东西,相当于标签、分类)
topics:n
topics:>5 查出有 5 个以上 topic 的项目(支持大于小于区间等)
archived:true/false
archived:true GNOME 查出已经封存了并且含有 GNOME 关键字的项目(已经不再维护了的项目)
license:LICENSE_KEYWORD
license:apache-2.0 查出仓库的开源协议是 apache-2.0 的
size:n
size:1000 查出仓库大小等于 1MB 的项目
size:n
size:>=30000 查出仓库大小至少大于 30MB 的项目
size:n
size:50..120 查出仓库大小在 50KB 至 120KB 之间的项目
is:public/private
is:public org:github 查出仓库所有组织是 github 并且公开的项目
is:public/private
is:private github 查出含有 github 关键字并且是私有的项目(私有的别人看不到,所以这个是用来搜索自己的私有项目的)
项目名字(name)里有 python 的
名字(name)里有 python 的并且 stars 大于 3000 的
名字(name)里有 python 的并且 stars 大于 3000 、forks 大于 200 的
详情(readme)里面有 python 的并且 stars 大于 3000 的
描述(description)里面有 python 的并且 stars 大于 3000 的
描述(description)里面有 python 的并且是 python 语言的
描述(description)里面有 python 的并且 2019-12-20 号之后有更新过的
例子
敏感信息
leaky-repo - 仓库收集了泄露文件的案例
交流
监控工具
BishopFox/GitGot - 快速搜索 GitHub 上公共数据的敏感信息
UKHomeOffice/repo-security-scanner- 查找意外提交给 git 仓库的秘密的 CLI 工具,例如密码,私钥
gwen001/github-search - 在GitHub上执行基本搜索的工具。
eth0izzle/shhgit - 实时的监控 github 寻找敏感信息
lightless233/geye - 一款面向企业级以及白帽子的"More Fastest" Github监控工具
Securityautomation/DumpTheGit - 搜索公开的代码仓库, 查找敏感信息
4x99/code6 - GitHub 代码泄露监控系统
zricethezav/gitleaks - 用于检测 git repos 中的硬编码机密,例如密码,api 密钥和令牌
hahwul/gitls - 从组织/用户中包含的所有公共存储库中提取 URL
madneal/gshark - Scan for sensitive information easily and effectively.
trufflesecurity/trufflehog - Find credentials all over the place
cve-search/git-vuln-finder - 从 git 提交消息中寻找潜在的软件漏洞
同类代码托管网站
代码搜索网站
新版github 代码搜索引擎
Google
案例
GGvulnz — How I hacked hundreds of companies through Google Groups - 作者描述了如何通过 google group 的搜索结果获得未授权的访问链接
搜索引擎语法
包含关键字:
intitle:关键字包含多个关键字:
allintitle:关键字 关键字2搜索特定类型的文件:
关键字 filetype:扩展名,例如人类简史 filetype:pdf搜索特定网站的内容:
关键字 site:网址排除不想要的结果:
关键字 -排查条件,例如搜索 "运动相机",但只想看 GoPro 品牌以外的产品运动相机 -GoPro双引号的用处:例如:
"how to write a code"如果没有引号,搜索的大部分结果是以write code为关键字.包含引号后,会确保将完整的字符串做为期望的检索结果提交给搜索引擎.搜索缓存:
cache: +后缀,如:cache: regontool.org
搜索语法合集
dork工具
dwisiswant0/go-dork - Go 语言编写的快速 Dork 扫描仪。
例子
常见语法
漏洞
搜参数/接口
找文章
工控
CSE
Google Custom Search(自定义搜索)是基于谷歌的核心搜索技术,对你的搜索引擎进行很多定制
TikTok : https://cse.google.com/cse?cx=011444696387487602669:aqf7d9w73om
IFTT : https://cse.google.com/cse?cx=000501358716561852263:xzfiqchwcj8
Google Album archives : https://cse.google.com/cse?cx=006205189065513216365:vp0ly0owiou
Social media : https://cse.google.com/cse?cx=016621447308871563343:0p9cd3f8p-k
LinkedIn : https://cse.google.com/cse?cx=000470283453218169915:hcrzdwsiwrc
Online bookmark sites : https://cse.google.com/cse?cx=005797772976587943970:3tu7im1-rdg
Forums : https://cse.google.com/cse?cx=002396771074467716933:gkp6fzl_dv0
Shodan
Shodan 是目前最为知名的黑客搜索引擎,它是由计算机程序员约翰·马瑟利(John Matherly)于2009年推出的,他在2003年就提出了搜索与 Internet 链接的设备的想法。发展至今已经变成搜索资源最全,搜索性能最强的网络资产搜索引擎。简述下 shodan 的工作原理:通过其强大的爬虫能力每隔一定时间扫描全互联网设备并抓取相应的 banner 信息建立索引,通过这些巨大的数据,你基本可以找到任何你想象得到的连接到互联网的东西。
官网
https://www.shodan.io
https://beta.shodan.io/ - 和正式版数据量差别较大
搜索结果略不满意,会员实际较为鸡肋
无论付费用户还是免费用户,都可以使用shodan的搜索功能,只不过付费用户可以获得更多的搜索结果和导出、监控等更多高级功能。
手册
相关文章
搜索语法合集
语法
https://www.shodan.io/search/filters
例子
外部工具/脚本
Shodan cli
Metasploit
Client API
ns3777k/go-shodan - Shodan API client
shadowscatcher/shodan - yet another Shodan.io client
脚本
woj-ciech/LeakLooker - 利用 shodan 寻找开放的数据库/服务
其他功能
ICS Radar - ICS Radar 是 Shodan 的工业控制系统(ICS)设备的 3D 地图。
Honeypot score - 这个服务叫 Honeypot or not?,这个服务会把 Honeyscore 归属到一个 IP 地址上,也就是成为蜜罐的可能性。
Shodan 2000 - Sodan 2000 是一个类似 Tron 的界面,可以随机显示一个主机。
icon 图标搜索
BinaryEdge
BinaryEdge 是一家来自瑞士的公司提供的资产搜索引擎,其为企业提供网络安全,工程和数据科学解决方案的评估。它利用机器学习技术收集有关基础设施的信息,并将收集的数据与从提要中获得的数据相关联。功能包括通过将发现结果与安全工具结合后从联网设备和运行于它们的服务中提取数据来提供通知,警报和报告功能。
官网
https://www.binaryedge.io/
语法
https://docs.binaryedge.io/search/
例子
Censys
Censys 搜索引擎能够扫描整个互联网,Censys 每天都会扫描 IPv4 地址空间,以搜索所有联网设备并收集相关的信息,并返回一份有关资源(如设备、网站和证书)配置和部署信息的总体报告。
官网
https://www.censys.io
例子
同类搜索引擎
Spyse - 扫描完整的数字证书数据库,获取 TLS 和 SSL 证书的相关数据。
crt.sh - 证书搜索
Google Transparency Report - Google监控的证书透明日志
Zoomeye
ZoomEye 是北京知道创宇公司发布的网络空间侦测引擎,积累了丰富的网络扫描与组件识别经验。在此网络空间侦测引擎的基础上,结合“知道创宇”漏洞发现检测技术和大数据情报分析能力,研制出网络空间雷达系统,为政府、企事业及军工单位客户建设全球网络空间测绘提供技术支持及产品支撑。
官网
https://www.zoomeye.org/
相关工具
语法
例子
ZoomEye工控专题
https://www.zoomeye.org/topic?id=ics_project
FoFa
FOFA 是白帽汇推出的一款网络空间搜索引擎,它通过进行网络空间测绘,能够帮助研究人员或者企业迅速进行网络资产匹配,例如进行漏洞影响范围分析、应用分布统计、应用流行度排名统计等。
官网
https://fofa.so
相关文章
相关工具
Becivells/iconhash - fofa shodan favicon.ico hash icon ico 计算器
语法
例子
Dnsdb
这是一个搜索全网络所有 DNS 服务器的搜索引擎。
官网
https://www.dnsdb.io/
语法
例子
查询 google.com 的所有 A 记录: google.com type:a
知风
“知风”提出了一种互联网联网工控资产自动化分析方式,基于分析结果将可真正帮助用户了解目前接入互联网的工控资产是何企业所属,接入时间,系统名称等。利用“知风”积累的企业和系统数据,您使用“知风”时只需输入企业简称或系统简称,即可了解目标系统企业和系统是否有工控资产联网情况,借助“知风”您也可以了解您的企业、系统是否存在遭受互联网攻击的可能。
官网
https://zhifeng.io/monitor
ONYPHE
很像Shodan,但除了扫描之外,它还可以从被动DNS查询、威胁列表查询和粘贴网站查询中抓取数据。不过免费版比起Shodan来说,它的局限性更大。
官网
https://www.onyphe.io/
GreyNoise
类似 shodan
官网
https://viz.greynoise.io/
Thingful
仅针对物联网的搜索引擎
官网
https://www.thingful.net/
LeakIX
针对信息泄露的搜索引擎
官网
https://leakix.net/
spyse
https://spyse.com/
quake
https://quake.360.cn/quake/#/index
相关文章
netlas
https://app.netlas.io/
HUNTER
https://hunter.qianxin.com/
零零信安
https://0.zone/