robots.txt 是一个协议，而不是一个命令。 robots.txt 是搜索引擎中访问网站的时候要查看的第一个文件。 robots.txt 文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。当一个搜索蜘蛛访问一个站点时，它会首先检查该站点根目录下是否存在 robots.txt，如果存在，搜索机器人就会按照该文件中的内容来确定访问的范围; 如果该文件不存在，所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。百度官方建议，仅当您的网站包含不希望被搜索引擎收录的内容时，才需要使用 robots.txt 文件。如果您希望搜索引擎收录网站上所有内容，请勿建立 robots.txt 文件。
举例：
如果将网站视为酒店里的一个房间，robots.txt 就是主人在房间门口悬挂的 「请勿打扰」 或 「欢迎打扫」 的提示牌。这个文件告诉来访的搜索引擎哪些房间可以进入和参观，哪些房间因为存放贵重物品，或可能涉及住户及访客的隐私而不对搜索引擎开放。但 robots.txt 不是命令，也不是防火墙，如同守门人无法阻止窃贼等恶意闯入者。
这里不给时间大家看了，看完教程再仔细阅读一下，很容易理解的，其实就是 SEO 中的环节，做 SEO 的人都知道，这个文件很常用，为了不让百度蜘蛛抓取你的一些不重要的页面，或是你想百度蜘蛛抓取你的什么页面，就靠这个文件来控制即可，所以就给了我们入侵者大大的方便，根据我的经验
有的时候各种扫目录，也找不到后台的时候，小心翼翼的访问一下这个文件，蛋疼的你就发现这个文件里面很多目录，其中可爱的后台地址就赫赫的展现在上面，你访问一下就获得后台地址了!
下面来实战一下，让大家看看效果
看目录，就知道是织梦程序 这个 ICO 也能看出。
User-agent: *
Disallow: /plus/ad_js.php
Disallow: /plus/advancedsearch.php
Disallow: /plus/car.php
Disallow: /plus/carbuyaction.php
Disallow: /plus/shops_buyaction.php
Disallow: /plus/erraddsave.php
Disallow: /plus/posttocar.php
Disallow: /plus/disdls.php
Disallow: /plus/feedback_js.php
Disallow: /plus/mytag_js.php
Disallow: /plus/rss.php
Disallow: /plus/search.php
Disallow: /plus/recommend.php
Disallow: /plus/stow.php
Disallow: /plus/count.php
Disallow: /include
Disallow: /templets
这个没有后台地址，至少我没看出可疑的文件，原来是默认后台地址 dede/
Disallow: /wp-admin/
Disallow: /wp-login.php
Disallow：不允许蜘蛛抓取的意思 一看就知道这是后台地址，试试，对吧
#
# robots.txt for Discuz! X3
#
User-agent: *
Disallow: /api/
Disallow: /data/
Disallow: /source/
Disallow: /install/
Disallow: /template/
Disallow: /config/
Disallow: /uc_client/
Disallow: /uc_server/
Disallow: /static/
Disallow: /admin.php
Disallow: /search.php
Disallow: /member.php
Disallow: /api.php
Disallow: /misc.php
Disallow: /connect.php
Disallow: /forum.php?mod=redirect*
Disallow: /forum.php?mod=post*
Disallow: /home.php?mod=spacecp*
Disallow: /userapp.php?mod=app&*
Disallow: /*?mod=misc*
Disallow: /*?mod=attachment*
通过这里，可以看出这个是 Discuz! X3 程序 x3 版本的，是一个论坛
1. 可以获取后台地址 效率不错
2. 可以获得网站程序名称
入侵的时候，别忘了这个文件即可! 教程结束