網站的優化工作很重要的一個環節就是要讓搜索引擎蜘蛛到網站上來抓取內容，如果搜索引擎蜘蛛都不來網站，那網站的內容再多在豐富也是沒有用的。
　　整個互聯網形如一張網，搜索引擎的抓取程序就是通過這些一個一個的連接來抓取頁面內容的，所以搜索引擎被形象的叫做蜘蛛或網絡爬蟲。網絡爬蟲是搜索引擎的一個自動的抓取頁面的程序。搜索引擎蜘蛛通過跟蹤連接訪問頁面。獲得頁面HTML代碼存入數據庫。爬行和抓取是搜索引擎工作的第一步，也就是數據收集的任務。然后就是預處理以及根據算法排名。
　　對于站長來說，網站的第一步就是解決收錄問題，我們每天都在更新，可有時就是不收錄。我們要想得到收錄和蜘蛛的青睞，你就要懂得蜘蛛的爬行原理和規律。要學習和研究蜘蛛爬行規律，分析網站的訪問日志是重要的一項工作。下面我們來介紹如何查看網站的訪問日志。

針對WDCP面板 設置Apache日志記錄蜘蛛爬行
1、首頁，你要在 “站點編輯” 里面把 "開啟訪問日志 " 這個選項打勾
2、配置vhost 里面對應站點的 conf 文件（ /www/wdlinux/apache/conf/vhost）
把 CustomLog "/www/web_logs/你的域名_access_log" common 這一行的? common 修改成 combined
也就是修改成 CustomLog "/www/web_logs/你的域名_access_log" combined
修改完后保存一下。
3、請確認CustomLog沒有被#號注釋掉，把 /www/wdlinux/apache/conf/httpd.conf? 這個文件也改一下
把 #CustomLog "logs/access_log" combined? 這一句前面的 # 去掉，然后再重啟web服務

4、重新啟動web服務，測試一下效果
好了，以上操作應該是可以實現效果了，希望大家都可以操作成功

特別提醒，針對WDCP面板，如果在站點設置里面修改了其他設置，保存之后站點對應的conf配置文件會自動覆蓋掉。或者點擊了“更新所有站 點配置”，對應的conf配置文件也會覆蓋掉你手動添加的代碼。到時候默認的設置還會是：CustomLog "/www/web_logs/你的域名_access_log" common，然后又得去手動改一下。我找到一個完美解決的辦法，其他地方都不要動，也不用去修改站點的conf配置文件。
直接修改apache默認的httpd.conf配置文件。打開/www/wdlinux/apache/conf/httpd.conf。找到：
LogFormat "%h %l %u %t \"%r\" %>s %b \"%{Referer}i\" \"%{User-Agent}i\"" combined
LogFormat "%h %l %u %t \"%r\" %>s %b" common

把common和combined交換一下就行了，最終的代碼：
LogFormat "%h %l %u %t \"%r\" %>s %b" combined
LogFormat "%h %l %u %t \"%r\" %>s %b \"%{Referer}i\" \"%{User-Agent}i\"" common

上傳后重啟一下web服務就可以了。
原理就是在“站點編輯” 里面 "開啟訪問日志"后，默認是添加的CustomLog "/www/web_logs/你的域名_access_log" common 這段代碼，生效的就是httpd.conf里面common的配置，改一下默認的common的配置就OK了。

針對單個主機的配置方案 設置Apache日志記錄蜘蛛爬行
1、打開httpd.conf文件找到以下部分：LogFormat
“%h %l %u %t \”%r\” %>s %b \”%{Referer}i\” \”%{User-Agent}i\”" combined
LogFormat
“%h %l %u %t \”%r\” %>s %b” common
LogFormat
“%{Referer}i -> %U” referer
LogFormat
“%{User-agent}i” agent
具體有關LogFormat的用法請參照：
2、接著我們繼續向下移動，找到虛擬主機配置段，也就是VirtualHost段，這個是由你自己來配置的。本站的虛擬主機的日志文件是這樣設置的：如果你想記錄百度蜘蛛的訪問全稱，就按色部分設置：
CustomLog
/var/html/faq/logs/linux520-access.log combined
如果不想記錄百度蜘蛛的頭部分，則如下設置：
CustomLog
/var/html/faq/logs/linux520-access.log common
按照以上設置一下，看看你的日志文件是否發生變化了。