python腳本實現站群蜘蛛訪問統計及獨立分析頁面
高效監控站群搜索引擎蜘蛛抓取行為至關重要。本文將介紹如何利用python腳本分析服務器日志,統計蜘蛛訪問數據,并創建獨立的分析頁面,直觀展現抓取情況。
首先,我們使用Python腳本處理服務器日志文件,提取蜘蛛訪問信息。以下代碼示例可分析nginx或apache日志,統計不同搜索引擎蜘蛛的抓取情況。 創建名為spider_stats.py的Python文件,并粘貼以下代碼:
import sys import pandas as pd logfile = sys.argv[1] if len(sys.argv) > 1 else "Access.log" # 讀取日志文件 try: with open(logfile, 'r', encoding='utf-8') as f: # 添加編碼處理,避免亂碼 log_data = f.readlines() except FileNotFoundError: print(f"Error: Log file '{logfile}' not found.") sys.exit(1) # 解析日志數據 (根據你的日志格式調整) log_entries = [] for line in log_data: try: parts = line.split() if len(parts) > 10: log_entries.append({ "ip": parts[0], "date": parts[3][1:], "request": parts[6], # 調整字段索引以匹配你的日志格式 "status": parts[8], "agent": " ".join(parts[11:]) # 調整字段索引以匹配你的日志格式 }) except IndexError: print(f"Warning: Skipping malformed log line: {line.strip()}") df = pd.DataFrame(log_entries) # 定義蜘蛛 User-Agent spider_agents = [ "googlebot", "bingbot", "baiduspider", "yandexbot", "sogou", # 添加其他蜘蛛 User-Agent ] # 篩選蜘蛛請求 df['spider'] = df['agent'].str.extract(f"({'|'.join(spider_agents)})", expand=False) spider_df = df[df['spider'].notna()] # 按蜘蛛類型和日期匯總統計 spider_summary = spider_df.groupby(['spider', 'date']).size().reset_index(name='count') print(spider_summary) # 可選:保存數據到 CSV 文件 spider_summary.to_csv('spider_stats.csv', index=False)
將腳本上傳至服務器日志目錄(例如Nginx的/var/log/nginx/),運行腳本:
python3 spider_stats.py access.log
腳本將輸出蜘蛛訪問統計結果,并可選地將結果保存為csv文件。
立即學習“Python免費學習筆記(深入)”;
接下來,創建一個獨立的分析頁面。 可以使用flask或django等Web框架。以下是一個簡單的Flask示例,讀取CSV文件并顯示數據:
from flask import Flask, render_template, JSonify import pandas as pd app = Flask(__name__) @app.route('/') def index(): try: df = pd.read_csv('spider_stats.csv') data = df.to_dict(orient='records') return render_template('index.html', data=data) except FileNotFoundError: return "Error: spider_stats.csv not found." if __name__ == '__main__': app.run(debug=True) # debug模式方便開發,上線時需關閉
你需要創建一個名為index.html的模板文件來展示數據 (例如使用圖表庫,如Chart.js)。
這個方案提供了更健壯的錯誤處理和更清晰的數據處理流程,并增加了將結果保存為CSV文件的選項,方便后續更復雜的分析或與其他工具集成。 記住根據你的日志格式調整腳本中的字段索引。 獨立分析頁面的構建需要根據你的需求選擇合適的Web框架和前端技術。
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
THE END