我們通常衡量一個Web系統的吞吐率的指標是QPS（Query Per Second，每秒處理請求數），解決每秒數萬次的高并發場景，這個指標非常關鍵。舉個例子，我們假設處理一個業務請求平均響應時間為100ms，同時，系統內有20臺Apache的Web服務器，配置MaxClients為500個（表示Apache的最大連接數目）。
那么，我們的web系統的理論峰值qps為（理想化的計算方式）：
20*500/0.1 = 100000 （10萬QPS）
咦？我們的系統似乎很強大，1秒鐘可以處理完10萬的請求，5w/s的秒殺似乎是“紙老虎”哈。實際情況，當然沒有這么理想。在高并發的實際場景下，機器都處于高負載的狀態，在這個時候平均響應時間會被大大增加。
就Web服務器而言，Apache打開了越多的連接進程，CPU需要處理的上下文切換也越多，額外增加了CPU的消耗，然后就直接導致平均響應時間增加。因此上述的MaxClient數目，要根據CPU、內存等硬件因素綜合考慮，絕對不是越多越好。可以通過Apache自帶的abench來測試一下，取一個合適的值。然后，我們選擇內存操作級別的存儲的Redis，在高并發的狀態下，存儲的響應時間至關重要。網絡帶寬雖然也是一個因素，不過，這種請求數據包一般比較小，一般很少成為請求的瓶頸。負載均衡成為系統瓶頸的情況比較少，在這里不做討論哈。
那么問題來了，假設我們的系統，在5w/s的高并發狀態下，平均響應時間從100ms變為250ms（實際情況，甚至更多）：
20*500/0.25 = 40000 （4萬QPS）
于是，我們的系統剩下了4w的QPS，面對5w每秒的請求，中間相差了1w。
舉個例子，高速路口，1秒鐘來5部車，每秒通過5部車，高速路口運作正常。突然，這個路口1秒鐘只能通過4部車，車流量仍然依舊，結果必定出現大塞車。（5條車道忽然變成4條車道的感覺）
同理，某一個秒內，20*500個可用連接進程都在滿負荷工作中，卻仍然有1萬個新來請求，沒有連接進程可用，系統陷入到異常狀態也是預期之內。
其實在正常的非高并發的業務場景中，也有類似的情況出現，某個業務請求接口出現問題，響應時間極慢，將整個Web請求響應時間拉得很長，逐漸將Web服務器的可用連接數占滿，其他正常的業務請求，無連接進程可用。
更可怕的問題是，是用戶的行為特點，系統越是不可用，用戶的點擊越頻繁，惡性循環最終導致“雪崩”（其中一臺Web機器掛了，導致流量分散到其他正常工作的機器上，再導致正常的機器也掛，然后惡性循環），將整個Web系統拖垮。
3. 重啟與過載保護
如果系統發生“雪崩”，貿然重啟服務，是無法解決問題的。最常見的現象是，啟動起來后，立刻掛掉。這個時候，最好在入口層將流量拒絕，然后再將重啟。如果是redis/memcache這種服務也掛了，重啟的時候需要注意“預熱”，并且很可能需要比較長的時間。
秒殺和搶購的場景，流量往往是超乎我們系統的準備和想象的。這個時候，過載保護是必要的。如果檢測到系統滿負載狀態，拒絕請求也是一種保護措施。在前端設置過濾是最簡單的方式，但是，這種做法是被用戶“千夫所指”的行為。更合適一點的是，將過載保護設置在CGI入口層，快速將客戶的直接請求返回
高并發下的數據安全
我們知道在多線程寫入同一個文件的時候，會存現“線程安全”的問題（多個線程同時運行同一段代碼，如果每次運行結果和單線程運行的結果是一樣的，結果和預期相同，就是線程安全的）。如果是MySQL數據庫，可以使用它自帶的鎖機制很好的解決問題，但是，在大規模并發的場景中，是不推薦使用MySQL的。秒殺和搶購的場景中，還有另外一個問題，就是“超發”，如果在這方面控制不慎，會產生發送過多的情況。我們也曾經聽說過，某些電商搞搶購活動，買家成功拍下后，商家卻不承認訂單有效，拒絕發貨。這里的問題，也許并不一定是商家奸詐，而是系統技術層面存在超發風險導致的。
1. 超發的原因
假設某個搶購場景中，我們一共只有100個商品，在最后一刻，我們已經消耗了99個商品，僅剩最后一個。這個時候，系統發來多個并發請求，這批請求讀取到的商品余量都是99個，然后都通過了這一個余量判斷，最終導致超發。（同文章前面說的場景）
在上面的這個圖中，就導致了并發用戶B也“搶購成功”，多讓一個人獲得了商品。這種場景，在高并發的情況下非常容易出現。
優化方案1：將庫存字段number字段設為unsigned，當庫存為0時，因為字段不能為負數，將會返回false
<?php //優化方案1：將庫存字段number字段設為unsigned，當庫存為0時，因為字段不能為負數，將會返回false include('./mysql.php'); $username = 'wang'.rand(0,1000); //生成唯一訂單 function build_order_no(){ return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8); } //記錄日志 function insertLog($event,$type=0,$username){ global $conn; $sql="insert into ih_log(event,type,usernma) values('$event','$type','$username')"; return mysqli_query($conn,$sql); } function insertOrder($order_sn,$user_id,$goods_id,$sku_id,$price,$username,$number) { global $conn; $sql="insert into ih_order(order_sn,user_id,goods_id,sku_id,price,username,number) values('$order_sn','$user_id','$goods_id','$sku_id','$price','$username','$number')"; return mysqli_query($conn,$sql); } //模擬下單操作 //庫存是否大于0 $sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id' "; $rs=mysqli_query($conn,$sql); $row = $rs->fetch_assoc(); ??if($row['number']>0){//高并發下會導致超賣 ??????if($row['number']0"; ??????$store_rs=mysqli_query($conn,$sql); ??????if($store_rs){ ??????????//生成訂單 ??????????insertOrder($order_sn,$user_id,$goods_id,$sku_id,$price,$username,$number); ??????????insertLog('庫存減少成功',1,$username); ??????}else{ ??????????insertLog('庫存減少失敗',2,$username); ??????} ??}else{ ??????insertLog('庫存不夠',3,$username); ??} ?>
2. 悲觀鎖思路
解決線程安全的思路很多，可以從“悲觀鎖”的方向開始討論。
悲觀鎖，也就是在修改數據的時候，采用鎖定狀態，排斥外部請求的修改。遇到加鎖的狀態，就必須等待。
雖然上述的方案的確解決了線程安全的問題，但是，別忘記，我們的場景是“高并發”。也就是說，會很多這樣的修改請求，每個請求都需要等待“鎖”，某些線程可能永遠都沒有機會搶到這個“鎖”，這種請求就會死在那里。同時，這種請求會很多，瞬間增大系統的平均響應時間，結果是可用連接數被耗盡，系統陷入異常。
優化方案2：使用MySQL的事務，鎖住操作的行
<?php //優化方案2：使用MySQL的事務，鎖住操作的行 include('./mysql.php'); //生成唯一訂單號 function build_order_no(){ return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8); } //記錄日志 function insertLog($event,$type=0){ global $conn; $sql="insert into ih_log(event,type) values('$event','$type')"; mysqli_query($conn,$sql); } //模擬下單操作 //庫存是否大于0 mysqli_query($conn,"BEGIN"); //開始事務 $sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id' FOR UPDATE";//此時這條記錄被鎖住,其它事務必須等待此次事務提交后才能執行 $rs=mysqli_query($conn,$sql); $row=$rs->fetch_assoc(); if($row['number']>0){ ????//生成訂單 ????$order_sn=build_order_no(); ????$sql="insert?into?ih_order(order_sn,user_id,goods_id,sku_id,price) ????values('$order_sn','$user_id','$goods_id','$sku_id','$price')"; ????$order_rs=mysqli_query($conn,$sql); ????//庫存減少 ????$sql="update?ih_store?set?number=number-{$number}?where?sku_id='$sku_id'"; ????$store_rs=mysqli_query($conn,$sql); ????if($store_rs){ ??????echo?'庫存減少成功'; ????????insertLog('庫存減少成功'); ????????mysqli_query($conn,"COMMIT");//事務提交即解鎖 ????}else{ ??????echo?'庫存減少失敗'; ????????insertLog('庫存減少失敗'); ????} }else{ ??echo?'庫存不夠'; ????insertLog('庫存不夠'); ????mysqli_query($conn,"ROLLBACK"); } ?>
3. FIFO隊列思路
那好，那么我們稍微修改一下上面的場景，我們直接將請求放入隊列中的，采用FIFO（First Input First Output，先進先出），這樣的話，我們就不會導致某些請求永遠獲取不到鎖。看到這里，是不是有點強行將多線程變成單線程的感覺哈。
然后，我們現在解決了鎖的問題，全部請求采用“先進先出”的隊列方式來處理。那么新的問題來了，高并發的場景下，因為請求很多，很可能一瞬間將隊列內存“撐爆”，然后系統又陷入到了異常狀態。或者設計一個極大的內存隊列，也是一種方案，但是，系統處理完一個隊列內請求的速度根本無法和瘋狂涌入隊列中的數目相比。也就是說，隊列內的請求會越積累越多，最終Web系統平均響應時候還是會大幅下降，系統還是陷入異常。
4. 文件鎖的思路
對于日IP不高或者說并發數不是很大的應用，一般不用考慮這些！用一般的文件操作方法完全沒有問題。但如果并發高，在我們對文件進行讀寫操作時，很有可能多個進程對進一文件進行操作，如果這時不對文件的訪問進行相應的獨占，就容易造成數據丟失
優化方案4：使用非阻塞的文件排他鎖
<?php //優化方案4：使用非阻塞的文件排他鎖 include ('./mysql.php'); //生成唯一訂單號 function build_order_no(){ return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8); } //記錄日志 function insertLog($event,$type=0){ global $conn; $sql="insert into ih_log(event,type) values('$event','$type')"; mysqli_query($conn,$sql); } $fp = fopen("lock.txt", "w+"); if(!flock($fp,LOCK_EX | LOCK_NB)){ echo "系統繁忙，請稍后再試"; return; } //下單 $sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id'"; $rs = mysqli_query($conn,$sql); $row = $rs->fetch_assoc(); if($row['number']>0){//庫存是否大于0 ????//模擬下單操作 ????$order_sn=build_order_no(); ????$sql="insert?into?ih_order(order_sn,user_id,goods_id,sku_id,price) ????values('$order_sn','$user_id','$goods_id','$sku_id','$price')"; ????$order_rs?=??mysqli_query($conn,$sql); ????//庫存減少 ????$sql="update?ih_store?set?number=number-{$number}?where?sku_id='$sku_id'"; ????$store_rs?=??mysqli_query($conn,$sql); ????if($store_rs){ ??????echo?'庫存減少成功'; ????????insertLog('庫存減少成功'); ????????flock($fp,LOCK_UN);//釋放鎖 ????}else{ ??????echo?'庫存減少失敗'; ????????insertLog('庫存減少失敗'); ????} }else{ ??echo?'庫存不夠'; ????insertLog('庫存不夠'); } fclose($fp); ??>
5. 樂觀鎖思路
這個時候，我們就可以討論一下“樂觀鎖”的思路了。樂觀鎖，是相對于“悲觀鎖”采用更為寬松的加鎖機制，大都是采用帶版本號（Version）更新。實現就是，這個數據所有請求都有資格去修改，但會獲得一個該數據的版本號，只有版本號符合的才能更新成功，其他的返回搶購失敗。這樣的話，我們就不需要考慮隊列的問題，不過，它會增大CPU的計算開銷。但是，綜合來說，這是一個比較好的解決方案。
有很多軟件和服務都“樂觀鎖”功能的支持，例如Redis中的watch就是其中之一。通過這個實現，我們保證了數據的安全。
優化方案5：Redis中的watch
<?php $redis = new redis(); $result = $redis->connect('127.0.0.1',?6379); ?echo?$mywatchkey?=?$redis->get("mywatchkey"); /* ??//插入搶購數據 ?if($mywatchkey>0) ?{ ?????$redis->watch("mywatchkey"); ??//啟動一個新的事務。 ????$redis->multi(); ???$redis->set("mywatchkey",$mywatchkey-1); ???$result?=?$redis->exec(); ???if($result)?{ ??????$redis->hSet("watchkeylist","user_".mt_rand(1,99999),time()); ??????$watchkeylist?=?$redis->hGetAll("watchkeylist"); ????????echo?"搶購成功！<br>";? ????????$re?=?$mywatchkey?-?1;??? ????????echo?"剩余數量：".$re."<br>"; ????????echo?"用戶列表：<pre class="brush:php;toolbar:false">"; print_r($watchkeylist); }else{ echo "手氣不好，再搶購！";exit; } }else{ // $redis->hSet("watchkeylist","user_".mt_rand(1,99999),"12"); // $watchkeylist = $redis->hGetAll("watchkeylist"); echo "fail！<br/>"; echo ".no result<br/>"; echo "用戶列表：<pre class="brush:php;toolbar:false">"; // var_dump($watchkeylist); }*/ $rob_total = 100; //搶購數量 if($mywatchkey<=$rob_total){ $redis->watch("mywatchkey"); $redis->multi(); //在當前連接上啟動一個新的事務。 //插入搶購數據 $redis->set("mywatchkey",$mywatchkey+1); $rob_result = $redis->exec(); if($rob_result){ $redis->hSet("watchkeylist","user_".mt_rand(1, 9999),$mywatchkey); $mywatchlist = $redis->hGetAll("watchkeylist"); echo "搶購成功！<br/>"; echo "剩余數量：".($rob_total-$mywatchkey-1)."<br/>"; echo "用戶列表：<pre class="brush:php;toolbar:false">"; var_dump($mywatchlist); }else{ $redis->hSet("watchkeylist","user_".mt_rand(1, 9999),'meiqiangdao'); echo "手氣不好，再搶購！";exit; } } ?>
