压在透明的玻璃上c-国产精品国产一级A片精品免费-国产精品视频网-成人黄网站18秘 免费看|www.tcsft.com

在服務(wù)器上排除問題的頭五分鐘(干貨)

  我們團隊為上一家公司承擔(dān)運維、優(yōu)化和擴展工作的時候,我們碰到了各種不同規(guī)模的性能很差的系統(tǒng)和基礎(chǔ)設(shè)備(大型系統(tǒng)居多,比如 CNN 或者世界銀行的系統(tǒng))。要是再趕上修復(fù)時間緊、奇葩的技術(shù)平臺、缺少信息和文檔,基本上這過程都會慘痛到讓我們留下深刻的記憶。

  W020130522501307410197

  遇到服務(wù)器故障,問題出現(xiàn)的原因很少可以一下就想到。我們基本上都會從以下步驟入手:

  一、盡可能搞清楚問題的前因后果

  不要一下子就扎到服務(wù)器前面,你需要先搞明白對這臺服務(wù)器有多少已知的情況,還有故障的具體情況。不然你很可能就是在無的放矢。

  必須搞清楚的問題有:

  故障的表現(xiàn)是什么?無響應(yīng)?報錯?

  故障是什么時候發(fā)現(xiàn)的?

  故障是否可重現(xiàn)?

  有沒有出現(xiàn)的規(guī)律(比如每小時出現(xiàn)一次)

  最后一次對整個平臺進行更新的內(nèi)容是什么(代碼、服務(wù)器等)?

  故障影響的特定用戶群是什么樣的(已登錄的, 退出的, 某個地域的…)?

  基礎(chǔ)架構(gòu)(物理的、邏輯的)的文檔是否能找到?

  是否有監(jiān)控平臺可用? (比如 Munin、Zabbix、 Nagios、 New Relic… 什么都可以)

  是否有日志可以查看?. (比如 Loggly、Airbrake、 Graylog…)

  最后兩個是最方便的信息來源,不過別抱太大希望,基本上它們都不會有。只能再繼續(xù)摸索了。

  二、有誰在?

  1 $w$last

  用這兩個命令看看都有誰在線,有哪些用戶訪問過。這不是什么關(guān)鍵步驟,不過最好別在其他用戶正干活的時候來調(diào)試系統(tǒng)。有道是一山不容二虎嘛。(ne cook in the kitchen is enough.)

  三、之前發(fā)生了什么?

  1 $history

  查看一下之前服務(wù)器上執(zhí)行過的命令。看一下總是沒錯的,加上前面看的誰登錄過的信息,應(yīng)該有點用。另外作為 admin 要注意,不要利用自己的權(quán)限去侵犯別人的隱私哦。

  到這里先提醒一下,等會你可能會需要更新 HISTTIMEFORMAT 環(huán)境變量來顯示這些命令被執(zhí)行的時間。對要不然光看到一堆不知道啥時候執(zhí)行的命令,同樣會令人抓狂的。

  四、現(xiàn)在在運行的進程是啥?

  1

  2 $pstree-a

  $ps aux

  這都是查看現(xiàn)有進程的。 ps aux 的結(jié)果比較雜亂, pstree -a 的結(jié)果比較簡單明了,可以看到正在運行的進程及相關(guān)用戶。

  五、監(jiān)聽的網(wǎng)絡(luò)服務(wù)

  1

  2

  3 $netstat-ntlp

  $netstat-nulp

  $netstat-nxlp

  我一般都分開運行這三個命令,不想一下子看到列出一大堆所有的服務(wù)。netstat -nalp 倒也可以。不過我絕不會用 numeric 選項 (鄙人一點淺薄的看法:IP 地址看起來更方便)。

  找到所有正在運行的服務(wù),檢查它們是否應(yīng)該運行。查看各個監(jiān)聽端口。在 netstat 顯示的服務(wù)列表中的 PID 和 ps aux 進程列表中的是一樣的。

  如果服務(wù)器上有好幾個 JAVA 或者 Erlang 什么的進程在同時運行,能夠按 PID 分別找到每個進程就很重要了。

  通常我們建議每臺服務(wù)器上運行的服務(wù)少一點,必要時可以增加服務(wù)器。如果你看到一臺服務(wù)器上有三四十個監(jiān)聽端口開著,那還是做個記錄,回頭有空的時候清理一下,重新組織一下服務(wù)器。

  六、CPU 和內(nèi)存

  1

  2

  3

  4 $free-m

  $uptime

  $top

  $htop

  注意以下問題:

  還有空余的內(nèi)存嗎? 服務(wù)器是否正在內(nèi)存和硬盤之間進行 swap?

  還有剩余的 CPU 嗎? 服務(wù)器是幾核的? 是否有某些 CPU 核負載過多了?

  服務(wù)器最大的負載來自什么地方? 平均負載是多少?

  七、硬件

  1

  2 $lspci$dmidecode

  $ethtool

  有很多服務(wù)器還是裸機狀態(tài),可以看一下:

  找到 RAID 卡 (是否帶 BBU 備用電池?)、 CPU、空余的內(nèi)存插槽。根據(jù)這些情況可以大致了解硬件問題的來源和性能改進的辦法。

  網(wǎng)卡是否設(shè)置好? 是否正運行在半雙工狀態(tài)? 速度是 10MBps? 有沒有 TX/RX 報錯?

  八、IO 性能

  1

  2

  3

  4 $iostat-kx2

  $vmstat210

  $mpstat210

  $dstat–top-io–top-bio

  這些命令對于調(diào)試后端性能非常有用。

  檢查磁盤使用量:服務(wù)器硬盤是否已滿?

  是否開啟了 swap 交換模式 (si/so)?

  CPU 被誰占用:系統(tǒng)進程? 用戶進程? 虛擬機?

  dstat 是我的最愛。用它可以看到誰在進行 IO: 是不是 MySQL 吃掉了所有的系統(tǒng)資源? 還是你的 PHP 進程?

  九、掛載點和文件系統(tǒng)

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13 $mount

  $cat/etc/fstab

  $vgs

  $pvs

  $lvs

  $df-h

  $lsof+D//* beware not to kill your box */

  一共掛載了多少文件系統(tǒng)?

  有沒有某個服務(wù)專用的文件系統(tǒng)? (比如 MySQL?)

  文件系統(tǒng)的掛載選項是什么: noatime? default? 有沒有文件系統(tǒng)被重新掛載為只讀模式了?

  磁盤空間是否還有剩余?

  是否有大文件被刪除但沒有清空?

  如果磁盤空間有問題,你是否還有空間來擴展一個分區(qū)?

  十、內(nèi)核、中斷和網(wǎng)絡(luò)

  1

  2

  3

  4 $sysctl-a|grep…

  $cat/proc/interrupts

  $cat/proc/net/ip_conntrack/* may take some time on busy servers */

  $netstat$ss-s

  你的中斷請求是否是均衡地分配給 CPU 處理,還是會有某個 CPU 的核因為大量的網(wǎng)絡(luò)中斷請求或者 RAID 請求而過載了?

  SWAP 交換的設(shè)置是什么?對于工作站來說 swappinness 設(shè)為 60 就很好, 不過對于服務(wù)器就太糟了:你最好永遠不要讓服務(wù)器做 SWAP 交換,不然對磁盤的讀寫會鎖死 SWAP 進程。

  conntrack_max 是否設(shè)的足夠大,能應(yīng)付你服務(wù)器的流量?

  在不同狀態(tài)下(TIME_WAIT, …) TCP 連接時間的設(shè)置是怎樣的?

  如果要顯示所有存在的連接,netstat 會比較慢, 你可以先用 ss 看一下總體情況。

  你還可以看一下 Linux TCP tuning 了解網(wǎng)絡(luò)性能調(diào)優(yōu)的一些要點。

  十一、系統(tǒng)日志和內(nèi)核消息

  1

  2

  3

  4 $dmesg

  $less/var/log/messages

  $less/var/log/secure

  $less/var/log/auth

  查看錯誤和警告消息,比如看看是不是很多關(guān)于連接數(shù)過多導(dǎo)致?

  看看是否有硬件錯誤或文件系統(tǒng)錯誤?

  分析是否能將這些錯誤事件和前面發(fā)現(xiàn)的疑點進行時間上的比對。

  十二、定時任務(wù)

  1

  2

  3

  4 $ls/etc/cron*+cat

  $foruser in

  $(cat/etc/passwd|cut-f1-d:);docrontab-l-u

  $user;done

  是否有某個定時任務(wù)運行過于頻繁?

  是否有些用戶提交了隱藏的定時任務(wù)?

  在出現(xiàn)故障的時候,是否正好有某個備份任務(wù)在執(zhí)行?

  十三、應(yīng)用系統(tǒng)日志

  這里邊可分析的東西就多了, 不過恐怕你作為運維人員是沒功夫去仔細研究它的。關(guān)注那些明顯的問題,比如在一個典型的 LAMP(Linux+Apache+Mysql+Perl)應(yīng)用環(huán)境里:

  Apache & Nginx; 查找訪問和錯誤日志, 直接找 5xx 錯誤, 再看看是否有 limit_zone 錯誤。

  MySQL; 在mysql.log 找錯誤消息,看看有沒有結(jié)構(gòu)損壞的表, 是否有 innodb 修復(fù)進程在運行,是否有 disk/index/query 問題.

  PHP-FPM; 如果設(shè)定了 php-slow 日志, 直接找錯誤信息 (php, mysql, memcache, …),如果沒設(shè)定,趕緊設(shè)定。

  Varnish; 在varnishlog 和 varnishstat 里, 檢查 hit/miss 比. 看看配置信息里是否遺漏了什么規(guī)則,使最終用戶可以直接攻擊你的后端?

  HA-Proxy; 后端的狀況如何?健康狀況檢查是否成功?是前端還是后端的隊列大小達到最大值了?

  結(jié)論

  經(jīng)過這 5 分鐘之后,你應(yīng)該對如下情況比較清楚了:

  在服務(wù)器上運行的都是些啥?

  這個故障看起來是和 IO/硬件/網(wǎng)絡(luò)或者系統(tǒng)配置 (有問題的代碼、系統(tǒng)內(nèi)核調(diào)優(yōu), …)相關(guān)。

  這個故障是否有你熟悉的一些特征?比如對數(shù)據(jù)庫索引使用不當(dāng),或者太多的 apache 后臺進程。

  你甚至有可能找到真正的故障源頭。就算還沒有找到,搞清楚了上面這些情況之后,你現(xiàn)在也具備了深挖下去的條件。繼續(xù)努力吧!

 

上一篇:智能無懼挑戰(zhàn) 山石網(wǎng)科轟動RSA2015

下一篇:漏洞屢遭破解 物聯(lián)網(wǎng)安全前景堪憂