MongoDB
 sql >> डेटाबेस >  >> NoSQL >> MongoDB

ClusterControl CLI का उपयोग करके अपने डेटाबेस सर्वर की निगरानी कैसे करें

आप अपने सभी 5 डेटाबेस नोड्स के लिए "टॉप" प्रक्रिया को कैसे मर्ज करना चाहेंगे और केवल एक-लाइनर कमांड के साथ CPU उपयोग के आधार पर सॉर्ट करना चाहेंगे? हाँ, आपने सही पढ़ा! टर्मिनल इंटरफ़ेस में इंटरेक्टिव ग्राफ़ प्रदर्शित करने के बारे में कैसे? हमने लगभग एक साल पहले s9s नामक क्लस्टरकंट्रोल के लिए सीएलआई क्लाइंट पेश किया था, और यह वेब इंटरफेस के लिए एक बेहतरीन पूरक रहा है। यह खुला स्रोत भी है..

इस ब्लॉग पोस्ट में, हम आपको दिखाएंगे कि आप अपने टर्मिनल और s9s CLI का उपयोग करके अपने डेटाबेस की निगरानी कैसे कर सकते हैं।

s9s का परिचय, द क्लस्टरकंट्रोल सीएलआई

ClusterControl CLI (या s9s या s9s CLI), एक ओपन सोर्स प्रोजेक्ट और वैकल्पिक पैकेज है जिसे ClusterControl संस्करण 1.4.1 के साथ पेश किया गया है। यह ClusterControl का उपयोग करके आपके डेटाबेस इन्फ्रास्ट्रक्चर को इंटरैक्ट करने, नियंत्रित करने और प्रबंधित करने के लिए एक कमांड लाइन टूल है। S9s कमांड लाइन प्रोजेक्ट ओपन सोर्स है और इसे GitHub पर पाया जा सकता है।

संस्करण 1.4.1 से शुरू होकर, इंस्टॉलर स्क्रिप्ट संकुल नियंत्रण नोड पर पैकेज (s9s-tools) को स्वचालित रूप से स्थापित कर देगी।

कुछ पूर्वापेक्षाएँ। आपके लिए s9s-tools CLI चलाने के लिए, निम्नलिखित सत्य होना चाहिए:

  • एक चल रहा क्लस्टर नियंत्रण नियंत्रक (सीमोन)।
  • s9s क्लाइंट, एक अलग पैकेज के रूप में स्थापित करें।
  • पोर्ट 9501 को s9s क्लाइंट द्वारा पहुंच योग्य होना चाहिए।

यदि आप इसे ClusterControl Controller होस्ट पर ही स्थापित करते हैं तो s9s CLI को स्थापित करना सीधा है:$ rm

$ rm -Rf ~/.s9s
$ wget http://repo.severalnines.com/s9s-tools/install-s9s-tools.sh
$ ./install-s9s-tools.sh

आप s9s-tools को ClusterControl सर्वर (आपका वर्कस्टेशन लैपटॉप या बैस्टियन होस्ट) के बाहर स्थापित कर सकते हैं, जब तक कि ClusterControl Controller RPC (TLS) इंटरफ़ेस सार्वजनिक नेटवर्क (डिफ़ॉल्ट रूप से 127.0.0.1:9501) के संपर्क में है। आप दस्तावेज़ीकरण पृष्ठ में इसे कॉन्फ़िगर करने के तरीके के बारे में अधिक विवरण प्राप्त कर सकते हैं।

यह सत्यापित करने के लिए कि क्या आप ClusterControl RPC इंटरफ़ेस से ठीक से कनेक्ट हो सकते हैं, आपको निम्न कमांड चलाते समय ठीक प्रतिक्रिया मिलनी चाहिए:

$ s9s cluster --ping
PING OK 2.000 ms

एक साइड नोट के रूप में, इस टूल का उपयोग करते समय सीमाओं को भी देखें।

उदाहरण परिनियोजन

हमारे उदाहरण परिनियोजन में 3 क्लस्टरों में 8 नोड हैं:

  • पोस्टग्रेएसक्यूएल स्ट्रीमिंग प्रतिकृति - 1 मास्टर, 2 दास
  • MySQL प्रतिकृति - 1 मास्टर, 1 गुलाम
  • MongoDB प्रतिकृति सेट - 1 प्राथमिक, 2 द्वितीयक नोड

सभी डेटाबेस क्लस्टर क्लस्टरकंट्रोल द्वारा "डिप्लॉय डेटाबेस क्लस्टर" परिनियोजन विज़ार्ड का उपयोग करके तैनात किए गए थे और UI पॉइंट-ऑफ-व्यू से, हम क्लस्टर डैशबोर्ड में यही देखेंगे:

क्लस्टर मॉनिटरिंग

हम समूहों को सूचीबद्ध करके शुरू करेंगे:

$ s9s cluster --list --long
ID STATE   TYPE              OWNER  GROUP  NAME                   COMMENT
23 STARTED postgresql_single system admins PostgreSQL 10          All nodes are operational.
24 STARTED replication       system admins Oracle 5.7 Replication All nodes are operational.
25 STARTED mongodb           system admins MongoDB 3.6            All nodes are operational.

हम UI के समान क्लस्टर देखते हैं। हम --stat ध्वज का उपयोग करके विशेष क्लस्टर पर अधिक विवरण प्राप्त कर सकते हैं। इस तरह से कई क्लस्टर और नोड्स पर भी नजर रखी जा सकती है, कमांड लाइन विकल्प नोड और क्लस्टर नामों में वाइल्डकार्ड का भी उपयोग कर सकते हैं:

$ s9s cluster --stat *Replication
Oracle 5.7 Replication                                                                                                                                                                                               Name: Oracle 5.7 Replication              Owner: system/admins
      ID: 24                                  State: STARTED
    Type: REPLICATION                        Vendor: oracle 5.7
  Status: All nodes are operational.
  Alarms:  0 crit   1 warn
    Jobs:  0 abort  0 defnd  0 dequd  0 faild  7 finsd  0 runng
  Config: '/etc/cmon.d/cmon_24.cnf'
 LogFile: '/var/log/cmon_24.log'

                                                                                HOSTNAME    CPU   MEMORY   SWAP    DISK       NICs
                                                                                10.0.0.104 1  6% 992M 120M 0B 0B 19G 13G   10K/s 54K/s
                                                                                10.0.0.168 1  6% 992M 116M 0B 0B 19G 13G   11K/s 66K/s
                                                                                10.0.0.156 2 39% 3.6G 2.4G 0B 0B 19G 3.3G 338K/s 79K/s

उपरोक्त आउटपुट क्लस्टर स्थिति, स्थिति, विक्रेता, कॉन्फ़िगरेशन फ़ाइल आदि के साथ हमारे MySQL प्रतिकृति का सारांश देता है। लाइन के नीचे, आप प्रत्येक होस्ट के लिए सिस्टम संसाधनों जैसे सीपीयू की संख्या, कुल मेमोरी, मेमोरी उपयोग, स्वैप डिस्क और नेटवर्क इंटरफेस के सारांश दृश्य के साथ इस क्लस्टर आईडी के अंतर्गत आने वाले नोड्स की सूची देख सकते हैं। दिखाई गई सभी जानकारी सीएमओएन डेटाबेस से प्राप्त की जाती है, न कि सीधे वास्तविक नोड्स से।

आप सभी समूहों पर सभी डेटाबेस का एक संक्षिप्त दृश्य भी प्राप्त कर सकते हैं:

$ s9s  cluster --list-databases --long
SIZE        #TBL #ROWS     OWNER  GROUP  CLUSTER                DATABASE
  7,340,032    0         0 system admins PostgreSQL 10          postgres
  7,340,032    0         0 system admins PostgreSQL 10          template1
  7,340,032    0         0 system admins PostgreSQL 10          template0
765,460,480   24 2,399,611 system admins PostgreSQL 10          sbtest
          0  101         - system admins Oracle 5.7 Replication sys
Total: 5 databases, 789,577,728, 125 tables.

अंतिम पंक्ति सारांशित करती है कि हमारे पास 125 तालिकाओं के साथ कुल 5 डेटाबेस हैं, उनमें से 4 हमारे PostgreSQL क्लस्टर पर हैं।

S9s क्लस्टर कमांड लाइन विकल्पों पर उपयोग के संपूर्ण उदाहरण के लिए, s9s क्लस्टर दस्तावेज़ीकरण देखें।

नोड मॉनिटरिंग

नोड्स मॉनिटरिंग के लिए, s9s CLI में क्लस्टर विकल्प के साथ समान विशेषताएं हैं। सभी नोड्स का एक संक्षिप्त दृश्य प्राप्त करने के लिए, आप बस यह कर सकते हैं:

$ s9s node --list --long
STAT VERSION    CID CLUSTER                HOST       PORT  COMMENT
coC- 1.6.2.2662  23 PostgreSQL 10          10.0.0.156  9500 Up and running
poM- 10.4        23 PostgreSQL 10          10.0.0.44   5432 Up and running
poS- 10.4        23 PostgreSQL 10          10.0.0.58   5432 Up and running
poS- 10.4        23 PostgreSQL 10          10.0.0.60   5432 Up and running
soS- 5.7.23-log  24 Oracle 5.7 Replication 10.0.0.104  3306 Up and running.
coC- 1.6.2.2662  24 Oracle 5.7 Replication 10.0.0.156  9500 Up and running
soM- 5.7.23-log  24 Oracle 5.7 Replication 10.0.0.168  3306 Up and running.
mo-- 3.2.20      25 MongoDB 3.6            10.0.0.125 27017 Up and Running
mo-- 3.2.20      25 MongoDB 3.6            10.0.0.131 27017 Up and Running
coC- 1.6.2.2662  25 MongoDB 3.6            10.0.0.156  9500 Up and running
mo-- 3.2.20      25 MongoDB 3.6            10.0.0.35  27017 Up and Running
Total: 11

सबसे बाएं हाथ का कॉलम नोड के प्रकार को निर्दिष्ट करता है। इस परिनियोजन के लिए, "c" क्लस्टरकंट्रोल कंट्रोलर का प्रतिनिधित्व करता है, PostgreSQL के लिए 'p', MongoDB के लिए "m", Memcached के लिए "e" और जेनेरिक MySQL नोड्स के लिए s। अगला होस्ट स्थिति है - ऑनलाइन के लिए "o", " एल" ऑफ-लाइन के लिए, "एफ" विफल नोड्स के लिए और इसी तरह। अगला क्लस्टर में नोड की भूमिका है। यह मास्टर के लिए एम, दास के लिए एस, नियंत्रक के लिए सी और बाकी सब कुछ के लिए हो सकता है। शेष कॉलम काफी आत्म-व्याख्यात्मक हैं।

आप इस घटक के मैन पेज को देखकर सारी सूची प्राप्त कर सकते हैं:

$ man s9s-node

वहां से, हम --stats ध्वज के साथ सभी नोड्स के लिए अधिक विस्तृत आँकड़ों में कूद सकते हैं:

$ s9s node --stat --cluster-id=24
 10.0.0.104:3306
    Name: 10.0.0.104              Cluster: Oracle 5.7 Replication (24)
      IP: 10.0.0.104                 Port: 3306
   Alias: -                         Owner: system/admins
   Class: CmonMySqlHost              Type: mysql
  Status: CmonHostOnline             Role: slave
      OS: centos 7.0.1406 core     Access: read-only
   VM ID: -
 Version: 5.7.23-log
 Message: Up and running.
LastSeen: Just now                    SSH: 0 fail(s)
 Connect: y Maintenance: n Managed: n Recovery: n Skip DNS: y SuperReadOnly: n
     Pid: 16592  Uptime: 01:44:38
  Config: '/etc/my.cnf'
 LogFile: '/var/log/mysql/mysqld.log'
 PidFile: '/var/lib/mysql/mysql.pid'
 DataDir: '/var/lib/mysql/'
 10.0.0.168:3306
    Name: 10.0.0.168              Cluster: Oracle 5.7 Replication (24)
      IP: 10.0.0.168                 Port: 3306
   Alias: -                         Owner: system/admins
   Class: CmonMySqlHost              Type: mysql
  Status: CmonHostOnline             Role: master
      OS: centos 7.0.1406 core     Access: read-write
   VM ID: -
 Version: 5.7.23-log
 Message: Up and running.
  Slaves: 10.0.0.104:3306
LastSeen: Just now                    SSH: 0 fail(s)
 Connect: n Maintenance: n Managed: n Recovery: n Skip DNS: y SuperReadOnly: n
     Pid: 975  Uptime: 01:52:53
  Config: '/etc/my.cnf'
 LogFile: '/var/log/mysql/mysqld.log'
 PidFile: '/var/lib/mysql/mysql.pid'
 DataDir: '/var/lib/mysql/'
 10.0.0.156:9500
    Name: 10.0.0.156              Cluster: Oracle 5.7 Replication (24)
      IP: 10.0.0.156                 Port: 9500
   Alias: -                         Owner: system/admins
   Class: CmonHost                   Type: controller
  Status: CmonHostOnline             Role: controller
      OS: centos 7.0.1406 core     Access: read-write
   VM ID: -
 Version: 1.6.2.2662
 Message: Up and running
LastSeen: 28 seconds ago              SSH: 0 fail(s)
 Connect: n Maintenance: n Managed: n Recovery: n Skip DNS: n SuperReadOnly: n
     Pid: 12746  Uptime: 01:10:05
  Config: ''
 LogFile: '/var/log/cmon_24.log'
 PidFile: ''
 DataDir: ''

S9s क्लाइंट के साथ ग्राफ़ प्रिंट करना भी बहुत जानकारीपूर्ण हो सकता है। यह डेटा को नियंत्रक द्वारा विभिन्न ग्राफ़ में एकत्रित किया जाता है। इस उपकरण द्वारा समर्थित लगभग 30 ग्राफ़ हैं जैसा कि यहां सूचीबद्ध है और s9s-node उन सभी की गणना करता है। निम्नलिखित क्लस्टर आईडी 1 के लिए सभी नोड्स का सर्वर लोड हिस्टोग्राम दिखाता है, जैसा कि CMON द्वारा एकत्र किया गया है, सीधे आपके टर्मिनल से:

प्रारंभ और समाप्ति तिथि और समय निर्धारित करना संभव है। कोई छोटी अवधि (जैसे अंतिम घंटे) या लंबी अवधि (जैसे एक सप्ताह या एक महीने) देख सकता है। पिछले घंटे के लिए डिस्क उपयोग को देखने का एक उदाहरण निम्नलिखित है:

--density विकल्प का उपयोग करके, प्रत्येक ग्राफ़ के लिए एक अलग दृश्य मुद्रित किया जा सकता है। यह घनत्व ग्राफ समय श्रृंखला नहीं दिखाता है, लेकिन कितनी बार दिए गए मान देखे गए थे (एक्स-अक्ष घनत्व मान का प्रतिनिधित्व करता है):

यदि टर्मिनल यूनिकोड वर्णों का समर्थन नहीं करता है, तो --only-ascii विकल्प उन्हें बंद कर सकता है:

ग्राफ़ में रंग होते हैं, जहां खतरनाक रूप से उच्च मान उदाहरण के लिए लाल रंग में दिखाए जाते हैं। नोड्स की सूची को --nodes विकल्प के साथ फ़िल्टर किया जा सकता है, जहां आप नोड नाम निर्दिष्ट कर सकते हैं या यदि सुविधाजनक हो तो वाइल्डकार्ड का उपयोग कर सकते हैं।

प्रक्रिया निगरानी

S9s CLI के बारे में एक और अच्छी बात यह है कि यह पूरे क्लस्टर की एक प्रक्रिया सूची प्रदान करता है - सभी नोड्स के लिए एक "शीर्ष", सभी प्रक्रियाओं को एक में मिला दिया जाता है। निम्न कमांड क्लस्टर आईडी 24 के लिए सभी डेटाबेस नोड्स पर "टॉप" कमांड चलाता है, जो कि सबसे अधिक CPU खपत द्वारा क्रमबद्ध है, और लगातार अपडेट किया जाता है:

$ s9s process --top --cluster-id=24
Oracle 5.7 Replication - 04:39:17                                                                                                                                                      All nodes are operational.
3 hosts, 4 cores, 10.6 us,  4.2 sy, 84.6 id,  0.1 wa,  0.3 st,
GiB Mem : 5.5 total, 1.7 free, 2.6 used, 0.1 buffers, 1.1 cached
GiB Swap: 0 total, 0 used, 0 free,

PID   USER     HOST       PR  VIRT      RES    S   %CPU   %MEM COMMAND
12746 root     10.0.0.156 20  1359348    58976 S  25.25   1.56 cmon
 1587 apache   10.0.0.156 20   462572    21632 S   1.38   0.57 httpd
  390 root     10.0.0.156 20     4356      584 S   1.32   0.02 rngd
  975 mysql    10.0.0.168 20  1144260    71936 S   1.11   7.08 mysqld
16592 mysql    10.0.0.104 20  1144808    75976 S   1.11   7.48 mysqld
22983 root     10.0.0.104 20   127368     5308 S   0.92   0.52 sshd
22548 root     10.0.0.168 20   127368     5304 S   0.83   0.52 sshd
 1632 mysql    10.0.0.156 20  3578232  1803336 S   0.50  47.65 mysqld
  470 proxysql 10.0.0.156 20   167956    35300 S   0.44   0.93 proxysql
  338 root     10.0.0.104 20     4304      600 S   0.37   0.06 rngd
  351 root     10.0.0.168 20     4304      600 R   0.28   0.06 rngd
   24 root     10.0.0.156 20        0        0 S   0.19   0.00 rcu_sched
  785 root     10.0.0.156 20   454112    11092 S   0.13   0.29 httpd
   26 root     10.0.0.156 20        0        0 S   0.13   0.00 rcuos/1
   25 root     10.0.0.156 20        0        0 S   0.13   0.00 rcuos/0
22498 root     10.0.0.168 20   127368     5200 S   0.09   0.51 sshd
14538 root     10.0.0.104 20        0        0 S   0.09   0.00 kworker/0:1
22933 root     10.0.0.104 20   127368     5200 S   0.09   0.51 sshd
28295 root     10.0.0.156 20   127452     5016 S   0.06   0.13 sshd
 2238 root     10.0.0.156 20   197520    10444 S   0.06   0.28 vc-agent-007
  419 root     10.0.0.156 20    34764     1660 S   0.06   0.04 systemd-logind
    1 root     10.0.0.156 20    47628     3560 S   0.06   0.09 systemd
27992 proxysql 10.0.0.156 20    11688      872 S   0.00   0.02 proxysql_galera
28036 proxysql 10.0.0.156 20    11688      876 S   0.00   0.02 proxysql_galera

एक --सूची ध्वज भी है जो निरंतर अद्यतन के बिना एक समान परिणाम देता है ("ps" कमांड के समान):

$ s9s process --list --cluster-id=25

नौकरी की निगरानी

कार्य पृष्ठभूमि में नियंत्रक द्वारा किए गए कार्य हैं, ताकि क्लाइंट एप्लिकेशन को संपूर्ण कार्य समाप्त होने तक प्रतीक्षा करने की आवश्यकता न हो। ClusterControl प्रत्येक कार्य के लिए एक ID निर्दिष्ट करके प्रबंधन कार्यों को निष्पादित करता है और आंतरिक अनुसूचक को यह तय करने देता है कि क्या दो या अधिक कार्य समानांतर में चलाए जा सकते हैं। उदाहरण के लिए, एक से अधिक क्लस्टर परिनियोजन एक साथ निष्पादित किए जा सकते हैं, साथ ही साथ अन्य लंबे समय तक चलने वाले संचालन जैसे बैकअप और क्लाउड स्टोरेज पर बैकअप का स्वचालित अपलोड।

किसी भी प्रबंधन ऑपरेशन में, यह मददगार होगा यदि हम किसी विशिष्ट कार्य की प्रगति और स्थिति की निगरानी कर सकते हैं, जैसे, हमारे MySQL प्रतिकृति के लिए एक नया दास स्केल करें। हमारे MySQL प्रतिकृति को बढ़ाने के लिए निम्न आदेश एक नया दास, 10.0.0.77 जोड़ता है:

$ s9s cluster --add-node --nodes="10.0.0.77" --cluster-id=24
Job with ID 66992 registered.

फिर हम जॉब विकल्प का उपयोग करके जॉब आईडी 66992 की निगरानी कर सकते हैं:

$ s9s job --log --job-id=66992
addNode: Verifying job parameters.
10.0.0.77:3306: Adding host to cluster.
10.0.0.77:3306: Testing SSH to host.
10.0.0.77:3306: Installing node.
10.0.0.77:3306: Setup new node (installSoftware = true).
10.0.0.77:3306: Setting SELinux in permissive mode.
10.0.0.77:3306: Disabling firewall.
10.0.0.77:3306: Setting vm.swappiness = 1
10.0.0.77:3306: Installing software.
10.0.0.77:3306: Setting up repositories.
10.0.0.77:3306: Installing helper packages.
10.0.0.77: Upgrading nss.
10.0.0.77: Upgrading ca-certificates.
10.0.0.77: Installing socat.
...
10.0.0.77: Installing pigz.
10.0.0.77: Installing bzip2.
10.0.0.77: Installing iproute2.
10.0.0.77: Installing tar.
10.0.0.77: Installing openssl.
10.0.0.77: Upgrading openssl openssl-libs.
10.0.0.77: Finished with helper packages.
10.0.0.77:3306: Verifying helper packages (checking if socat is installed successfully).
10.0.0.77:3306: Uninstalling existing MySQL packages.
10.0.0.77:3306: Installing replication software, vendor oracle, version 5.7.
10.0.0.77:3306: Installing software.
...

या हम --wait ध्वज का उपयोग कर सकते हैं और प्रगति पट्टी के साथ एक स्पिनर प्राप्त कर सकते हैं:

$ s9s job --wait --job-id=66992
Add Node to Cluster
- Job 66992 RUNNING    [         █] ---% Add New Node to Cluster

आज के निगरानी पूरक के लिए बस इतना ही। हमें उम्मीद है कि आप सीएलआई को आजमाएंगे और इसका फायदा उठाएंगे। हैप्पी क्लस्टरिंग


  1. Redis
  2.   
  3. MongoDB
  4.   
  5. Memcached
  6.   
  7. HBase
  8.   
  9. CouchDB
  1. अनपेक्षित मोंगो निकास कोड 100. पुनरारंभ करना

  2. डिफ़ॉल्ट संग्रह और डेटा के साथ एक मोंगो डॉकर छवि कैसे बनाएं?

  3. MongoDB फ़ील्ड ऑर्डर और दस्तावेज़ स्थिति अद्यतन के बाद बदल जाती है

  4. Ansible . का उपयोग करके क्लाउड में MongoDB प्रतिकृति सेट को बनाए रखना

  5. किसी अन्य फ़ील्ड के मान का उपयोग करके MongoDB फ़ील्ड को अपडेट करें