PostgreSQL
 sql >> डेटाबेस >  >> RDS >> PostgreSQL

PostgreSQL में बड़ी XML फ़ाइल (~10GB) कैसे आयात करें

  1. XML फ़ाइल को CSV फ़ाइल में बदलें। साथ ही, कनवर्ट करते समय, आसान बैचिंग के लिए इसे 100Mb-1Gb भागों में विभाजित करें।

  2. आपके द्वारा CSV फ़ाइल में परिभाषित स्तंभों के साथ तालिका बनाएं।

  3. पोस्टग्रेज़ में फ़ाइल अपलोड करें COPY के साथ कमांड। यह बड़ी मात्रा में डेटा अपलोड करने का सबसे तेज़ तरीका है जिसे मैं जानता हूं। बीटीडब्ल्यू, यह जावा से भी किया जा सकता है, CopyManager कक्षा।

आप जिस तरह की क्वेरी करेंगे, उसके आधार पर आप इंडेक्स बनाना चाहेंगे:

  1. यह सबसे अधिक समय लेने वाला हिस्सा होगा। हालांकि, आप एक साथ अनुक्रमणिका बनाएं का उपयोग कर सकते हैं . पृष्ठभूमि में अनुक्रमणिका बनाते समय यह आपको अपनी तालिका के साथ काम करने की अनुमति देगा।

  2. यदि आप आयात प्रक्रिया को दोहराते हैं और आपके पास पहले से ही तालिका और अनुक्रमणिकाएँ हैं, तो COPY आदेश जारी करने से पहले अनुक्रमणिकाएँ छोड़ें और बाद में उन्हें फिर से बनाएँ। यह आपका बहुत समय बचाएगा।

  3. यदि आप अभी भी अपने प्रश्नों की गति या अनुक्रमणिका निर्माण की गति से नाखुश हैं, तो शायद Clickhouse<का उपयोग करना एक अच्छा विचार होगा। /ए> बजाय। हालांकि, यह इस बात पर निर्भर करता है कि आप किस प्रकार की क्वेरी करते हैं।




  1. Database
  2.   
  3. Mysql
  4.   
  5. Oracle
  6.   
  7. Sqlserver
  8.   
  9. PostgreSQL
  10.   
  11. Access
  12.   
  13. SQLite
  14.   
  15. MariaDB
  1. मैं पीएल/पीजीएसक्यूएल में नेस्टेड फ़ंक्शन कैसे बना सकता हूं?

  2. Idempotent PostgreSQL DDL स्क्रिप्ट

  3. 9.4 पोस्टग्रेज में ट्रिगर के साथ बाहरी प्रोग्राम निष्पादित करें

  4. रेल 3, ActiveRecord, PostgreSQL - .uniq कमांड काम नहीं करता है?

  5. Postgresql में FOUND_ROWS () फ़ंक्शन के समतुल्य