जावा में MySQL इंसर्ट स्टेटमेंट का प्रदर्शन:बैच मोड तैयार स्टेटमेंट बनाम सिंगल इंसर्ट कई मानों के साथ

JDBC मानक इंटरफेस की पेशकश करने वाले डेटाबेस एक्सेस का केवल एक जावा एसई मानक है, इसलिए आप वास्तव में एक विशिष्ट JDBC कार्यान्वयन के लिए बाध्य नहीं हैं। MySQL Java कनेक्टर (कनेक्टर/J) केवल MySQL डेटाबेस के लिए JDBC इंटरफेस का कार्यान्वयन है। अनुभव से बाहर, मैं एक ऐसे प्रोजेक्ट में शामिल हूं जो MySQL का उपयोग करके बड़ी मात्रा में डेटा का उपयोग करता है, और हम ज्यादातर डेटा के लिए MyISAM पसंद करते हैं जिसे उत्पन्न किया जा सकता है:यह लेनदेन खोने के लिए बहुत अधिक प्रदर्शन प्राप्त करने की अनुमति देता है, लेकिन आम तौर पर बोलते हुए, माईसाम तेज है, लेकिन InnoDB अधिक विश्वसनीय है।

मैंने लगभग एक साल पहले INSERT कथनों के प्रदर्शन के बारे में सोचा, और मेरे कोड शेल्फ में निम्नलिखित पुराना परीक्षण कोड पाया (क्षमा करें, यह थोड़ा जटिल है और आपके प्रश्न के दायरे से थोड़ा बाहर है)। नीचे दिए गए कोड में परीक्षण डेटा डालने के 4 तरीकों के उदाहरण हैं:

• एकल INSERT एस;
• बैच किया गया INSERT एस;
• मैन्युअल बल्क INSERT (इसका कभी भी उपयोग न करें - यह खतरनाक है);
• और अंत में बल्क तैयार INSERT )।

यह TestNG का उपयोग करता है धावक के रूप में, और कुछ कस्टम कोड विरासत का उपयोग करता है जैसे:

• द runWithConnection() विधि - सुनिश्चित करता है कि कनेक्शन बंद है या कॉलबैक निष्पादित होने के बाद कनेक्शन पूल में वापस डाल दिया गया है (लेकिन नीचे दिया गया कोड स्टेटमेंट क्लोजिंग की विश्वसनीय रणनीति का उपयोग नहीं करता है - यहां तक ​​​​कि try के बिना भी /finally कोड कम करने के लिए);
• IUnsafeIn<T, E extends Throwable> - एकल पैरामीटर को स्वीकार करने वाली विधियों के लिए एक कस्टम कॉलबैक इंटरफ़ेस, लेकिन संभावित रूप से प्रकार E का अपवाद फेंकना, जैसे:void handle(T argument) throws E; ।

package test;

import test.IUnsafeIn;

import java.sql.Connection;
import java.sql.PreparedStatement;
import java.sql.SQLException;

import static java.lang.String.format;
import static java.lang.String.valueOf;
import static java.lang.System.currentTimeMillis;

import core.SqlBaseTest;
import org.testng.annotations.AfterSuite;
import org.testng.annotations.BeforeSuite;
import org.testng.annotations.BeforeTest;
import org.testng.annotations.Test;

public final class InsertVsBatchInsertTest extends SqlBaseTest {

    private static final int ITERATION_COUNT = 3000;

    private static final String CREATE_TABLE_QUERY = "CREATE TABLE IF NOT EXISTS ttt1 (c1 INTEGER, c2 FLOAT, c3 VARCHAR(5)) ENGINE = InnoDB";
    private static final String DROP_TABLE_QUERY = "DROP TABLE ttt1";
    private static final String CLEAR_TABLE_QUERY = "DELETE FROM ttt1";

    private static void withinTimer(String name, Runnable runnable) {
        final long start = currentTimeMillis();
        runnable.run();
        logStdOutF("%20s: %d ms", name, currentTimeMillis() - start);
    }

    @BeforeSuite
    public void createTable() {
        runWithConnection(new IUnsafeIn<Connection, SQLException>() {
            @Override
            public void handle(Connection connection) throws SQLException {
                final PreparedStatement statement = connection.prepareStatement(CREATE_TABLE_QUERY);
                statement.execute();
                statement.close();
            }
        });
    }

    @AfterSuite
    public void dropTable() {
        runWithConnection(new IUnsafeIn<Connection, SQLException>() {
            @Override
            public void handle(Connection connection) throws SQLException {
                final PreparedStatement statement = connection.prepareStatement(DROP_TABLE_QUERY);
                statement.execute();
                statement.close();
            }
        });
    }

    @BeforeTest
    public void clearTestTable() {
        runWithConnection(new IUnsafeIn<Connection, SQLException>() {
            @Override
            public void handle(Connection connection) throws SQLException {
                final PreparedStatement statement = connection.prepareStatement(CLEAR_TABLE_QUERY);
                statement.execute();
                statement.close();
            }
        });
    }

    @Test
    public void run1SingleInserts() {
        withinTimer("Single inserts", new Runnable() {
            @Override
            public void run() {
                runWithConnection(new IUnsafeIn<Connection, SQLException>() {
                    @Override
                    public void handle(Connection connection) throws SQLException {
                        for ( int i = 0; i < ITERATION_COUNT; i++ ) {
                            final PreparedStatement statement = connection.prepareStatement("INSERT INTO ttt1 (c1, c2, c3) VALUES (?, ?, ?)");
                            statement.setInt(1, i);
                            statement.setFloat(2, i);
                            statement.setString(3, valueOf(i));
                            statement.execute();
                            statement.close();
                        }
                    }
                });
            }
        });
    }

    @Test
    public void run2BatchInsert() {
        withinTimer("Batch insert", new Runnable() {
            @Override
            public void run() {
                runWithConnection(new IUnsafeIn<Connection, SQLException>() {
                    @Override
                    public void handle(Connection connection) throws SQLException {
                        final PreparedStatement statement = connection.prepareStatement("INSERT INTO ttt1 (c1, c2, c3) VALUES (?, ?, ?)");
                        for ( int i = 0; i < ITERATION_COUNT; i++ ) {
                            statement.setInt(1, i);
                            statement.setFloat(2, i);
                            statement.setString(3, valueOf(i));
                            statement.addBatch();
                        }
                        statement.executeBatch();
                        statement.close();
                    }
                });
            }
        });
    }

    @Test
    public void run3DirtyBulkInsert() {
        withinTimer("Dirty bulk insert", new Runnable() {
            @Override
            public void run() {
                runWithConnection(new IUnsafeIn<Connection, SQLException>() {
                    @Override
                    public void handle(Connection connection) throws SQLException {
                        final StringBuilder builder = new StringBuilder("INSERT INTO ttt1 (c1, c2, c3) VALUES ");
                        for ( int i = 0; i < ITERATION_COUNT; i++ ) {
                            if ( i != 0 ) {
                                builder.append(",");
                            }
                            builder.append(format("(%s, %s, '%s')", i, i, i));
                        }
                        final String query = builder.toString();
                        final PreparedStatement statement = connection.prepareStatement(query);
                        statement.execute();
                        statement.close();
                    }
                });
            }
        });
    }

    @Test
    public void run4SafeBulkInsert() {
        withinTimer("Safe bulk insert", new Runnable() {
            @Override
            public void run() {
                runWithConnection(new IUnsafeIn<Connection, SQLException>() {
                    private String getInsertPlaceholders(int placeholderCount) {
                        final StringBuilder builder = new StringBuilder("(");
                        for ( int i = 0; i < placeholderCount; i++ ) {
                            if ( i != 0 ) {
                                builder.append(",");
                            }
                            builder.append("?");
                        }
                        return builder.append(")").toString();
                    }

                    @SuppressWarnings("AssignmentToForLoopParameter")
                    @Override
                    public void handle(Connection connection) throws SQLException {
                        final int columnCount = 3;
                        final StringBuilder builder = new StringBuilder("INSERT INTO ttt1 (c1, c2, c3) VALUES ");
                        final String placeholders = getInsertPlaceholders(columnCount);
                        for ( int i = 0; i < ITERATION_COUNT; i++ ) {
                            if ( i != 0 ) {
                                builder.append(",");
                            }
                            builder.append(placeholders);
                        }
                        final int maxParameterIndex = ITERATION_COUNT * columnCount;
                        final String query = builder.toString();
                        final PreparedStatement statement = connection.prepareStatement(query);
                        int valueIndex = 0;
                        for ( int parameterIndex = 1; parameterIndex <= maxParameterIndex; valueIndex++ ) {
                            statement.setObject(parameterIndex++, valueIndex);
                            statement.setObject(parameterIndex++, valueIndex);
                            statement.setObject(parameterIndex++, valueIndex);
                        }
                        statement.execute();
                        statement.close();
                    }
                });
            }
        });
    }

}

@Test एनोटेशन के साथ एनोटेट की गई विधियों पर एक नज़र डालें:वे वास्तव में INSERT निष्पादित करते हैं बयान। कृपया CREATE_TABLE_QUERY पर भी एक नज़र डालें निरंतर:स्रोत कोड में यह MySQL 5.5 स्थापित (MySQL कनेक्टर/जे 5.1.12) के साथ मेरी मशीन पर निम्नलिखित परिणाम उत्पन्न करने वाले InnoDB का उपयोग करता है:

InnoDB
Single inserts: 74148 ms
Batch insert: 84370 ms
Dirty bulk insert: 178 ms
Safe bulk insert: 118 ms

अगर आप CREATE_TABLE_QUERY को बदलते हैं InnoDB से MyISAM तक, आपको प्रदर्शन में उल्लेखनीय वृद्धि दिखाई देगी:

MyISAM
Single inserts: 604 ms
Batch insert: 447 ms
Dirty bulk insert: 63 ms
Safe bulk insert: 26 ms

आशा है कि यह मदद करता है।

यूपीडी:

चौथे तरीके के लिए आपको max_allowed_packet . को ठीक से अनुकूलित करना होगा mysql.ini . में ([mysqld] अनुभाग) वास्तव में बड़े पैकेट का समर्थन करने के लिए काफी बड़ा होना चाहिए।