package textfileimport;
import catalog.Root;
import java.io.*;
import java.sql.PreparedStatement;

public class Textfileimport {


    public static void main(String[] args)throws Exception {


        Root oRoot = null;

        PreparedStatement oPrStmt = null;

        FileReader in = null;

        BufferedReader br=null;

        try {
            oRoot = Root.createDbConnection(null);
            in = new FileReader("C:/Users/i2cdev001/Desktop/snomedinfo_data.txt");

            br = new BufferedReader(in);
            String strLine;

            while ((strLine = br.readLine()) != null){

                String [] splitSt =strLine.split("\\t");
                String dat1="",dat2="",dat3="",dat4="",dat5="",dat6="",dat7="",dat8="",dat9="";
                dat1=splitSt[0];
                dat2=splitSt[1];
                dat3=splitSt[2];
                dat4=splitSt[3];
                dat5=splitSt[4];
                dat6=splitSt[5];
                dat7=splitSt[6];
                dat8=splitSt[7];
                dat9=splitSt[8];

                String sql = "INSERT INTO textfiledata (col1,col2,col3,col4,col5,col6,col7,col8,col9) VALUES( ?, ?, ?,?,?,?,?,?,?)";
                oPrStmt = oRoot.con.prepareStatement(sql);
                oPrStmt.setString(1, dat1);
                oPrStmt.setString(2,dat2);
                oPrStmt.setString(3, dat3);
                oPrStmt.setString(4, dat4);
                oPrStmt.setString(5, dat5);
                oPrStmt.setString(6, dat6);
                oPrStmt.setString(7, dat7);
                oPrStmt.setString(8, dat8);
                oPrStmt.setString(9, dat9);
                oPrStmt.executeUpdate();
            }

            System.out.println("sucessfully imported");
        }
        catch (Exception e) {
            System.err.println("Error: " + e.getMessage());
            e.printStackTrace();
        } finally {
            oPrStmt = Root.EcwClosePreparedStatement(oPrStmt);
            br.close();
            in.close();
            oRoot = Root.closeDbConnection(null, oRoot);
        }
    }

}


我试图从文本文件中读取大约1383709行并将其插入到我的mysql表中。运行此应用程序时出现Java堆空间错误。如何解决此问题。我已经尝试在配置菜单中设置VM参数日食没有成功。

最佳答案

使用简单的文本扫描器,该扫描器可以使用正则表达式解析原始类型和字符串,而不是使用字符串操作和缓冲的阅读器。
这应该使用较少的内存。
如果不是多线程的,则扫描程序是安全的,并且可以不同步使用。

也可以尝试使用批处理执行,如下所示。

final FileInputStream fileInputStream = null;
final Scanner inputScanner = null;
final String sql = "INSERT INTO textfiledata (col1,col2,col3,col4,col5,col6,col7,col8,col9) VALUES( ?, ?, ?,?,?,?,?,?,?)";
oPrStmt = db.prepareStatement(sql);
db.setAutoCommit(false);
try {
    fileInputStream = new FileInputStream(path);
    inputScanner = new Scanner(fileInputStream);
    while (inputScanner.hasNextLine()) {
        String line = inputScanner.nextLine();
        Scanner s = new Scanner(line).useDelimiter("\\t");
        int i =1;
        while(s.hasNext()) {
         String dat = s.next();
         oPrStmt.setString(i++,dat);
        }
        oPrStmt.addBatch();
        s.close();
    }
    if (inputScanner.ioException() != null) {
        throw inputScanner.ioException();
    }
    oPrStmt.executeBatch();
    db.commit();
    } catch (Exception e) {
        System.err.println("Error: " + e.getMessage());
        e.printStackTrace();
    }  finally {
       if (fileInputStream != null) {
         fileInputStream.close();
       }
       if (inputScanner != null) {
         inputScanner.close();
       }
       oPrStmt.close();
       db.close();
}

关于java - java.lang.OutOfMemoryError:批量插入mysql数据库期间Java堆空间错误?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/50703053/

10-10 03:09