使用T-SQL导入多个文件数据到SQL Server中

使用T-SQL导入多个文件数据到SQL Server中

    在我们的工作中，经常需要连续输入多个文件的数据到SQL Server的表中，有时需要从相同或者不同的目录中，同时将文件中的数据倒入。在这篇文章中，我们将讨论如何同时把一个目录中的文件的数据倒入到SQL Server中。 

    试验环境
    我们先创建整个试验的环境。创建文件目录“C:\MyImport”，和三个文件a.csv、b.csv和c.csv，文件内容如下。同时，在SQL Server中创建一个表用来存放导入的数据。
        C:\MyImport\a.csv 
        1, MAK, A9411792711, 3400.25 
        2, Claire, A9411452711, 24000.33 
        3, Sam, A5611792711, 1200.34 
        C:\MyImport\b.csv 
        11, Rubon, 9671792711, 400.14 
        22, Mike, 9418952711, 4000.56 
        39, Hsu, 75611792511, 1230.00 
        C:\MyImport\c.csv 
        69, Lucy, 8411992710, 305.11 
        45, Grace, 3413452713, 246.52 
        33, Saint, 5461795716, 1278.70 
        Create Database Bank
        Go
        Use Bank
        go
        Create table Aclearcase/" target="_blank" >ccount
        (
            [ID] int, Name Varchar(100), 
            AccountNo varchar(100), Balance money
        )
        Go
        Create table logtable 
        (
            id int identity(1,1), 
            Query varchar(1000), 
            Importeddate datetime default getdate()
        )       

    方法 1: XP_CMDSHELL 和BULK INSERT
    这个方法使用xp_cmdshell和Bulk Insert的SQL命令把一个目录中的文件倒入到SQL Server的表中。

创建存储过程

    在数据库中产生这个存储过程，这个存储过程有三个参数：文件路径，文件扩展名和数据库的表名。

Create procedure usp_ImportMultipleFiles @filepath varchar(500),
@pattern varchar(100), @TableName varchar(128)
as
set quoted_identifier off
declare @query varchar(1000)
declare @max1 int
declare @count1 int
Declare @filename varchar(100)
set @count1 =0
create table #x (name varchar(200))
set @query =@#master.dbo.xp_cmdshell "dir @#+@filepath+@pattern +@# /b"@#
insert #x exec (@query)
delete from #x where name is NULL
select identity(int,1,1) as ID, name into #y from #x
drop table #x
set @max1 = (select max(ID) from #y)
--print @max1
--print @count1
While @count1 <= @max1
begin
set @count1=@count1+1
set @filename = (select name from #y where [id] = @count1)
set @Query =@#BULK INSERT @#+ @Tablename + @# FROM "@#+ @Filepath+@Filename+@#"
WITH ( FIELDTERMINATOR = ",",ROWTERMINATOR = "\n")@#
--print @query
exec (@query)
insert into logtable (query) select @query
end

drop table #y

执行
执行上面的存储过程，参数如下：
例1：输入所有的c:\myimport目录下的.csv文件到Account表中
Exec usp_ImportMultipleFiles @#c:\myimport\@#, @#*.csv@#, @#Account@#

例2：输入所有的c:\myimport目录下的文件到Account表中
Exec usp_ImportMultipleFiles @#c:\myimport\@#, @#*.*@#, @#Account@#

    方法 2: XP_CMDSHELL 和 BCP 公用程序
    这个方法使用 "xp_cmdshell" 和 "BCP.exe" 倒入一个目录下的文件到SQL Server的表中。这个存储过程以服务器名、数据库名、文件路径、文件扩展名和数据库表名作为参数。
    注意：确信你运行SQL Server Agent的帐户具有访问你输入的文件夹和服务器的权限。

创建存储过程：
set quoted_identifier off
go
Create procedure usp_ImportMultipleFilesBCP @servername varchar(128),
@DatabaseName varchar(128), @filepath varchar(500), @pattern varchar(100),
@TableName varchar(128)
as
declare @query varchar(1000)
declare @max1 int
declare @count1 int
Declare @filename varchar(100)
set @count1 =0
create table #x (name varchar(200))
set @query =@#master.dbo.xp_cmdshell "dir @#+@filepath+@pattern +@# /b"@#
insert #x exec (@query)
delete from #x where name is NULL
select identity(int,1,1) as ID, name into #y from #x
drop table #x
set @max1 = (select max(ID) from #y)
--print @max1
--print @count1
--select * from #y
While @count1 <= @max1
begin
set @count1=@count1+1
set @filename = (select name from #y where [id] = @count1)
set @Query =@#bcp "@#+ @databasename+@#.dbo.@#+@Tablename + @#"
in "@#+ @Filepath+@Filename+@#" -S@# + @servername + @# -T -c -r\n -t,@#
set @Query = @#MASTER.DBO.xp_cmdshell @#+ "@#"+  @query +"@#"
--print @query
EXEC ( @query)
insert into logtable (query) select @query
end

drop table #y

执行
    执行上面的存储过程，参数如下：
例1：输入所有的c:\myimport目录下的.csv文件到Account表中
Exec usp_ImportMultipleFilesBCP @#SQL@#,@#Bank@#,@#c:\Myimport\@#,@#*.csv@#,@#Account@#

例2：输入所有的c:\myimport目录下的文件到Account表中
Exec usp_ImportMultipleFilesBCP @#SQL@#,@#Bank@#,@#c:\Myimport\@#,@#*.*@#,@#Account@#

    结果
    不管你使用方法一还是方法二，数据将会被导入到SQL Server的表中。如下所示：


1

MAK

A9411792711

3400.25

2

Claire

A9411452711

24000.33

3

Sam

A5611792711

1200.34

11

Rubon

9671792711

400.14

22

Mike

9418952711

4000.56

39

Hsu

75611792511

1230

69

Lucy

8411992710

305.11

45

Grace

3413452713

246.52

33

Saint

5461795716

1278.7


使用方法一产生的日志记录如下表：



1

BULK INSERT Account FROM "c:\myimport\a.csv" WITH ( FIELDTERMINATOR = ",",ROWTERMINATOR = "\n")

3/1/04 2:15

2

BULK INSERT Account FROM "c:\myimport\b.csv" WITH ( FIELDTERMINATOR = ",",ROWTERMINATOR = "\n")

3/1/04 2:15

3

BULK INSERT Account FROM "c:\myimport\c.csv" WITH ( FIELDTERMINATOR = ",",ROWTERMINATOR = "\n")

3/1/04 2:15


使用方法二产生的日志记录如下表：


1

MASTER.DBO.xp_cmdshell @#bcp "Bank.dbo.Account" in "c:\Myimport\a.csv" -SSQL -T -c -r\n -t,@#

3/1/04 2:18

2

MASTER.DBO.xp_cmdshell @#bcp "Bank.dbo.Account" in "c:\Myimport\b.csv" -SSQL -T -c -r\n -t,@#

3/1/04 2:18

3

MASTER.DBO.xp_cmdshell @#bcp "Bank.dbo.Account" in "c:\Myimport\c.csv" -SSQL -T -c -r\n -t,@#

3/1/04 2:18


    总结
    像前面提到的一样，这篇文章的目的是告诉你如何从一个文件夹中导入多个文件到SQL Server的表中。这些存储过程可以进一步增强，可以用xp_getfiledetails来判断转入的文件的最后修改时间来确定文件的范围。这些存储过程也可以创建为定时执行的作业。在导入完成以后，你可以用rename或move命令来重命名或者移到不同的目录中。

参考:

使用DTS导入多个文件数据到SQL Server中

原文转自：http://www.ltesting.net