我有一个程序,可以读取一个文件夹中的文件(总共4gb),为它们编制索引,然后将它们添加到链接的sql数据库中。这一切都发生在窗体加载之前。
现在我希望有另一个文件,每行包含一个13位数字,并从vb查询sql数据库,搜索每个数字以返回哪个文件夹、文件和行号包含该数字。
我下面的方法现在起作用了,但是很慢。我需要找到一个更快的方法,直接到我的号码文件中的特定行,并在该位置写一行新的文本。
Dim result = From n In System.IO.File.ReadLines("G:\USER\SearchThese.txt")
Select n.Substring(0, 13)
Dim MyFilePath As String
Dim linePos As String
Dim lines As String
'-- connection
Dim con As New SqlConnection(***MY SQL CONNECTION***)
Dim dataset As New DataSet
Dim datatable As DataTable
Dim dataadapter As New SqlDataAdapter
Dim sql As String
Dim i As Integer
'-- command
Dim cmd As New SqlCommand()
con.Open()
Using sw As New StreamWriter("G:\USER\TESTRUN1.txt")
For Each word As String In result
i = 0
sql = ("SELECT * FROM Test_Table WHERE DigNum = @word")
dataadapter = New SqlDataAdapter(sql, con)
dataadapter.SelectCommand.Parameters.AddWithValue("@word", word)
dataset = New DataSet()
dataadapter.Fill(dataset, "Test_Table")
While i < dataset.Tables("Test_Table").Rows.Count
linePos = dataset.Tables("Test_Table").Rows(i).Item(4).ToString()
MyFilePath = dataset.Tables("Test_Table").Rows(i).Item(1).ToString()
i += 1
Using sr As New StreamReader(MyFilePath)
For n As Integer = 1 To linePos
lines = sr.ReadLine
Next
sw.WriteLine(lines)
End Using
End While
Next
End Using
MsgBox("Complete!")
就像我说的,这很好,但即使只搜索5个数字也需要相当长的时间。我猜是streamreader减慢了速度,但我不知道。
如果有人问我,我的数据库表有以下列:
DigNum | FilPth | FilDte | DteAdd | LnePos
2条答案
按热度按时间g9icjywg1#
嗨,伙计们,所以有一个工作,似乎工作完美几乎瞬间。能够得到它是由于在评论的帮助!
基本上对于任何阅读我使用seek方法的人来说,每一行是4096字节,换句话说,每4097字节有一个新行开始,所以我的行号表示我要找的13位数字在哪一行,我只是简单地将它乘以,这样seek就直接转到那个字节(行)并得到那一行。
e、 假设我在10号线上,409610是40960,这是10号线的起点。就像一个评论说的,我搜索的不是第55行,而是位置(554096)。
我很不善于解释,但希望这能帮助别人。
vltsax252#
当试图优化这样一段代码的性能时,您需要逐个调用地度量性能。您可以使用visual studio的分析工具(请参阅:https://docs.microsoft.com/en-us/visualstudio/profiling/profiling-feature-tour?view=vs-2017)
一旦您有了这些数据,您将能够直接看到是什么导致了性能问题,而不是猜测。您还将进行测量,以便在更改代码时可以看到性能是否有所提高或恶化。这再次消除了过程中的猜测,这一点很重要,因为现代编译器和系统在幕后做了很多工作来提高性能,但很容易破坏这些优化。