上海网站建设哪家比较好,网站建设公司怎么办,产品推广目标怎么写,wordpress pdf阅读器1 概述 2 整个文件读入内存
直接将数据直接读取入内存#xff0c;是效率最高的一种方式#xff0c;但此种方式#xff0c;仅适用于小文件#xff0c;对于大文件#xff0c;则不适合#xff0c;因为比较浪费内存。
2.1 直接指定文化名读取 在 Go 1.16 开始#xff0c;i…1 概述 2 整个文件读入内存
直接将数据直接读取入内存是效率最高的一种方式但此种方式仅适用于小文件对于大文件则不适合因为比较浪费内存。
2.1 直接指定文化名读取 在 Go 1.16 开始ioutil.ReadFile 就等价于 os.ReadFile二者是完全一致的。 2.1.1 os.ReadFile函数
package mainimport (fmtos
)func main() {//func ReadFile(name string) ([]byte, error) {}content, err : os.ReadFile(a.txt)if err ! nil {panic(err)}fmt.Println(string(content))
}
2.1.2 ioutil.ReadFile函数
package mainimport (io/ioutilfmt
)func main() {content, err : ioutil.ReadFile(a.txt)if err ! nil {panic(err)}fmt.Println(string(content))
}
2.2 先创建句柄再读取
2.2.1 os.OpenFile函数
package mainimport (
os
io/ioutil
fmt
)func main() {/*func Open(name string) (*File, error) {return OpenFile(name, O_RDONLY, 0)}*///Open是一个高级函数是因为它是只读模式来打开文件/*也可以直接使用 os.OpenFile只是要多加两个参数file, err : os.OpenFile(a.txt, os.O_RDONLY, 0)*/file, err : os.Open(a.txt)if err ! nil {panic(err)}//func (f *File) Close() error {}defer file.Close()//func ReadAll(r io.Reader) ([]byte, error) {}content, err : ioutil.ReadAll(file)fmt.Println(string(content))
}
2.2.2 代码解析
2.2.2.1 os.File结构体 1 2 3 type File struct { *file // os specific }
2.2.2.2 os.OpenFile函数 1 2 func OpenFile(name string, flag int, perm FileMode) ( *File, error) {}
2.2.2.3 io.Reader接口 1 2 3 type Reader interface { Read(p []byte) (n int, err error) }
3 每次只读取一行
一次性读取所有的数据太耗费内存因此可以指定每次只读取一行数据方法有三种
bufio.ReadLine()bufio.读取字节(\n)bufio.ReadString(\n) 在 bufio 的源码注释中曾说道 bufio.ReadLine()是低级库不太适合普通用户使用更推荐用户使用 bufio.ReadBytes和bufio.ReadString 去读取单行数据。 3.1 使用bufio.Reader结构体的ReadBytes方法读取字节数 ReadBytes读取直到第一次遇到delim字节返回一个包含已读取的数据和delim字节的切片。如果ReadBytes方法在读取到delim之前遇到了错误它会返回在错误之前读取的数据以及该错误一般是io.EOF。当且仅当ReadBytes方法返回的切片不以delim结尾时会返回一个非nil的错误。
package mainimport (bufiofmtioosstrings
)func main() {// 创建句柄fi, err : os.Open(christmas_apple.py)if err ! nil {panic(err)}//func NewReader(rd io.Reader) *Reader {}返回的是bufio.Reader结构体r : bufio.NewReader(fi)// 创建 Readerfor {//func (b *Reader) ReadBytes(delim byte) ([]byte, error) {}lineBytes, err : r.ReadBytes(\n)//去掉字符串首尾空白字符返回字符串line : strings.TrimSpace(string(lineBytes))if err ! nil err ! io.EOF {panic(err)}if err io.EOF {break}fmt.Println(line)}
}
3.2 使用bufio.Reader结构体的ReadString方法读取字符串
ReadString读取直到第一次遇到delim字节返回一个包含已读取的数据和delim字节的字符串。如果ReadString方法在读取到delim之前遇到了错误它会返回在错误之前读取的数据以及该错误一般是io.EOF。当且仅当ReadString方法返回的切片不以delim结尾时会返回一个非nil的错误。
package mainimport (bufiofmtioosstrings
)func main() {// 创建句柄fi, err : os.Open(a.txt)if err ! nil {panic(err)}// 创建 Readerr : bufio.NewReader(fi)for {//func (b *Reader) ReadString(delim byte) (string, error) {}line, err : r.ReadString(\n)line strings.TrimSpace(line)if err ! nil err ! io.EOF {panic(err)}if err io.EOF {break}fmt.Println(line)}
}
3.3 代码解析
3.3.1 bufio.Reader结构体
type Reader struct {buf []byterd io.Reader // reader provided by the clientr, w int // buf read and write positionserr errorlastByte int // last byte read for UnreadByte; -1 means invalidlastRuneSize int // size of last rune read for UnreadRune; -1 means invalid
}
4 每次只读取固定字节数 每次仅读取一行数据可以解决内存占用过大的问题但要注意的是并不是所有的文件都有换行符 \n; 因此对于一些不换行的大文件来说还得再想想其他办法 4.1 使用os库
通用的做法是
先创建一个文件句柄可以使用 os.Open 或者 os.OpenFile然后 bufio.NewReader 创建一个 Reader然后在 for 循环里调用 Reader 的 Read 函数每次仅读取固定字节数量的数据。
Read方法读取数据写入p本方法返回写入p的字节数本方法一次调用最多会调用下层Reader接口一次Read方法因此返回值n可能小于len§读取到达结尾时返回值n将为0而err将为io.EOF。
package mainimport (bufiofmtioos
)func main() {// 创建句柄fi, err : os.Open(a.txt)if err ! nil {panic(err)}// 创建 Readerr : bufio.NewReader(fi)// 每次读取 1024 个字节buf : make([]byte, 1024)for {//func (b *Reader) Read(p []byte) (n int, err error) {}n, err : r.Read(buf)if err ! nil err ! io.EOF {panic(err)}if n 0 {break}fmt.Println(string(buf[:n]))}
}
4.2 使用 syscall库
os 库本质上也是调用 syscall 库但由于 syscall 过于底层如非特殊需要一般不会使用 syscall
package mainimport (fmtsyncsyscall
)func main() {fd, err : syscall.Open(christmas_apple.py, syscall.O_RDONLY, 0)if err ! nil {fmt.Println(Failed on open: , err)}defer syscall.Close(fd)var wg sync.WaitGroupwg.Add(2)dataChan : make(chan []byte)go func() {wg.Done()for {data : make([]byte, 100)n, _ : syscall.Read(fd, data)if n 0 {break}dataChan - data}close(dataChan)}()go func() {defer wg.Done()for {select {case data, ok : -dataChan:if !ok {return}fmt.Printf(string(data))default:}}}()wg.Wait()
}
