我在 Go 中实现了一个 HTTP 服务器。
对于每个请求,我需要为特定结构创建数百个对象,并且我有大约 10 个这样的结构。因此,在按照 Go 实现完成请求后,它将被垃圾收集。
因此,对于每个请求,都会分配和释放这么多内存。
相反,我想实现内存池以提高分配端和 GC 端的性能
在请求开始时,我将从池中取出并在请求完成后将它们放回
从池实施方面
在内存分配和释放的情况下,还有什么其他建议可以提高性能吗?
提前注意:
许多人建议使用它对于 临时
对象sync.Pool
来说是一种快速、良好的实现。但请注意,这并不能保证保留池中的对象。引用其文档:
__sync.Pool
存储在池中的任何项目 都可能随时自动删除,恕不另行通知 。如果在发生这种情况时 Pool 拥有唯一的引用,则该项目可能会被释放。
因此,如果您不希望您的对象Pool
被垃圾收集(这取决于您的情况可能会导致更多的分配),那么下面介绍的解决方案会更好,因为通道缓冲区中的值不会被垃圾收集。如果您的对象真的那么大,那么内存池是合理的,那么池通道的开销将被摊销。
此外,sync.Pool
不允许您限制池对象的数量,而下面提出的解决方案自然会这样做。
最简单的内存池“实现”是缓冲通道。
假设您想要一个包含一些大对象的内存池。创建一个缓冲通道,保存指向此类昂贵对象的值的指针,并在需要时从池(通道)中接收一个。使用完毕后,将其放回池中(在频道上发送)。为避免意外丢失对象(例如在发生恐慌的情况下),请defer
在放回对象时使用语句。
让我们使用它作为我们的大对象的类型:
type BigObject struct {
Id int
Something string
}
创建池是:
pool := make(chan *BigObject, 10)
池的大小就是通道缓冲区的大小。
用昂贵对象的指针填充池(这是可选的,请参阅末尾的注释):
for i := 0; i < cap(pool); i++ {
bo := &BigObject{Id: i}
pool <- bo
}
许多 goroutine 使用池:
wg := sync.WaitGroup{}
for i := 0; i < 100; i++ {
wg.Add(1)
go func() {
defer wg.Done()
bo := <-pool
defer func() { pool <- bo }()
fmt.Println("Using", bo.Id)
fmt.Println("Releasing", bo.Id)
}()
}
wg.Wait()
在Go Playground上尝试一下。
请注意,如果所有“池化”对象都在使用中,则此实现会阻塞。如果您不想要这个,您可以使用select
强制创建新对象(如果所有对象都在使用中):
var bo *BigObject
select {
case bo = <-pool: // Try to get one from the pool
default: // All in use, create a new, temporary:
bo = &BigObject{Id:-1}
}
在这种情况下,您无需将其放回池中。或者,如果池中有空间,您可以选择尝试将所有内容放回池中,而不会阻塞,再次使用select
:
select {
case pool <- bo: // Try to put back into the pool
default: // Pool is full, will be garbage collected
}
笔记:
事先填充池是可选的。如果您select
尝试从池中获取/放回值,则池最初可能是空的。
您必须确保您没有在请求之间泄漏信息,例如,确保您不使用已设置并属于其他请求的共享对象中的字段和值。