首页 > 文章列表 > 如何在 Golang 中实现内存池

如何在 Golang 中实现内存池

golang
178 2023-03-08

问题内容

我在 Go 中实现了一个 HTTP 服务器。

对于每个请求,我需要为特定结构创建数百个对象,并且我有大约 10 个这样的结构。因此,在按照 Go 实现完成请求后,它将被垃圾收集。

因此,对于每个请求,都会分配和释放这么多内存。

相反,我想实现内存池以提高分配端和 GC 端的性能

在请求开始时,我将从池中取出并在请求完成后将它们放回

从池实施方面

  1. 如何分配和释放特定类型结构的内存?
  2. 如何跟踪该内存已分配而其他未分配的信息?

在内存分配和释放的情况下,还有什么其他建议可以提高性能吗?

正确答案

提前注意:

许多人建议使用它对于 临时 对象sync.Pool来说是一种快速、良好的实现。但请注意,这并不能保证保留池中的对象。引用其文档: __sync.Pool

存储在池中的任何项目 都可能随时自动删除,恕不另行通知 。如果在发生这种情况时 Pool 拥有唯一的引用,则该项目可能会被释放。

因此,如果您不希望您的对象Pool被垃圾收集(这取决于您的情况可能会导致更多的分配),那么下面介绍的解决方案会更好,因为通道缓冲区中的值不会被垃圾收集。如果您的对象真的那么大,那么内存池是合理的,那么池通道的开销将被摊销。

此外,sync.Pool不允许您限制池对象的数量,而下面提出的解决方案自然会这样做。


最简单的内存池“实现”是缓冲通道。

假设您想要一个包含一些大对象的内存池。创建一个缓冲通道,保存指向此类昂贵对象的值的指针,并在需要时从池(通道)中接收一个。使用完毕后,将其放回池中(在频道上发送)。为避免意外丢失对象(例如在发生恐慌的情况下),请defer在放回对象时使用语句。

让我们使用它作为我们的大对象的类型:

type BigObject struct {
    Id        int
    Something string
}

创建池是:

pool := make(chan *BigObject, 10)

池的大小就是通道缓冲区的大小。

用昂贵对象的指针填充池(这是可选的,请参阅末尾的注释):

for i := 0; i < cap(pool); i++ {
    bo := &BigObject{Id: i}
    pool <- bo
}

许多 goroutine 使用池:

wg := sync.WaitGroup{}
for i := 0; i < 100; i++ {
    wg.Add(1)
    go func() {
        defer wg.Done()
        bo := <-pool
        defer func() { pool <- bo }()
        fmt.Println("Using", bo.Id)
        fmt.Println("Releasing", bo.Id)
    }()
}

wg.Wait()

在Go Playground上尝试一下。

请注意,如果所有“池化”对象都在使用中,则此实现会阻塞。如果您不想要这个,您可以使用select强制创建新对象(如果所有对象都在使用中):

var bo *BigObject
select {
case bo = <-pool: // Try to get one from the pool
default: // All in use, create a new, temporary:
    bo = &BigObject{Id:-1}
}

在这种情况下,您无需将其放回池中。或者,如果池中有空间,您可以选择尝试将所有内容放回池中,而不会阻塞,再次使用select

select {
case pool <- bo: // Try to put back into the pool
default: // Pool is full, will be garbage collected
}

笔记:

事先填充池是可选的。如果您select尝试从池中获取/放回值,则池最初可能是空的。

您必须确保您没有在请求之间泄漏信息,例如,确保您不使用已设置并属于其他请求的共享对象中的字段和值。