在當(dāng)今的微服務(wù)架構(gòu)和RESTful API主導(dǎo)的時代，HTTP接口在各個業(yè)務(wù)模塊之間扮演著重要的角色。隨著業(yè)務(wù)規(guī)模的不斷擴(kuò)大，接口的訪問頻率和負(fù)載也隨之增加。為了確保系統(tǒng)的穩(wěn)定性和性能，接口限速成了一個重要的話題。

1 接口限速的使用場景

接口限速的使用場景主要涉及以下幾種情況：

1. 防止API濫用：在某些情況下，如果沒有有效的限速機(jī)制，惡意用戶可能會無限制地調(diào)用API，導(dǎo)致系統(tǒng)過載。通過接口限速，我們可以限制每個用戶對特定接口的訪問頻率，從而防止API濫用。
2. 保護(hù)服務(wù)穩(wěn)定性：在某些情況下，某些高頻調(diào)用可能會給后端服務(wù)帶來巨大的壓力，影響服務(wù)的穩(wěn)定性和性能。通過接口限速，我們可以限制對這些接口的訪問頻率，從而保護(hù)服務(wù)的穩(wěn)定性。
3. 資源合理分配：在一些情況下，我們需要對系統(tǒng)資源進(jìn)行合理的分配，確保每個用戶都能得到公平的資源使用。通過接口限速，我們可以根據(jù)用戶的請求頻率進(jìn)行資源分配，從而保證公平性。

2 限速不同與限流

接口限速和限流是兩個不同的概念，雖然它們都是用來控制流量和保護(hù)系統(tǒng)的手段，但它們的目的和實(shí)現(xiàn)方式有所不同。

**接口限速主要是限制接口的訪問速度，避免過快的請求頻率對系統(tǒng)造成壓力。**它關(guān)注的是單個接口的訪問速率，比如每秒可以訪問多少次，而限流則是關(guān)注系統(tǒng)的整體流量，限制單位時間內(nèi)系統(tǒng)的總訪問量。

限速通常是通過在接口上設(shè)置速率限制來實(shí)現(xiàn)的，例如使用令牌桶算法或漏桶算法等。它的主要目的是防止單個接口的過快訪問，以保護(hù)系統(tǒng)的穩(wěn)定性和性能。

**而限流則是通過一系列機(jī)制來限制單位時間內(nèi)系統(tǒng)的總訪問量，以防止系統(tǒng)過載。**常見的限流算法包括令牌桶算法、漏桶算法和熱點(diǎn)參數(shù)等。它的主要目的是保護(hù)整個系統(tǒng)，避免因?yàn)樵L問量過大而出現(xiàn)崩潰或性能下降的情況。

在實(shí)現(xiàn)方面，限速通常是在應(yīng)用程序或API網(wǎng)關(guān)層面實(shí)現(xiàn)的，而限流則可能需要涉及到整個系統(tǒng)的架構(gòu)和設(shè)計(jì)。

雖然接口限速和限流的目的和實(shí)現(xiàn)方式有所不同，但它們都是為了控制流量和保護(hù)系統(tǒng)的穩(wěn)定性和性能。在實(shí)際應(yīng)用中，我們可以根據(jù)實(shí)際情況選擇合適的限速和限流策略，以實(shí)現(xiàn)最佳的流量控制效果。

3 Gin框架接口限速實(shí)踐

基于limiter插件的GitHub地址：github.com/ulule/limiter

3.1 基本使用

package mainimport ("fmt""log""net/http""github.com/gin-gonic/gin""github.com/redis/go-redis/v9""github.com/ulule/limiter/v3"mgin "github.com/ulule/limiter/v3/drivers/middleware/gin"sredis "github.com/ulule/limiter/v3/drivers/store/redis"
)func main() {// Define a limit rate to 4 requests per hour.rate, err := limiter.NewRateFromFormatted("4-M")if err != nil {log.Fatal(err)return}// Create a redis client.option, err := redis.ParseURL("redis://localhost:6379/0")if err != nil {log.Fatal(err)return}client := redis.NewClient(option)// Create a store with the redis client.store, err := sredis.NewStoreWithOptions(client, limiter.StoreOptions{Prefix:   "limiter_gin_example",MaxRetry: 3,})if err != nil {log.Fatal(err)return}// Create a new middleware with the limiter instance.middleware := mgin.NewMiddleware(limiter.New(store, rate))// Launch a simple server.router := gin.Default()router.ForwardedByClientIP = truerouter.Use(middleware)router.GET("/", index)log.Fatal(router.Run(":8081"))
}func index(c *gin.Context) {c.JSON(http.StatusOK, "This is my gin api...")
}

3.2 引入自定義攔截處理器

package mainimport ("fmt""log""net/http""github.com/gin-gonic/gin""github.com/redis/go-redis/v9""github.com/ulule/limiter/v3"mgin "github.com/ulule/limiter/v3/drivers/middleware/gin"sredis "github.com/ulule/limiter/v3/drivers/store/redis"
)func main() {rate, err := limiter.NewRateFromFormatted("4-M")if err != nil {log.Fatal(err)return}option, err := redis.ParseURL("redis://localhost:6379/0")if err != nil {log.Fatal(err)return}client := redis.NewClient(option)store, err := sredis.NewStoreWithOptions(client, limiter.StoreOptions{Prefix:   "limiter_gin_example",MaxRetry: 3,})if err != nil {log.Fatal(err)return}//自定義攔截處理器opt := mgin.WithLimitReachedHandler(ExceededHandler)middleware := mgin.NewMiddleware(limiter.New(store, rate), opt)router := gin.Default()router.ForwardedByClientIP = truerouter.Use(middleware)router.GET("/", index)log.Fatal(router.Run(":8081"))
}func ExceededHandler(c *gin.Context) {c.JSON(200, "This is mu custom ExceededHandler...")
}func index(c *gin.Context) {c.JSON(http.StatusOK, "This is my gin api...")
}

返回結(jié)果：

3.3 不同接口區(qū)分速率

我們假設(shè)系統(tǒng)有兩個接口：

• /fast : 每分鐘允許10次訪問
• /slow : 每分鐘允許1次訪問

代碼實(shí)現(xiàn)：

package mainimport ("fmt""log""net/http""github.com/gin-gonic/gin""github.com/redis/go-redis/v9""github.com/ulule/limiter/v3"mgin "github.com/ulule/limiter/v3/drivers/middleware/gin"sredis "github.com/ulule/limiter/v3/drivers/store/redis"
)var (fastTime = 0slowTime = 0
)func FastApi(c *gin.Context) {fastTime += 1c.JSON(200, fmt.Sprintf("This is fast api... %d", fastTime))
}func SlowApi(c *gin.Context) {slowTime += 1c.JSON(200, fmt.Sprintf("This is slow api... %d", slowTime))
}func main() {fastRate, err := limiter.NewRateFromFormatted("10-M")if err != nil {log.Fatal(err)return}slowRate, err := limiter.NewRateFromFormatted("1-M")if err != nil {log.Fatal(err)return}option, err := redis.ParseURL("redis://localhost:6379/0")if err != nil {log.Fatal(err)return}client := redis.NewClient(option)storeFast, err := sredis.NewStoreWithOptions(client, limiter.StoreOptions{Prefix: "limiter_gin_example_fast", MaxRetry: 3})if err != nil {log.Fatal(err)return}storeSlow, err := sredis.NewStoreWithOptions(client, limiter.StoreOptions{Prefix: "limiter_gin_example_slow", MaxRetry: 3})if err != nil {log.Fatal(err)return}//自定義攔截處理器opt := mgin.WithLimitReachedHandler(ExceededHandler)middlewareFast := mgin.NewMiddleware(limiter.New(storeFast, fastRate), opt)middlewareSlow := mgin.NewMiddleware(limiter.New(storeSlow, slowRate), opt)router := gin.Default()router.ForwardedByClientIP = truerouter.Use(func(c *gin.Context) {if c.Request.RequestURI == "/fast" {middlewareFast(c)return}if c.Request.RequestURI == "/slow" {middlewareSlow(c)return}})router.GET("/fast", FastApi)router.GET("/slow", SlowApi)log.Fatal(router.Run(":8081"))
}func ExceededHandler(c *gin.Context) {c.JSON(200, "This is mu custom ExceededHandler...")
}

4 小總結(jié)

接口限速是保護(hù)系統(tǒng)穩(wěn)定性和API的重要手段。在實(shí)際應(yīng)用中，我們需要根據(jù)實(shí)際情況選擇合適的限速方法，實(shí)現(xiàn)對接口的全面限速。通過接口限速，我們可以提高系統(tǒng)的穩(wěn)定性、保護(hù)API、提高用戶體驗(yàn)等。