GC对吞吐量和延迟的影响
每個(gè)Java應(yīng)用程序都必須解決的一種類型的問(wèn)題與垃圾回收有關(guān)。 當(dāng)垃圾收集器工作時(shí),它代表了一項(xiàng)奇妙的發(fā)明。 如果不是這樣,或者GC做家務(wù)的方式變得不可預(yù)測(cè),那么您就有一個(gè)朋友變成了敵人。
這篇文章是關(guān)于垃圾收集暫停時(shí)間的。 或更準(zhǔn)確地說(shuō)-為什么要關(guān)心停頓。
之前,我曾通過(guò)蘋果首席執(zhí)行官蒂姆·庫(kù)克 ( Tim Cook)先生針對(duì)iPad的需求進(jìn)行規(guī)劃并建立工廠來(lái)解釋吞吐量和延遲 。 我將堅(jiān)持同樣的說(shuō)明性故事:
- 我們有一條工廠線,每秒生產(chǎn)一臺(tái)iPad。 每秒,每秒。 因此,該生產(chǎn)線的吞吐量為每天86,400個(gè)iPad
- 從完成外殼成型的一開(kāi)始到完成iPad的驗(yàn)收測(cè)試,整個(gè)過(guò)程需要四個(gè)小時(shí)。 因此,該線路的等待時(shí)間為四個(gè)小時(shí) 。
上面的系統(tǒng)和計(jì)算是基于這樣的假設(shè),即工廠生產(chǎn)線每天每天24小時(shí)運(yùn)行。 但是所有工廠生產(chǎn)線都需要維護(hù),這相當(dāng)于在JVM內(nèi)部運(yùn)行垃圾回收。
舉個(gè)例子–讓我們承擔(dān)一些小的維護(hù)任務(wù),這些任務(wù)可以無(wú)中斷地處理。 例如,可以在機(jī)器中加油或從成型設(shè)備旁的地板上撿拾多余的垃圾。 這些操作與JVM中的次要GC相似–它是您必須處理的維護(hù)工作,但是實(shí)現(xiàn)非常聰明,以至于不會(huì)影響系統(tǒng)性能。
但是在同一個(gè)工廠里 蒂姆·庫(kù)克(Tim Cook)也將面臨長(zhǎng)期的維護(hù)任務(wù)。 這些任務(wù)涉及停止整個(gè)生產(chǎn)線,并且等效于Full GC運(yùn)行,在JVM中,JVM需要停止服務(wù)線程以執(zhí)行一些重要的內(nèi)部管理任務(wù)。
現(xiàn)在,讓我們假設(shè)經(jīng)過(guò)數(shù)月不間斷的服務(wù)后,我們假設(shè)的工廠生產(chǎn)線被堵塞,技術(shù)團(tuán)隊(duì)需要四個(gè)小時(shí)才能解決問(wèn)題。 在此期間,線路停止。 我們?nèi)绾魏饬啃Ч?#xff1f; 與往常一樣,可以通過(guò)兩種不同的方式來(lái)衡量影響:
- 對(duì)吞吐量的影響 。 四個(gè)小時(shí)的停頓意味著我們有14,400秒的時(shí)間沒(méi)有完成iPad。 就吞吐量而言,這意味著我們已將這一天的系統(tǒng)容量從86,400減少至72,000。 這意味著約有16.5%的吞吐量損失 。
- 對(duì)延遲的影響 。 現(xiàn)在,如果我們拿著一臺(tái)在中斷發(fā)生時(shí)仍在生產(chǎn)中的iPad,則完成該過(guò)程所花的時(shí)間不是四個(gè),而是八個(gè)小時(shí)。 這表示最壞情況下的延遲增加了100% 。
如果您還記得,那么先生。 庫(kù)克并不關(guān)心延遲 。 對(duì)他來(lái)說(shuō)重要的是較長(zhǎng)時(shí)間內(nèi)的總體吞吐量,所以先生。 Cook將決定以使其對(duì)吞吐量的影響最小化的方式優(yōu)化其流程。
在軟件開(kāi)發(fā)中也需要做出類似的決定。 如果您有負(fù)責(zé)訂單處理的Java EE應(yīng)用程序,則GC暫停四秒鐘將肯定會(huì)降低系統(tǒng)的吞吐量。 但是對(duì)于我們大多數(shù)人來(lái)說(shuō),這將不是主要問(wèn)題。 另一方面,試圖在四秒鐘內(nèi)停止執(zhí)行“我有清理工作”的暫停過(guò)程中完成任務(wù)的用戶會(huì)感到我們的系統(tǒng)很慢。 并且,運(yùn)營(yíng)一種被用戶視為遲鈍的服務(wù)是一種倒閉的好方法。
故事的士氣? 明智地選擇目標(biāo),并確保不要將吞吐量與延遲混淆。 然后,通過(guò)監(jiān)視GC日志,查找意外的完整GC并調(diào)整應(yīng)用程序和/或GC的影響以使其影響最小,以確保您了解GC對(duì)這兩種方法的影響。
翻譯自: https://www.javacodegeeks.com/2014/01/gc-impact-on-throughput-and-latency.html
總結(jié)
以上是生活随笔為你收集整理的GC对吞吐量和延迟的影响的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 指定Gradle构建属性
- 下一篇: 如何估算内存消耗?