通過重複使用對(duì)象，避免自動(dòng)氧化，使用Zing或ZGC（例如ZGC）以及調(diào)整堆大小來最大程度地減少垃圾收集。 2.優(yōu)化數(shù)組在集合上優(yōu)化內(nèi)存佈局，改善數(shù)據(jù)局部性，並防止使用填充物或庫(kù)（例如Agrona）的錯(cuò)誤共享。 3.使用無鎖設(shè)計(jì)，例如破壞者模式，原子操作和線程親和力，以進(jìn)行可預(yù)測(cè)的性能。 4。通過DirectByteBuffer或Chronicle Map採(cǎi)用外部存儲(chǔ)器，並使用Direct I/O進(jìn)行無GC，低延遲數(shù)據(jù)處理。 5。調(diào)整操作系統(tǒng)設(shè)置，包括CPU固定，禁用功率縮放，啟用大型頁(yè)面，並使用內(nèi)核旁路或繁忙的旋轉(zhuǎn)投票優(yōu)化網(wǎng)絡(luò)堆棧。 6.精確地使用百分位數(shù)，JFR和HDRHIMTOGRAM測(cè)量潛伏期，以識(shí)別和消除整個(gè)堆棧中的瓶頸。構(gòu)建低延遲Java系統(tǒng)需要通過紀(jì)律處分的內(nèi)存，線程和系統(tǒng)級(jí)優(yōu)化來降低潛伏期的可變性，並證明Java可以在有效使用時(shí)在財(cái)務(wù)交易中實(shí)現(xiàn)次級(jí)微秒績(jī)效。

低延遲Java系統(tǒng)在金融交易中至關(guān)重要，在金融交易中，微秒可能意味著利潤(rùn)和損失之間的差異。儘管Java通常被視為高頻交易（HFT）的“太慢”，但現(xiàn)代JVM和智能工程實(shí)踐使其成為可行的，甚至更喜歡的平臺(tái)，用於構(gòu)建性能，可維護(hù)的交易系統(tǒng)。這是有效地構(gòu)建低延遲Java系統(tǒng)的方法。

1。最小化垃圾收集（GC）壓力

垃圾收集是Java應(yīng)用程序中延遲峰值的最大來源。長(zhǎng)時(shí)間的GC停頓可以在最糟糕的時(shí)刻停滯您的交易系統(tǒng)。

關(guān)鍵策略：

• 對(duì)象重用：使用對(duì)像池或線程 - 本地緩衝區(qū)避免頻繁分配。例如，在訂單路由管道中重複使用消息對(duì)象。
• 避免自動(dòng)氧化：不要在性能至關(guān)重要的路徑中使用Integer ， Double等。堅(jiān)持原語（ int ， double ），以防止堆分配。
• 使用適合GC友好的JVM：考慮Azul Zing（與C4 Collector）或Shenandoah/ZGC的OpenJDK，可提供無用或近乎無用的垃圾收集。
• 調(diào)整堆尺寸：較小的堆減少GC暫停時(shí)間，但太小會(huì)導(dǎo)致頻繁收集。旨在平衡吞吐量和潛伏期的堆尺寸。

專家提示：在啟動(dòng)過程中分配對(duì)像池中的對(duì)象，並在整個(gè)系統(tǒng)的生命週期中重複使用它們，尤其是用於傳入的市場(chǎng)數(shù)據(jù)消息和傳出訂單命令。

2。優(yōu)化內(nèi)存佈局和數(shù)據(jù)結(jié)構(gòu)

由於CPU緩存行為，內(nèi)存訪問模式對(duì)性能產(chǎn)生了巨大影響。

最佳實(shí)踐：

• 使用陣列而不是集合：更喜歡原始數(shù)組（ long[] ， double[] ）或外部存儲(chǔ)，而不是ArrayList或HashMap ，這涉及對(duì)像開銷和間接。
• 數(shù)據(jù)局部性：結(jié)構(gòu)數(shù)據(jù)，因此相關(guān)字段在內(nèi)存中關(guān)閉（例如，使用諸如Agrona之類的庫(kù)的結(jié)構(gòu)數(shù)組）。
• 避免使用錯(cuò)誤的共享： PAD在多線程上下文中經(jīng)常更新的字段，以防止CPU緩存線爭(zhēng)論。

 @Contended //降低錯(cuò)誤共享
靜態(tài)類計(jì)數(shù)器{
    揮發(fā)性長(zhǎng)閱讀；
    揮發(fā)性長(zhǎng)寫；
}

Agrona的UnsafeBuffer和ManyToOneConcurrentArrayQueue被廣泛用於金融系統(tǒng)中，用於無鎖，低延遲消息傳遞。

3。利用無鎖和並發(fā)設(shè)計(jì)

同步（例如， synchronized ， ReentrantLock ）引入了爭(zhēng)論和不可預(yù)測(cè)的暫停。

而是使用：

• 無等待或無鎖隊(duì)的隊(duì)列：顛覆器模式（LMAX）是交易系統(tǒng)中線程間通信的黃金標(biāo)準(zhǔn)。
• 原子操作：使用AtomicLong ， LongAdder或VarHandles進(jìn)行快速的線程安全計(jì)數(shù)器。
• 線程親和力：針對(duì)特定CPU內(nèi)核的臨界線程，以減少上下文切換並改善高速緩存位置。

示例：LMAX破壞者

ringbuffer <OrdereVent> ringbuffer = disruptor.getringbuffer（）;
長(zhǎng)序列= ringbuffer.next（）;
嘗試 {
    outservent事件= ringbuffer.get（序列）;
    event.set（有序，符號(hào)，價(jià)格）;
} 最後 {
    ringbuffer.publish（序列）;
}

這種模式可以通過次微秒延遲每秒進(jìn)行數(shù)百萬個(gè)事件。

4。使用外部記憶並直接I/O

將數(shù)據(jù)遠(yuǎn)離堆可避免GC並提供細(xì)粒度的內(nèi)存控制。

• 非主存儲(chǔ)：使用ByteBuffer.allocateDirect()或諸如Agrona或Chronicle Map之類的庫(kù)。
• 內(nèi)存映射文件：編年史隊(duì)列使用此文件，用於帶有重播功能的持久，低延遲消息傳遞。
• 直接網(wǎng)絡(luò)I/O：將java.nio與Selector或框架（如Netty（為低潛伏期））用於市場(chǎng)數(shù)據(jù)提要。

異位並不意味著“不安全” - 與適當(dāng)?shù)某橄螅ɡ?，受邊界檢查的緩衝區(qū)），您可以在不犧牲速度的情況下保持安全性。

5。內(nèi)核和操作系統(tǒng)調(diào)整

即使是最佳的Java代碼也可以被操作系統(tǒng)瓶裝。

關(guān)鍵的OS級(jí)優(yōu)化：

• CPU固定：使用taskset或cgroups將JVM螺紋綁定到孤立的CPU內(nèi)核。
• 禁用功率擴(kuò)展：將CPU調(diào)速器設(shè)置為“性能”模式。
• 大型頁(yè)面：啟用透明的巨大頁(yè)面（THP）或使用-XX: UseLargePages ，以減少TLB失誤。
• 網(wǎng)絡(luò)調(diào)整：使用內(nèi)核旁路（例如Solarflare的OpenONLOAD）或插座上的繁忙旋轉(zhuǎn)輪詢以進(jìn)行可預(yù)測(cè)的網(wǎng)絡(luò)延遲。

6。測(cè)量，輪廓和消除延遲

您無法優(yōu)化無法測(cè)量的內(nèi)容。

• 使用精確的延遲指標(biāo)：軌道99th，99.9th和99.99％的延遲時(shí)間 - 不僅是平均值。
• 飛行記錄器（JFR）：啟用-XX: FlightRecorder捕獲生產(chǎn)中的GC，線程和分配數(shù)據(jù)。
• 延遲直方圖：使用HDRHIMTOMPON記錄和分析微秒級(jí)響應(yīng)時(shí)間。

直方圖直方圖=新的Hdrhistogram（1，1000000，3）;
直方圖。記錄值（LatencyInmicros）;

不僅監(jiān)視應(yīng)用程序邏輯，還監(jiān)視網(wǎng)絡(luò)處理程序中的第一字節(jié)和序列化開銷。

構(gòu)建低延遲Java系統(tǒng)並不是要避免使用Java，而是要明智地使用它。通過仔細(xì)的內(nèi)存管理，無鎖的設(shè)計(jì)，外座技術(shù)和操作系統(tǒng)調(diào)整，Java可以在金融交易系統(tǒng)中提供子微秒延遲。關(guān)鍵是降低可變性：當(dāng)每個(gè)微秒計(jì)數(shù)時(shí)，可預(yù)測(cè)的性能都會(huì)比原始速度更好。

基本上，不是Java很慢，而是您使用它的方式。

以上是建造用於金融交易的低延遲Java系統(tǒng)的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！