Minimiser la collecte des ordures en réutilisant des objets, en évitant l'autoboxing, en utilisant des JVM GC sans pause comme le zing ou le zgc et en réglant la taille du tas. 2. Optimiser la disposition de la mémoire avec les tableaux par rapport aux collections, améliorer la localité des données et empêcher le faux partage à l'aide de rembourrage ou de bibliothèques comme Agrona. 3. Utilisez des conceptions sans verrouillage telles que le motif de perturbateur, les opérations atomiques et l'affinité thread pour les performances prévisibles. 4. Utilisez la mémoire hors trépidation via DirectByteBuffer ou Chronicle Map et utilisez des E / S directes pour la gestion des données à faible latence sans GC. 5. Assemblez les paramètres du système d'exploitation, y compris l'épinglage du processeur, la désactivation de la mise à l'échelle de la puissance, l'activation d'énormes pages et l'optimisation des piles de réseau avec le pontage du noyau ou le sondage de spin occupé. 6. Mesurez la latence avec précision à l'aide de centiles, JFR et HDRhistogramme pour identifier et éliminer les goulots d'étranglement sur toute la pile. La construction de systèmes Java à faible latence nécessite de réduire la variabilité de la latence grace à des optimisations disciplinées de mémoire, de filetage et de niveau du système, prouvant que Java peut atteindre des performances inférieures à la microseconde dans le commerce financier lorsqu'il est utilisé efficacement.

Les systèmes Java à faible latence sont essentiels dans le commerce financier, où les microsecondes peuvent faire la différence entre le profit et la perte. Bien que Java soit souvent per?ue comme ?trop lente? pour le trading à haute fréquence (HFT), les JVM modernes et les pratiques d'ingénierie intelligente en ont fait une plate-forme viable - et même préférée - pour la construction de systèmes de trading performant et maintenable. Voici comment construire efficacement les systèmes Java à faible latence.

1. Minimiser la pression de collecte des ordures (GC)

La collection Garbage est la plus grande source de pics de latence dans les applications Java. De longues pauses GC peuvent bloquer votre système de trading au pire moment possible.

Stratégies clés:

• Réutilisation d'objets: utilisez des pools d'objets ou des tampons à thread-locaux pour éviter une allocation fréquente. Par exemple, réutilisez les objets de message dans votre pipeline de routage de commande.
• évitez l'autoboxing: n'utilisez pas Integer , Double , etc., dans les chemins critiques de performance. Tenez-vous aux primitives ( int , double ) pour éviter l'allocation de tas.
• Utilisez des JVM conviviaux en GC: Considérons Azul Zing (avec C4 Collector) ou OpenJDK avec Shenandoah / ZGC, qui offrent une collection d'ordures sans pause ou presque sans port.
• Aller la taille du tas: des tas plus petits réduisent les temps de pause GC, mais trop petit peut provoquer des collections fréquentes. Visez une taille de tas qui équilibre le débit et la latence.

Conseil de pro: allouer des objets dans les pools d'objets pendant le démarrage et les réutiliser tout au long du cycle de vie du système, en particulier pour les messages de données du marché entrants et les commandes de commande sortantes.

2. Optimiser la disposition de la mémoire et les structures de données

Les modèles d'accès à la mémoire ont un impact énorme sur les performances en raison du comportement du cache CPU.

Meilleures pratiques:

• Utilisez des tableaux par rapport aux collections: préfèrent les tableaux primitifs ( long[] , double[] ) ou le stockage hors trépail sur ArrayList ou HashMap , qui impliquent une surcharge et une indirection d'objet.
• Localité des données: les données de structure afin que les champs connexes soient proches en mémoire (par exemple, utilisez des tableaux de structures via des bibliothèques comme Agrona ).
• évitez le faux partage: les champs de PAD fréquemment mis à jour dans des contextes multipliés pour empêcher la contention de la ligne de cache CPU.

 @Contended // réduit le faux partage
Counter de classe statique {
    Volatile Long Reads;
    Volatile Long écrit;
}

UnsafeBuffer d'Agrona et ManyToOneConcurrentArrayQueue sont largement utilisées dans les systèmes financiers pour la messagerie sans verrouillage à faible latence.

3. Tire en surfet sans serrure et conception simultanée

La synchronisation (par exemple, synchronized , ReentrantLock ) introduit une affirmation et des pauses imprévisibles.

Utiliser à la place:

• Fidoutes sans attente ou sans verrouillage: le modèle de perturbateur (LMAX) est une étalon-or pour la communication inter-thread dans les systèmes de trading.
• Opérations atomiques: utilisez AtomicLong , LongAdder ou VarHandles pour les compteurs rapides et filigulaires.
• Affinité thread: épingle les threads critiques à des noyaux de processeurs spécifiques pour réduire la commutation contextuelle et améliorer la localité du cache.

Exemple: perturbateur de Lmax

 RingBuffer <OrDeRevent> RingBuffer = Disruptor.getRingBuffer ();
Long Sequence = RingBuffer.Next ();
essayer {
    OrdreRevent Event = RingBuffer.get (séquence);
    event.set (ordonnance, symbole, prix);
} enfin {
    Ringbuffer.publish (séquence);
}

Ce modèle permet des millions d'événements par seconde avec la latence inférieure à la micro-°.

4. Utilisez la mémoire hors trépidation et les E / S directes

Garder les données sur le tas évite GC et donne un contr?le de la mémoire à grain fin.

• Stockage hors têtes: utilisez ByteBuffer.allocateDirect() ou des bibliothèques comme Agrona ou Chronicle Map.
• Fichiers mappés de mémoire: Chronicle Fidue utilise ceci pour la messagerie persistante à faible latence avec la capacité de relecture.
• E / S du réseau direct: utilisez java.nio avec Selector ou les cadres comme Netty (réglé pour une faible latence) pour les flux de données du marché.

Off-Heap ne signifie pas ?dangereux? - avec une abstraction appropriée (par exemple, des tampons vérifiés par des limites), vous pouvez maintenir la sécurité sans sacrifier la vitesse.

5. réglage du noyau et du système d'exploitation

Même le meilleur code Java peut être goulot d'étranglement par le système d'exploitation.

Optimisations critiques au niveau du système d'exploitation:

• Pinage du CPU: Utilisez taskset ou cgroups pour lier les threads JVM aux noyaux de CPU isolés.
• Désactiver la mise à l'échelle de la puissance: définissez le gouverneur du CPU en mode ?Performance?.
• Pages énormes: activer des pages énormes transparentes (THP) ou utiliser -XX: UseLargePages pour réduire les ratés TLB.
• Taping réseau: utilisez le contournement du noyau (par exemple, OpenOnload de Solarflare) ou le sondage de spin occupés sur les sockets pour la latence prévisible du réseau.

6. Mesurer, profil et éliminer la latence

Vous ne pouvez pas optimiser ce que vous ne pouvez pas mesurer.

• Utilisez des métriques de latence précises: piste 99th, 99.9th et 99.99th Centile latences - pas juste des moyennes.
• Enregistreur de vol (JFR): Activer -XX: FlightRecorder pour capturer les données GC, thread et allocation en production.
• Histogrammes de latence: utilisez HDRhistogramme pour enregistrer et analyser les temps de réponse au niveau microseconde.

 Histogramme histogramme = nouveau HDRhistogramme (1, 1000000, 3);
histogram.recordValue (latenceInmicros);

Surveillez non seulement la logique d'application, mais aussi le temps de premier octet dans les gestionnaires de réseau et les frais généraux de sérialisation.

La construction de systèmes Java à faible latence ne concerne pas d'éviter le java - il s'agit de l'utiliser judicieusement. Avec une gestion minutieuse de la mémoire, des conceptions sans verrouillage, des techniques hors tas et un réglage du système d'exploitation, Java peut offrir une latence inférieure à la microseconde dans les systèmes de négociation financière. La clé est de réduire la variabilité: les performances prévisibles battent la vitesse brute lorsque chaque microseconde compte.

Fondamentalement, ce n'est pas Java qui est lent - c'est comment vous l'utilisez.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!