Napatech’s Netzwerkkarten besitzen einen eingebauten Speicher für die Pufferung von Ethernet-Frames. Eine Pufferung gewährleistet eine garantierte Zustellung von Daten, auch wenn bei der Übermittlung der Daten an die Anwendung eine Überlastung vorliegt. Es gibt drei potenzielle Überlastungsquellen: die PCI-Schnittstelle, die Serverplattform und die Analyseanwendung

PCI-Schnittstellen bieten eine festgelegte Bandbreite für die Übertragung von Daten vom Beschleuniger zur Anwendung. Dies begrenzt die Datenmenge, die kontinuierlich aus dem Netzwerk in die Anwendung übermittelt werden kann. Beispielsweise kann eine 16-spurige PCIe Gen3-Schnittstelle bis zu 115 Gbit/s an Daten zur Anwendung übermitteln. Sollte hingegen die Netzwerkgeschwindigkeit 2 × 100 Gbit/s betragen, kann ein Daten-Burst nicht über die PCIe Gen3-Schnittstelle in Echtzeit übermittelt werden, da die Übertragungsrate die doppelte maximale PCIe-Bandbreite überschreitet. In diesem Fall kann die integrierte Paketpufferung der Napatech Karte den Burst aufnehmen und gewährleistet, dass keine Daten verloren gehen und gibt die Frames wieder frei, wenn die Anwendung Kapazitäten zur Verfügung stellt.

Server und Anwendungen können so konfiguriert sein, dass eine Überlastung in der Infrastruktur der Server oder sogar in der Anwendung selbst auftritt. Ebenfalls können die CPU-Kerne mit der Verarbeitung oder dem Abrufen von Daten von entfernten Caches und Speicherorten beschäftigt sein, was dazu führt, dass neue Ethernet-Frames nicht ordnungsgemäß von Standard Netzwerkkarten übertragen werden können.

Darüber hinaus kann die Anwendung mit nur einem oder einigen Verarbeitungs-Threads konfiguriert werden, was dazu führen kann, dass die Anwendung überlastet wird, sodass neue Ethernet-Frames nicht übertragen werden. Über eine integrierte Paketpufferung können die Ethernet-Frames zwischengespeichert werden, bis der Server oder die Anwendung in der Lage ist, diese zu empfangen. Dadurch wird sichergestellt, dass keine Ethernet-Frames verloren gehen und dass kompromisslos alle Netzwerkdaten für eine Analyse zur Verfügung gestellt werden.

Moderne Server bieten eine noch nie da gewesene Rechenleistung durch Multi-Core-CPU-Implementierungen. Dies macht standardmäßige Server zu einer idealen Plattform für die Geräteentwicklung. Um die Verarbeitungsleistung von modernen Servern voll auszuschöpfen, ist es wichtig, dass die Analyseanwendung ebenfalls Multi-Threading unterstützt und die richtigen Ethernet-Frames dem richtigen CPU-Kern für eine Verarbeitung zur Verfügung gestellt werden. Allerdings müssen auch die Frames zur richtigen Zeit bereitgestellt werden, um sicherzustellen, dass die Analyse in Echtzeit durchgeführt werden kann.

Die Napatech Multi-CPU Verteilung wird aus unseren umfangreichen Kenntnissen der Serverarchitektur und den tatsächlichen Erfahrungen unserer Kunden aufgebaut und optimiert.

Napatech’s Netzwerkkarten gewährleisten, dass identifizierte Daten-Streams von verwandten Ethernet-Frames optimal auf die verfügbaren CPU-Kerne verteilt werden. Dadurch wird sichergestellt, dass die Verarbeitungslast über die vorhandenen Verarbeitungsressourcen ausgeglichen wird und dass die richtigen Frames von den richtigen CPU-Kernen verarbeitet werden.

Mit der Flow-Verteilung auf mehrere CPU-Kerne kann die Durchsatzleistung der Analyseanwendung linear mit der Anzahl der Kerne (bis zu 128) erhöht werden. Des Weiteren kann auch die Leistung durch schnellere Prozessorkerne skaliert werden. Dieser hochflexible Mechanismus ermöglicht viele verschiedene Wege, um eine Lösung zu entwerfen und bietet die Möglichkeit, Kosten und/oder Leistung zu optimieren.

Napatech’s Karten unterstützen unterschiedliche Verteilungsarten, die vollständig konfigurierbar sind:

• Verteilung per Ports: Alle auf einem physischen Port erfassten Frames werden auf denselben CPU oder eine Reihe von CPU-Kern zur Verarbeitung übertragen
• Verteilung per Verkehrsarten: Frames desselben Protokolltyps werden auf denselben CPU oder eine Reihe von CPU-Kernen zur Verarbeitung übertragen
• Verteilung nach Flows: Frames mit demselben Hashwert werden auf denselben CPU oder eine Reihe von CPU-Kernen zur Verarbeitung gesendet
• Kombinationen der oben genannten

The ability to establish the precise time when frames have been captured is critical to many applications.

To achieve this, all Napatech SmartNICs are capable of providing a high-precision time stamp, sampled with 1 nanosecond resolution, for every frame captured and transmitted.

At 10 Gbps, an Ethernet frame can be received and transmitted every 67 nanoseconds. At 100 Gbps, this time is reduced to 6.7 nanoseconds. This makes nanosecond-precision time-stamping essential for uniquely identifying when a frame is received. This incredible precision also enables you to sequence and merge frames from multiple ports on multiple accelerators into a single, time-ordered analysis stream.

In order to work smoothly in the different operating systems supported, Napatech SmartNICs support a range of industry standard time stamp formats, and also offer a choice of resolution to suit different types of applications.

64-bit time stamp formats:

• 2 Windows formats with 10-ns or 100-ns resolution
• Native UNIX format with 10-ns resolution
• 2 PCAP formats with 1-ns or 1000-ns resolution

Napatech SmartNICs use a buffering strategy that allocates a number of large memory buffers where as many packets as possible are placed back-to-back in each buffer. Using this implementation, only the first access to a packet in the buffer is affected by the access time to external memory. Thanks to cache pre-fetch, the subsequent packets are already in the level 1 cache before the CPU needs them. As hundreds or even thousands of packets can be placed in a buffer, a very high CPU cache performance can be achieved leading to application acceleration.

Buffer configuration can have a dramatic effect on the performance of analysis applications. Different applications have different requirements when it comes to latency or processing. It is therefore extremely important that the number and size of buffers can be optimized for the given application. Napatech SmartNICs make this possible.

The flexible server buffer structure supported by Napatech SmartNICs can be optimized for different application requirements. For example, applications needing short latency can have frames delivered in small chunks, optionally with a fixed maximum latency. Applications without latency requirements can benefit data delivered in large chunks, providing more effective server CPU processing by having the data. Applications that need to correlate information distributed across packets can configure larger server buffers (up to 128 GB).

Up to 128 buffers can be configured and combined with Napatech multi-CPU distribution (see “Multi-CPU distribution”)

Napatech SmartNICs typically provide multiple ports. Ports are usually paired, with one port receiving upstream packets and another port receiving downstream packets. Since these two flows going in different directions need to be analyzed as one, packets from both ports must be merged into a single analysis stream. Napatech SmartNICs can sequence and merge packets received on multiple ports in hardware using the precise time stamps of each Ethernet frame. This is highly efficient and offloads a significant and costly task from the analysis application.

There is a growing need for analysis appliances that are able to monitor and analyze multiple points in the network, and even provide a network-wide view of what is happening. Not only does this require multiple SmartNICs to be installed in a single appliance, but it also requires that the analysis data from all ports on every accelerator be correlated.

With the Napatech Software Suite, it is possible to sequence and merge the analysis data from multiple SmartNICs into a single analysis stream. The merging is based on the nanosecond precision time stamps of each Ethernet frame, allowing a time-ordered merge of individual data streams.

In mobile networks, all subscriber Internet traffic is carried in GTP (GPRS Tunneling Protocol) or IP-in-IP tunnels between nodes in the mobile core. IP-in-IP tunnels are also used in enterprise networks. Monitoring traffic over interfaces between these nodes is crucial for assuring Quality of Service (QoS).

Napatech SmartNICs decode these tunnels, providing the ability to correlate and load balance based on flows inside the tunnels. Analysis applications can use this capability to test, secure, and optimize mobile networks and services. To effectively analyze the multiple services associated with each subscriber, it is important to separate them and analyze each one individually. Napatech SmartNICs have the capability to identify the contents of tunnels, allowing for analysis of each service used by a subscriber. This quickly provides the needed information to the application, and allows for efficient analysis of network and application traffic. The Napatech features for frame classification, flow identification, filtering, coloring, slicing, and intelligent multi-CPU distribution can thus be applied to the contents of the tunnel rather than the tunnel itself, leading to a more balanced processing and a more efficient analysis.

GTP and IP-in-IP tunneling are powerful features for telecom equipment vendors who need to build mobile network monitoring products. With this feature, Napatech can off-load and accelerate data analysis, allowing customers to focus on optimizing the application, and thereby maximizing the processing resources in standard servers.

IP fragmentation occurs when larger Ethernet frames need to be broken into several fragments in order to be transmitted across the network. This can be due to limitations in certain parts of the network, typically when GTP tunneling protocols are used. Fragmented frames are a challenge for analysis applications, as all fragments must be identified and potentially reassembled before analysis can be performed. Napatech SmartNICs can identify fragments of the same frame and ensure that these are associated and sent to the same CPU core for processing. This significantly reduces the processing burden for analysis applications.

For network security purposes, different traffic scenarios need to be recreated and simulated to toughen the infrastructure. The packets also need to be replayed to understand delays and disruptions caused by traffic bursts/peaks to improve Quality of Service (QoS). With Napatech SmartNICs, it is easy to setup and specify the test scenario to replay the same PCAP files from real network events at 10G, 40G and 100G link speeds.

Get highest precision timestamping for traffic that needs to be redistributed to multiple network devices. Napatech SmartNICs systems can forward and/or split traffic captured on a single tapping point to a cluster of servers for processing, without using additional equipment. This is achieved by the Napatech SmartNICs acting as both Smart Taps and packet capture devices and is apt for multi-box solutions with single tapping points. This feature eliminates the need to implement expensive SmartTaps, time stamping switches, packet brokers and other time sync components.

Access control and authentication solutions can now implement full line rate solutions, that can cope with small packets, with a SmartNIC that does robust packet delivery at high network loads. Session control propels traffic in and out of the SmartNIC, at low latency (<5us), while simultaneously copying a subset to the host CPU for analysis. With the session control feature, inline use cases can benefit from low latency at speeds 1-100G.

The Napatech SmartNIC family supports 100 Gbps in-line applications enabling customers to create powerful, yet flexible in-line solutions on standard servers. The more CPU-demanding the application is, and the higher the speeds of links, the higher the value of this solution. Features include:

• Full throughput bidirectional Rx/Tx up to 100G link speed for any packet size
• Multi-core processing support with up to 128 Rx/Tx streams per SmartNIC
• Customizable hash-based load distribution
• Efficient zero copy roundtrip from Rx to Tx
• Single bit flip selection to discard or forward each individual packet
• Typical 50 us roundtrip latency from Rx to Tx fiber

Further enhance your CPU utilization with the CPU Socket Load Balancer capability offered by Napatech NT40E3 SmartNICs. Improve CPU performance by up to 30% per server for 4x10G analysis with Napatech SmartNICs that can efficiently distribute traffic to 2 CPU sockets, making the packets available to multiple analysis threads on both CPU sockets, simultaneously. This frees up CPU resources needed for copying data between the two sockets and eliminates the need for expensive QPI bus transfers.