PDA

Archiv verlassen und diese Seite im Standarddesign anzeigen : Rack 2.0


Badesalz
2025-11-03, 12:47:54
Moin.

Ich musste mich heute als teil der Entscheidungsleiter mit einigen RZ-betreffenden Sachen beschäftigen. Falls außer Skysnake jemanden OSt-West und Nord-Süd Switching sagt. usw. usw. :freak:

Ist hier wem klar, daß der KI-Boom an sich von einem einzigen "Paper" 2017 von Google verursacht wurde?
Und technischer Fortschritt nicht von anfangs Nvidia, sondern von Astera Labs ermöglicht wurde?

Drei Typen von TI hatten eine Idee und haben sich selbständig gemacht. Sie machen s.g. Retimer (mehr oder weniger, sind das DSPs).
Nachdem sie irgendwann was vorzeigbares hatten, sind sie damit zu NV gelatscht und haben sie direkt aus den Socken gehauen. Damals hatten sie ein Signal was anerkannt 3 Zoll mitmachte, auf 1ft. verlängert und hatten am Rx besseres Signal als über die 3 Zoll.

Heute, hat ein 200er Board (NV) mein ich 16 Stück (!) davon damit es so sein kann wie es geworden ist.
Stromverbrauch gegenüber der gesamten Boardpower nicht messbar, Latenzen steigen um "<10ns".

Das sind im groben Signalrefresher wie auch Bus-Switche, für theoretisch alles. Das bis dato ankommendes Rauschen lassen sie weg (!) Deswegen Refresher und nicht einfach nur Amplifier. Hab hier vor paar Tagen ein active PCIe 6.0 Kabel auf dem Tisch gehabt. 6m lang :upara:

Das ändert nun, wie wir schon mitbekommen haben, kleinwenig die ähh... Paradigmen. Davor war die compute unit der "Server" als Einschub. Node.
Jetzt mit den Retimern kann der komplette Rack als Node gedacht werden. Etwas was IBM in den neueren Mainframes schon machte und macht.

Der ganze Rack ist nun Komputergehäuse (Node). Ziemlich schräg für nur wenig belesene Außenstehende.
Alles was im Bezug auf den Einschub gedacht und konstruierte wurde - Server/Node Formfaktor - kann damit auf Rack Formfaktor gemacht werden. Von Netzteil bis zum MainMem.
Im plakativen Extrembeispiel: Ein 2U Einschub mit Hauptspeicher :ulol: (CXL)

Genutzt wird das schon paar Gens länger, aber ohne Astera Labs wäre Nvidias NVL(xy) nichtmal als Idee entstanden. Da eben keine Chance das entsprechend zu bauen. Und ohen Retimer allgemein, natürlich auch kein Helios.

edit:
Spannend wird jetzt zu sehen, ob und wie sich das auf das Design auch von klassischen nicht-KI Servern/Racks auswirkt.

Skysnake
2025-11-03, 23:19:21
Also keine Ahnung was du da meinst, aber das ist alles alter Kaffee.

Es gibt schon sehr lange sehr viele Ideen Konzepte. Die scheitern nur meist an der kommerziellen Umsetzung.

Badesalz
2025-11-04, 09:17:21
Ja... Das war mir schon beim Schreiben klar :upara: Ich frag mich nur immer wie das passieren kann, daß ich so oft der erste bin der über ähnliches oder auch altes berichtet. Auch wenn es mir persönlich egal ist, daß es eine undankbare lorbeerfreie Aufgabe ist :wink:

Die kommerzielle Umsetzungen kommt jetzt. Mit der Kohle des KI-Booms und der Retimer-Technik. U.a. eben von Astera Labs.