PDA

Archiv verlassen und diese Seite im Standarddesign anzeigen : Diskussion zu: Die AMD-Geschäftsergebnisse im vierten Quartal sowie Gesamtjahr 2023


Leonidas
2024-01-31, 08:55:02
Link zur News:
https://www.3dcenter.org/news/die-amd-geschaeftsergebnisse-im-vierten-quartal-sowie-gesamtjahr-2023

Update 9:04:
Letzter Absatz auf Basis besserer Informationen neu formuliert.

Exxtreme
2024-01-31, 09:11:20
AMD-Aktie:
https://www.wallstreet-online.de/aktien/advanced-micro-devices-aktie#t:7d||s:lines||sfill:true||a:abs||v:minute10||ads:null

Das ist schon hart.

Leonidas
2024-01-31, 09:13:45
Nur 3,5 Mrd in AI-Chips sind einfach zu wenig. Wieso nicht zu 100% AI-Chips? Der Börsianer kennt nur noch dieses Wort ;)

Wer Ironie findet ...

dildo4u
2024-01-31, 09:14:39
Danke für die Zusammenfassung.
Ich persönlich glaube das Xbox Geschäft wird nie wieder nennenswert zurück kommen.
Aber ich glaube AMD war damit nie Glücklich und hat die Verträge gemacht als sie mit slechten Margen OK waren um Umsatz zu erzeugen.

Pirx
2024-01-31, 09:38:52
Ausblick auf Q1 2024 ist irgendwie ein bisschen sehr schwach, eingedenk allein der MI300-Derivate, die sich im AI-Boom etablieren sollten. Dann müsste anderes ja ganz schön schwächeln.

Die Umsatzrekorde kommen auch durch die Fusion mit Xilinx 2022

Badesalz
2024-01-31, 09:49:33
Also grad bei AMD, wenn man die Verluste in rot mit Vorzeichen macht, sollte man die Gewinne bzw. den Plus, auch mit Vorzeichen und in grün machen :wink:

Badesalz
2024-01-31, 10:13:45
Ausblick auf Q1 2024 ist irgendwie ein bisschen sehr schwach, eingedenk allein der MI300-Derivate, die sich im AI-Boom etablieren sollten.
Die 300er sind eigentlich der erste Chip der in der Breite als mögliche Alternative zu NV wahrgenommen wird. So in etwa davor von "das könnte mal was werden" bei 100er/200er, zu "das scheint wohl was geworden zu sein" bei 300er.

Jetzt muss die Kundschaft die sich dazu entschlossen hat, daß in der Breite auch erst bestätigen. So passiert ein Durchbruch. Solange der erst in einer Anlaufphase ist, ist das mit den "Aussichten" nicht ganz einfach.
Eine kleine Jubelarie des DoE reicht nicht aus :wink: Wobei gute Nachrichten über die Fortschritte beim Ausbau von ElCapitan auf 2 Exaflops sind dem bestimmt zuträglich.

Gleich ein Paradebeispiel dafür ;)
https://wccftech.com/tesla-spend-billions-dollars-nvidia-ai-hardware-this-year-also-plans-buying-amd-chips/

Pirx
2024-01-31, 10:51:25
naja, zieht man den "AI"-Zuwachs von 1,5 Mrd, also 400 Mio pro Quartal von den 5,4 Mrd. für Q1 ab, sind es nur noch ~5 Mrd - schon arg wenig - um einiges weniger als Q1 2023

Badesalz
2024-01-31, 10:58:15
Umsätze passen auch, selbst Quartalweise, "in eine Zeit". Bisher ist aktuell nur AI davon gelöst (Blase).

Da ist auch AMD nicht von befreit. Weder sind sie der Star der KI-Blase noch bekommen sie Subventionen für die Chipherstellung.

Gast
2024-01-31, 11:04:18
Jetzt ist es klar. AMD schafft die Trendwende im Client-Segment nicht mehr.

Intel konnte im Client-Segment den Umsatz von 6,6 Mrd auf 8,8 Mrd steigern und AMD bleibt bei 1,4 Mrd. Im gesamten Jahr hat AMD nur 4,6 Mrd Umsatz, Intel schafft also fast doppelte in einem Quartal und das obwohl AMD aktuell sehr gute Produkte hat. Irgendwie schafft es AMD nicht in den OEM-Markt richtig einzudringen und/oder einfach das breite Publikum der potentiellen Käufer anzusprechen.

Pirx
2024-01-31, 11:15:13
Die Zeit war 2023 aber viel negativer. Jetzt sind die Umsätze mit Ryzen wieder angezogen und im Datacenter stark.

Badesalz
2024-01-31, 11:26:07
Die Zeit war 2023 aber viel negativer.
?? Das sehe ich aber überhaupt nicht :smile:

Aber ok. Ok. Mal sehen halt. Kann man machen nix.

PS:
Was der Gast sagt kann man aber leider auch nicht verneinen (?) :freak:

The_Invisible
2024-01-31, 11:38:13
Jetzt ist es klar. AMD schafft die Trendwende im Client-Segment nicht mehr.

Intel konnte im Client-Segment den Umsatz von 6,6 Mrd auf 8,8 Mrd steigern und AMD bleibt bei 1,4 Mrd. Im gesamten Jahr hat AMD nur 4,6 Mrd Umsatz, Intel schafft also fast doppelte in einem Quartal und das obwohl AMD aktuell sehr gute Produkte hat. Irgendwie schafft es AMD nicht in den OEM-Markt richtig einzudringen und/oder einfach das breite Publikum der potentiellen Käufer anzusprechen.

Sieht man mal in welcher Blase die Tech-Foren so leben, da gibts eigentlich nur Ryzen3d und dann eigentlich lange nix. Bei Grafikkarten das selbe wo man eigentlich Gleichstand vermuten würde. Auch Verkaufszahlen bei zb Mindfactory passen überhaupt nicht dazu.

Die große Kohle wird halt wie gesagt im OEM gemacht, warum da AMD selbst mit den eigentlich konkurrenzlosen Ryzen CPUs nicht Fuß fassen kann will mir auch nicht in den Kopf...

dildo4u
2024-01-31, 11:59:13
Die Midrange Modelle sind extrem gleich und ein OEM kann ein 13400/14300 mit DDR4 nutzen nicht schwer zu sehen warum sich wenig tut.

Zusätzlich ist die IGP nicht wirklich nennenswert besser das ändert sich erst mit den neuen APU.

Linmoum
2024-01-31, 12:03:28
Den AI-Zug verpasst man jedenfalls mit einem gewaltigen Knall. Too little, too late. Wie immer bei AMD.

Das ist ja nix, was man da mit MI300 erwartet. Selbst, wenn das konservativ geschätzt ist und da noch die ein oder andere Milliarde dazukommt.

dildo4u
2024-01-31, 12:06:32
Das Problem wird Kapazität sein Lisa Su hat selber gesagt das sie erst jetzt die Prognosen nach oben korrigieren es wurde also vermutlich deutlich zu wenig bei TSMC gebucht.

Exxtreme
2024-01-31, 12:30:59
AMD hat auch immer das Problem, dass sie nicht liefern können. Sie sind ein Ankündigungsweltmeister. Aber Kohle fliesst nur dann wenn auch geliefert wird. Interessant ist, dass AMD das immer noch nicht gelernt hat.

Th3o
2024-01-31, 12:42:17
Wenn es nur einen konkurrenzfähigen Auftragsfertiger und viele Kunden gibt, was soll AMD dann machen? Vielleicht kommt Samsung mal wieder näher an TSMC ran und wird zur richtigen Alternative.

Th3o
2024-01-31, 12:43:15
Jetzt ist es klar. AMD schafft die Trendwende im Client-Segment nicht mehr.

Intel konnte im Client-Segment den Umsatz von 6,6 Mrd auf 8,8 Mrd steigern und AMD bleibt bei 1,4 Mrd. Im gesamten Jahr hat AMD nur 4,6 Mrd Umsatz, Intel schafft also fast doppelte in einem Quartal und das obwohl AMD aktuell sehr gute Produkte hat. Irgendwie schafft es AMD nicht in den OEM-Markt richtig einzudringen und/oder einfach das breite Publikum der potentiellen Käufer anzusprechen.
Im Server Bereich ist viel mehr Kohle zu machen als im Client-Segment. So gesehen macht es AMD richtig.

Exxtreme
2024-01-31, 13:00:06
Wenn es nur einen konkurrenzfähigen Auftragsfertiger und viele Kunden gibt, was soll AMD dann machen? Vielleicht kommt Samsung mal wieder näher an TSMC ran und wird zur richtigen Alternative.

Selber Fertiger werden wenn es Kapazitäten mangelt.

Pirx
2024-01-31, 13:04:11
utopisch

Badesalz
2024-01-31, 13:08:48
Sieht man mal in welcher Blase die Tech-Foren so leben, da gibts eigentlich nur Ryzen3d und dann eigentlich lange nix.Könnte es sein, daß "Client" auch Laptops sind? :rolleyes:

https://www.statista.com/statistics/1130315/worldwide-x86-intel-amd-laptop-market-share/

dildo4u
2024-01-31, 13:08:52
AMD nutzt doch nur 4nm für Consumer Zen 5 das sollte für Entspannung sorgen.
Bis auf Strix Halo gibt nix neues für Notebooks etc.

Badesalz
2024-01-31, 13:13:47
AMD nutzt doch nur 4nm für Consumer Zen 5 das sollte für Entspannung sorgen.Es ging um das Gejaule von Linmoum. AMD kann nur soviel ausliefern wie TSMC anliefert.

Was der Forenblase egal zu sein scheint
https://www.forum-3dcenter.org/vbulletin/showthread.php?p=13481929#post13481929

Man muss erst noch über diesen Kippunkt kommen. An sich sieht das aber schon annehmbar aus. Es gibt keinen KI-Zug den man verpassen kann :uclap:

Linmoum
2024-01-31, 13:23:24
Das ist kein Gejaule, sondern eine Tatsache. Wer damit nicht klarkommt, sollte zurück in den Kindergarten gehen.

Hier jetzt TSMC den schwarzen Peter zuzuschieben, ist albern und Verklärung von Realitäten. Dass es beispielsweise massenhaft Produkte im DIY-Markt zu kaufen gibt, man bei den OEMs bzw. Mobile nach AMD GPUs mit der Lupe suchen muss (es gibt lt. Geizhals exakt einen (!!) Laptop in mehreren verschiedenen Ausführungen mit RDNA3-GPU) ist nicht die Folge mangelnder Kapazitäten.

Badesalz
2024-01-31, 13:35:34
Das ist kein Gejaule, sondern eine Tatsache. Wer damit nicht klarkommt, sollte zurück in den Kindergarten gehen.Und nicht, wer mit dem Text davor nicht klarkommt, sollte zurück in den Kindergarten? :rolleyes: Idealisierte Weltbilder sprechen doch eher von einem junggebliebenem Geist :up:

Hier jetzt TSMC den schwarzen Peter zuzuschieben, ist albern und Verklärung von Realitäten.Warum sollte der Peter schwarz sein? Ich nehme schon an, daß TSMC alles was noch vertretbar wirtschaftlich ist, für AMD tut. Oder meinst du AMD hat zu wenig bestellt? Oder sie haben ein Problem mit der Hardware? Was soll da jetzt sein? Ob die keine MArktanalysen machen was sich grad für die am meisten lohnt? Die interessieren sich nicht für Forenblasen, die besagen, es muss mehr Laptops mit RDNA3-M geben.

man bei den OEMs bzw. Mobile nach AMD GPUs mit der Lupe suchen muss (es gibt lt. Geizhals exakt einen (!!) Laptop in mehreren verschiedenen Ausführungen mit RDNA3-GPU) ist nicht die Folge mangelnder Kapazitäten.Dachte wir waren grad noch beim verpassen des KI-Zuges?

PS:
Und vorab: Mein...ähmm... Portfolio (sic) ist komplett aufgelöst und brachte das ~11fache des Einsatzes. Das reicht. Ich muss jetzt nicht mit Thesen rumhampeln, weil ich bald Magengeschwüre bekomme, weil meine Schäffchen nass werden könnten. Ich sehe die Sachen wie sie sind. Mir war damals Netflix, Biogen und Amazon wichtiger :tongue:

The_Invisible
2024-01-31, 13:45:15
Könnte es sein, daß "Client" auch Laptops sind? :rolleyes:

https://www.statista.com/statistics/1130315/worldwide-x86-intel-amd-laptop-market-share/

Ka, jedenfalls könnten so manche Forendiskussionen und der wirkliche Markt nicht unterschiedlicher sein.

Vor allem im CPU Bereich müsste AMD ja mit allen den Boden aufwischen, egal ob Client oder Datacenter. Wir selbst in der Firma setzen ja schon seit einiger Zeit nur mehr auf AMD und haben schon hunderte Server rausgeballert.

Lustigerweise kommt von unseren Distributoren wenn man keine Angaben zur benötigten CPU Type macht immer ein Intel Angebot zurück. Ist echt schade wenn man gute Produkte hat aber sie nicht an den Mann bringt bzw jedenfalls nicht in Stückzahlen die eigentlich möglich wären.

Badesalz
2024-01-31, 13:49:35
Vor allem im CPU Bereich müsste AMD ja mit allen den Boden aufwischen, egal ob Client oder Datacenter.
Technisch gesehen ist das auch so. Solche Foren wie hier beschäftigen sich auch meist mit Technik. Was ok ist. Die Expertise ist dabei nenenswert.
Sonstige Expertisen basieren meist auf anderen Grundlagen... :rolleyes:

AMD hat noch ne ganze Weile keine Kohle für reales Dumping.

Rabiata
2024-01-31, 14:20:14
Das ist kein Gejaule, sondern eine Tatsache. Wer damit nicht klarkommt, sollte zurück in den Kindergarten gehen.

Hier jetzt TSMC den schwarzen Peter zuzuschieben, ist albern und Verklärung von Realitäten. Dass es beispielsweise massenhaft Produkte im DIY-Markt zu kaufen gibt, man bei den OEMs bzw. Mobile nach AMD GPUs mit der Lupe suchen muss (es gibt lt. Geizhals exakt einen (!!) Laptop in mehreren verschiedenen Ausführungen mit RDNA3-GPU) ist nicht die Folge mangelnder Kapazitäten.
TSMC kann auch nur so viel liefern wie sie an Wafern bearbeiten können. Und da darf AMD mit Nvidia und Apple mitbieten, welche mehr Geld haben. Anpassungen der Fertigungskapazität bei TSMC sind teuer und brauchen Zeit.

Und wenn AMD im DIY-Markt besser vertreten ist als bei den OEMs, könnte es möglicherweise an besseren Margen liegen (Spekulation!).
Aus anderen Bereichen höre ich immer wieder, daß Großabnehmer ihre Lieferanten brutal unter Druck setzen (Autoindustrie), vielleicht ist es bei CPUs/GPUs ähnlich. Da liegt es be AMD nahe, den DIY-Markt bevorzugt zu beliefern.

Lehdro
2024-01-31, 15:24:59
Die interessieren sich nicht für Forenblasen, die besagen, es muss mehr Laptops mit RDNA3-M geben.
Angesichts der "Qualitäten" von RDNA3 behaupte ich mal dass es sogar besser ist, dass es nur so wenige Modelle im Mobile Bereich gibt. RDNA2 war da rein effizienztechnisch gesehen, besonders was dieses Anwendungsfeld angeht, doch eine ganz andere Nummer im damaligen Marktumfeld. Und selbst da hat man nur homöopathische Mengen im Markt gesehen, das RDNA3 also weder ankommt, noch gepushed wird, ist für mich völlig logisch und nachvollziehbar.

Worum sich AMD aber schleunigst kümmern muss ist das Verschwinden der AMD CPU exklusiven Modelle zugunsten von Intel. Völlig absurd wenn man bedenkt wie krass unterschiedlich die Effizienzen der Hersteller mittlerweile sind. Wenn man das im Hinterkopf hat, könnte man tatsächlich auf die Idee kommen dass RDNA3 doch Mobile rocken müsste :freak:

Exxtreme
2024-01-31, 15:29:37
Die Problematik ist halt, AMD könnte mit Mobile auch gut Umsatz machen. Laptops sind beliebt wegen der Homeoffice-Eignung. Aber ... AMD kann mal wieder nicht liefern.

Linmoum
2024-01-31, 15:45:36
Wenn sie wollten, könnten sie auch. Das ist ihr Problem. Am Ende muss man sich bei Marktanteilen im unteren, zweistelligen Prozentbereich eher fragen, warum DIY so viel besser dasteht als beispielsweise eben der ganze Notebook-Markt, was kaufbare Produkte angeht.

Die einzig verfügbare RDNA3-GPU in Notebooks in Form der 7600S wurde auf der CES angekündigt - im Jahr 2023, also vor über 12 Monaten. Zusammen mit 7700S, 7600M und 7600M XT. Wo sind die alle und warum kündigt man solche Produkte überhaupt an, in dem Wissen, dass da eh nichts auf dem Markt landet?

Das ist einfach nur völlig albern. Und das setzt sich auch anderswo eben genauso fort. Beim Thema AI kommt nur noch der Faktor hinzu, dass man zusätzlich den Zeitpunkt völlig verpennt hat und mal wieder allen anderen Jahre hinterherhängt. Am Ende hilft nur auf sich schauen nicht, weil die eigenen Produkte auch abhängig vom Markt und davon sind, was die Konkurrenz anzubieten hat. Wenn man immer nur winzige Bruchstücke will, mag das ok sein. Bei Intel hatte man das Glück, dass da jahrelang Stillstand herrschte. Nur kennt Jensen das Wort nicht, der zieht mit Nvidia gnadenlos davon.

Gast
2024-01-31, 15:56:36
Xilinx ?

ENKORE
2024-01-31, 17:00:47
Ich bin gerade zu faul um selber nachzugucken, weiß jemand womit AMD Milliarden bei "Embedded" umsetzt? Das werden ja wohl kaum die paar Uralt-Epyc-Embeddeds mit Zen+ sein?

Edit: Achso, unter dem Namen läuft Xilinx.

Timbaloo
2024-01-31, 17:17:22
Also dass TSMC nicht alles für AMD tut ist ausgeschlossen. Schließlich habe ich hier vor ein paar Jahren gelernt, dass AMD ja Top-Partner von TSMC ist, als sich NV dazu entschlossen hat bei Samsung zu fertigen ;)

Troyan
2024-01-31, 17:26:12
Also dass TSMC nicht alles für AMD tut ist ausgeschlossen. Schließlich habe ich hier vor ein paar Jahren gelernt, dass AMD ja Top-Partner von TSMC ist, als sich NV dazu entschlossen hat bei Samsung zu fertigen ;)

Ja und nach Apple nehmen die die meisten 5nm Wafer ab. ;D

Leonidas
2024-01-31, 18:10:41
Xilinx ?

Hat einen Anteil (ca. 4-5 Mrd. im Jahr). Aber auch ohne Xilinx wäre AMD im Jahr 2022 zu neuen Rekorden aufgebrochen. Xilinx war nur verstärkend.

basix
2024-01-31, 19:08:28
Das Problem wird Kapazität sein Lisa Su hat selber gesagt das sie erst jetzt die Prognosen nach oben korrigieren es wurde also vermutlich deutlich zu wenig bei TSMC gebucht.

Hat jemand die Aussagen von Lisa Su überhaupt gelesen? Sie sagt, dass das Update von 2bn$ auf 3.5bn$ rein auf "Customer Demand" basiert. Sie könnten mehr liefern, "viel mehr" auch als die 3.5bn$ laut Lisas Worten. MI300A/X sind erst neu und noch in den Validierungsprozessen bei den Abnehmern. Ergo: Ich wette drauf, dass es Ende 2024 deutlich mehr als 3.5bn$ sein werden.

Wie viel: Steht in den Sternen. Ich würde auf ~5bn$ hoffen. Verglichen mit Marktführer Nvidia ist das immer noch wenig, aber als AMDs "Markteintritt" bei ML/AI-Beschleunigern im ersten Jahr nicht schlecht.

Badesalz
2024-02-01, 07:33:54
Wie viel: Steht in den Sternen. Ich würde auf ~5bn$ hoffen. Verglichen mit Marktführer Nvidia ist das immer noch wenig, aber als AMDs "Markteintritt" bei ML/AI-Beschleunigern im ersten Jahr nicht schlecht.Danke. Ich war schon frustriert der einzige zu sein der es schnallt :wink:

MI300A/X sind erst neu und noch in den Validierungsprozessen bei den Abnehmern.Großes Wort ;) Steht für mich subjektiv eher für die Anbieter der Systeme. Das dürfte ja schon durch sein. Jetzt schauen sich die Endkunden halt an, ob das alles so tut wie versprochen...

Da gab es kurz Unsicherheiten :tongue: AMD hat am Anfang Benches unter gleichen Bedingungen gezeigt. Ausschlaggebend, Llama. AMDs Finte in der Finte... :tongue:
NV hat auch brav angebissen:
Wie, gleiche Bedingungen?? Wir machen hier Soft für alle unsere Kunden und alle nutzen es! Weil es bringt. Liegt sogar auf Github (TensorRT-LMM). Was soll das also heißen, gleiche Bedingungen? Und dann so:
https://developer.nvidia.com/blog/achieving-top-inference-performance-with-the-nvidia-h100-tensor-core-gpu-and-nvidia-tensorrt-llm/

AMD dann so: Ja gut. Stimmt auch wieder. Jeder so wie er am besten kann ist auch nicht ganz falsch und auch nicht absetis der Praxis. Passt. Die aktuelle von "vLLM for ROCm" läuft ja nun sauber. Lasst uns das dann nochmal messen
https://community.amd.com/t5/instinct-accelerators/competitive-performance-claims-and-industry-leading-inference/ba-p/652304

Alles mit "settings recommended by Nvidia" :up: 110% Zuwachs. Die s.g. "Latenz" ist mit FP16 nun laut AMD gar noch minimal kleiner/schneller als bei NV mit FP8 :freak:

PS:
An dem Zustandekommen der restlichen Benches von AMD hatte NV bisher nichts auszusetzen...

Zossel
2024-02-01, 09:58:17
Ja und nach Apple nehmen die die meisten 5nm Wafer ab. ;D

Für TSMC ist sicherlich die Abnahme von Wafern älterer Prozesse (I/O Dies, 3D-Cache, Base-Dies, etc.) durch AMD auch ein Punkt welcher gut für die Rentabilität der Investitionen von TSMC ist.
Nicht ohne Grund schiebt ja TSMC immer gerne später eine "Low-Cost" Variante der Leading Edge Prozesse nach. (Beispiel: N7 -> N6)

Intel nutzt ja auch die die "alten" Prozesse für "Chipsätze" und weiteres.

Badesalz
2024-02-01, 12:48:31
Dabei fällt mir grad ein, daß NV nicht mehr zucken kann. Weil wenn die nochmal mit sowas kommen, dann kommt AMD mit de weiteren Interpretation von "so gut es geht", und fährt ihr Testsystem dann mit Epycs.
Was NV ihrerseits unbedingt vermeiden will :wink:

Leistungsmäßig ist der Drops also gelutscht. Bei vernünftiger Preisgestaltung müssen sie auch nicht zwingend gleich den H200 kontern :freak: Die Kundschaft läuft ja nicht in Forenblasen rum und sucht nach Leistungskronen.

Gast
2024-02-02, 14:07:26
"Sie könnten mehr liefern, "viel mehr""
Und warum tun sie es dann nicht?
Die AMD-Fanboys sollten sich mal besser vor Augen führen, wie unglaublich viel Gewinn dem Laden entgangen ist und entgeht.

Lehdro
2024-02-02, 15:06:07
"Sie könnten mehr liefern, "viel mehr""
Und warum tun sie es dann nicht?
Weil sie damit beschäftigt sind alle paar Monate die Zahlen nach oben zu korrigieren.

Die AMD-Fanboys sollten sich mal besser vor Augen führen, wie unglaublich viel Gewinn dem Laden entgangen ist und entgeht.
Wem entgeht mehr Gewinn:
Dem der nicht genug liefern kann weil Fertigungsengpass (Nvidia)?
Oder der der noch mehr liefern könnte, aber noch nicht voll ausgelastet ist (AMD)?
Ist ja fast schon wieder philosophisch. Ich finde es krass das AMD überhaupt, quasi von Basis 0 aus, so viel vom Kuchen abkriegt wie sie es derzeit tun. Das spricht eher dafür wie viel Nvidia NICHT liefern kann.

vinacis_vivids
2024-02-02, 17:09:00
Danke. Ich war schon frustriert der einzige zu sein der es schnallt :wink:

Großes Wort ;) Steht für mich subjektiv eher für die Anbieter der Systeme. Das dürfte ja schon durch sein. Jetzt schauen sich die Endkunden halt an, ob das alles so tut wie versprochen...

Da gab es kurz Unsicherheiten :tongue: AMD hat am Anfang Benches unter gleichen Bedingungen gezeigt. Ausschlaggebend, Llama. AMDs Finte in der Finte... :tongue:
NV hat auch brav angebissen:
Wie, gleiche Bedingungen?? Wir machen hier Soft für alle unsere Kunden und alle nutzen es! Weil es bringt. Liegt sogar auf Github (TensorRT-LMM). Was soll das also heißen, gleiche Bedingungen? Und dann so:
https://developer.nvidia.com/blog/achieving-top-inference-performance-with-the-nvidia-h100-tensor-core-gpu-and-nvidia-tensorrt-llm/

AMD dann so: Ja gut. Stimmt auch wieder. Jeder so wie er am besten kann ist auch nicht ganz falsch und auch nicht absetis der Praxis. Passt. Die aktuelle von "vLLM for ROCm" läuft ja nun sauber. Lasst uns das dann nochmal messen
https://community.amd.com/t5/instinct-accelerators/competitive-performance-claims-and-industry-leading-inference/ba-p/652304

Alles mit "settings recommended by Nvidia" :up: 110% Zuwachs. Die s.g. "Latenz" ist mit FP16 nun laut AMD gar noch minimal schneller als bei NV mit FP8 :freak:

PS:
An dem Zustandekommen der restlichen Benches von AMD hatte NV bisher nichts auszusetzen...

Wer kauft da noch Nvidia H100, eine schlechtere uArch fürs Interferencing ? AMD MI300 ist da in allen Bereichen deutlich überlegen. Big big Money fließt also zu AMD (Meta, Microsoft , Sony usw.).

Bei der Wissenschaft geht alles auf fp64 double precision, da auch da ist MI300 allen GPUs überlegen.

Nach dieser einfachen Analyse müsste AMD am Aktienmarkt wertvoller sein als Nvidia.

Gast
2024-02-02, 23:59:14
Nun, NV hat einen Software-Stack fürs Data Center der gelegentlich sogar funktioniert.

Badesalz
2024-02-03, 10:13:13
Ou... Ein Insider der vergangenen Tage :up:

Nun, NV hat einen Software-Stack fürs Data Center der gelegentlich sogar funktioniert.Ja eben. Es ist auch nur Mitleid. Die Firmen kaufen jetzt nur aus Mitleid bei AMD ein :uup:

@all
(teilweise Gerüchteküche)
Der Linpack lief auf Frontier zwar bei voller Leistung gut durch, aber die komplette Maschine im produktiven Einsatz länger als paar Stunden laufen zu lassen gelang erstmal nicht :freak:
Man hat sich zwischen August'22 und etwa April'23 richtig abgeackert um zu schauen wo es da immer wieder mal klemmt. Mal waren eher die GPUs in Verdacht, mal die Boards/Nodes, mal Crays Slingshot.
Es ging erst, wenn man die GPUs 7% runtertaktete und mit max. 500W fuhr.

Die Branche war sich bisschen unsicher, ob hier schon genug Expertise vorhanden ist. Und bei wem sie nun fehlte. Seit Mai'23 ist man damit durch. ROCm wurde gefixt und weiter optimiert, die GPUs laufen mit vollem Takt und 560W und auch Slingshot rennt ab da. Gegenüber dem ersten Bench (auch mit 560W gefahren) konnte man auch noch über 8% reale Leistung dazu packen.

Die Erfahrungen hat man schon während dessen direkt auf ElCapitan übertragen und einiges zwischendurch noch umgerüstet. Die Probs waren wohl nicht ausschliesslich auf Software bezogen. Kostet halt alles Zeit und Kapazitäten. Auch für die "breite" Markteinfühung.

Man muss natürlich AMD nicht mit Slingshot bauen und wenn, ist das auch oft eine Frage der Skalierung, die erst Probleme aufzeigt(e). Ich meine in Finnland lief die Kiste recht schnell rund (?) und das reicht für 550 PFLOPS.

Ab dem Zeitpunkt etwa (Frühling 2023) fand aber plötzlich ein real REGES Interesse für die MI300-Platform :wink: Die potenzeille Kundschaft sieht die Themen "produktive Stabilität" wie auch reale Leistung wohl als endlich durchgekaut.

Ich bin auch davon überzeugt, daß man dabei dermassen viel gelernt hat - auch was eigene in-house Validierungen angeht! - daß die Expertise ab 2023 als allgemein bestätigt gilt. Oder wie Techspot schrieb:
"Regardless of how people choose to accept or challenge the benchmarks, the key point here is that AMD is now ready to play the game."

MI300 zündet ja nicht, weil man viel schönere PR-Folien macht als noch für MI200. Das könnten Fanboys die als erste andere als Fanboys bezeichnen auch mal einsehen.

@vinacis_vivids
Checker machen keine elendig lange Vollzitate...

Badesalz
2024-02-17, 08:28:25
Ich finde es krass das AMD überhaupt, quasi von Basis 0 aus, so viel vom Kuchen abkriegt wie sie es derzeit tun. Das spricht eher dafür wie viel Nvidia NICHT liefern kann.Ich bin mir garnicht so sicher, daß man sich ROCm 6/HIP anschaut (um ggf. über ZLUDA sanft zu migrieren) und MI300 holt, weil man grad keine Möglichkeit hat NV zu kaufen.

Und das ist zwar mit NV nicht viel anders, aber wenn der Werbeträger OakRidge berichtet, daß Frontier mit voller Power nun seit Monaten 24/7 einfach stabil läuft, die in der Projektierung versprochene Rechenleistung übertroffen wird und der geplante Verbrauch kleinwenig unter dem geplanten liegt, dann bekommt das jede andere potenzielle Kundschaft auch mit.

Frontier war ja die Feuerprobe für die Platform die ALLE genau beobachtet haben. Und LawrenceLivemore erzählt nun, daß ElCapitan mit allen Updates und Upgrades aufgebaut wird die Frottier bereits bekam - entspricht dem Stand der Markteinführung für alle - und es keinerlei Anzeichen gibt, daß sich da noch etwas verzögern wird.

Das macht sehr wohl schon was aus. Nicht nur für die BigPlayer, sondern AUCH wenn man kein Slingshot braucht und mit zwei oder gar einem Rack auskommt. Denn auch preislich macht das dann einiges aus vs. NV.
Preiswert einzukaufen, wenn es ggf. mehr schlecht als recht läuft ist so lala, aber es scheint tatsächlich endgültig so zu rennen wie die PR-Folien es versprachen.
Und wenn man nicht abwartet und das auch jetzt holt, dann rennt das auch dermassen, daß man auch gegenüber dem (G)H200 nicht gleich ins irgendein Hintertreffen gerät (!)

Das ist in der Tat schon krass und eine gänzlich andere Nummer als die Duelle auf dem Gamermarkt.

PS:
FP8 und INT4 haben bisher doch nicht die Bedeutung welche NV mit dem PR-Geschrei suggerieren möchte.