VRAM im non-3D-Betrieb als RAM nutzen (Auslagerungsdatei)

[Unlimited]

Seit längerem schon können GPUs im 2D-Betrieb für "normale" Berechnungen wie Encoding genutzt werden. In diesem Fall wird ja auch indirekt der VRAM für den 2D-Betrieb sinnvoll eingesetzt.

Leute, es interessiert mich einfach:
Warum kann man nicht auch den extrem schnellen Grafikspeicher im Desktop-2D-Betreib ansprechen. Über PCIe könnte der Speicher mit 4-8GB/s schnell genug angesprochen werden.
Quasi 2nd Level RAM.

Wer eine 1GB Graka hat könnte davon im 2D-Betrieb locker 800MB für die Auslagerungsdatei nutzen.
Die hardware/softwaremäßige Umsetzung wäre sicher deutlich weniger kompliziert, als die derzeit schon mögliche Nutzung der 3D-Leistung für non-3D-Software.
Umgekehrt ists ja auch schon lange möglich, dass die onboard-Grafik sich RAM schnappt.

Mit der kommenden PCIe 3.0 Version und midrange-Karten die überzogene 1,5GB VRAM haben, würde sich das richtig lohnen. Ddann wäre der Grafikspeicher sogar noch deutlich schneller angebunden als der eigentliche Systemspeicher! Man darf ja nicht vergessen, dass selbst auf Billo-Grafikkarten deutlich schnellerer Speicher eingesetzt wird als im normalen RAM.

[Nighthawk13]

AFAIK gabs das schon auf Linux als "Bastler-Projekt": swapfile im GPU-Speicher.
Finde den Link auf die Schnelle nicht mehr...

Prinzipiell möglich ist das schon. Allerdings ist normales Ram auch sehr günstig inzwischen.

[Acid-Beatz]

Ich glaub, das Hauptproblem ist einfach, dass der Treiber die ganze Speicherverwaltung übernimmt und man deswegen eben nur machen kann, was der Treiber auch zulässt.

[Unlimited]

Prinzipiell möglich ist das schon. Allerdings ist normales Ram auch sehr günstig inzwischen.
Das VRAM ist aber günstiger, da umsonst...
:D

[Unlimited]

AFAIK gabs das schon auf Linux als "Bastler-Projekt": swapfile im GPU-Speicher.


Verrückt, dann ists ja vermutlich noch leichter als ich dachte und um Welten leichter, als die CPU-Leistung der GraKa im 2D-Betrieb zu nutzen.

[Naitsabes]

Die Latenzen wären aber wohl recht hoch, die CPU muss ja über PCIe auf die GPU zugreifen, die dann den VRam anspricht...wäre aber dennoch wohl geringer als der Zugriff auf die HDD (wie ist das bei einer SSD?).

[Nighthawk13]

Doch noch nen Link gefunden:
http://en.gentoo-wiki.com/wiki/Using_Graphics_Card_Memory_as_Swap

Inzwischen wäre auch ne implementierung mit OpenCL(auch unter Windows) denkbar.

Problematische Details:
- GPU taktet hoch bei OpenCL-Benutzung (Stromverbrauch, Lautstärke)
- Swappartition lässt sich nicht dynamisch verkleinern, wenn man doch mal den VRAM braucht

[Unlimited]

Doch noch nen Link gefunden:
http://en.gentoo-wiki.com/wiki/Using_Graphics_Card_Memory_as_Swap

Inzwischen wäre auch ne implementierung mit OpenCL(auch unter Windows) denkbar.

Problematische Details:
- GPU taktet hoch bei OpenCL-Benutzung (Stromverbrauch, Lautstärke)
- Swappartition lässt sich nicht dynamisch verkleinern, wenn man doch mal den VRAM braucht


...UND ES GEHT WIRKLICH!?
Einfach so... adhoc? Wahnsinn...

=> das VRAM wird ja nur zum Spielen gebraucht? das mache ich ja nie/selten.
=> Das mit dem Stromverbrauch müsste ich mal messen.
=> leider kenn ich mich mit Open CL null aus, werde mal schaun was da geht.

[Unlimited]

BTW: gehts auch mit einer Geforce [9600GT]?

[Spasstiger]

Man kann den VRAM nicht als normalen RAM nutzen, das geht alleine schon aus Adressierungsgründen nicht. Und die Latenz wäre auch unterirdisch, alleine schon das PCIe-Interface hat eine Latenz von 200-1000 ns, DDR3-Speicher liegt dagegen bei 30-60 ns. Und für Random Access, also wahlfreie Zugriffe, ist die Latenz durchaus kritisch.
Bei dem Link oben wird der VRAM als RAM-Disk verwendet.

[lumines]

Hm, ob das auch mit anderen Treibern als VESA klappt? Dann könnte man wenigstens ein bisschen 2D-Beschleunigung hinbekommen.

Viel interessanter ist es imho den Inhalt des Arbeitsspeichers zu komprimieren. Ich kenne jemanden, der das mal unter Arch Linux ausprobiert hat. Irgendwie kann ich mich noch vage daran erinnern, dass es vergleichsweise gut funktionierte, aber für genauere Ergebnisse müsste man wahrscheinlich mal ein paar Benchmarks laufen lassen und schauen, wie es sich auf die CPU-Last auswirkt.

[Bucklew]

Wäre doch mal ne Nutzung für diese ganzen OEM-Karten mit 2GB Speicher ;D

[Nighthawk13]

Als Ram-Ersatz ist es vielleicht zu langsam, aber als Filecache könnte man das VRAM schon "missbrauchen".

[Unlimited]

Bei dem Link oben wird der VRAM als RAM-Disk verwendet.
RAM-Disk mit einem Teil der Auslagerungsdatei.
OK, so habe ichs im Endeffekt gemeint, mich nur nicht ganz so fachmännisch ausgedrückt.
Tolle Sache!

[DR.ZEISSLER]

prima idee, ich bräuchte sowas unter dos 5.0
286 1MB + ET4000 mit 1 MB

von den 1mb der grafikkarte bräuchte ich 512kb als ems speicher für deluxepaint2.

[BAGZZlash]

RAM-Disk mit einem Teil der Auslagerungsdatei.
OK, so habe ichs im Endeffekt gemeint, mich nur nicht ganz so fachmännisch ausgedrückt.
Tolle Sache!
Ja supi, sag' doch mal bescheid, wenn Du's hinbekommen hast! :smile:

[Troll-Account]

Hmmm, Sony hat doch auf der PS3 damals ermöglicht unter Linux den vRAM als RAM zu nutzen oder nicht?

Zumindest habe ich das oft in News gelesen.

[Simon Moon]

Leider find ich jetzt nichts zu den Latenzen, doch afair erkauft man sich die hohen Taktraten des GDDR doch mit mehr Takten Latenz. Absolut ist man dann wieder in ähnlichen Gefielden und beide Speicher haben ~10ns Latenz (bspw. DDR3 1600 CL9). Der Graphikspeicher hat also nur den Vorteil höherer Bandbreite, welche aber in dem Ausmass eher selten benötigt wird von der CPU. Denn im Gegensatz zur GPU rechnet die CPU generell nicht Massen an einfachen Daten, sondern relativ wenige komplexere Aufgaben. -> Latenz ist wichtiger als Durchsatz.

Bei der GPU ist die Latenz dann wohl weniger wichtig, hauptsache man kann alle Pipelines parallel füllen.

[HOT]

Das wird nix. Der GPU-Speicher müsste voll adressiert werden. Das würde wenn überhaupt nur mit 64Bit gehen und das nur mit Umwegen, weil die bishergen Systeme alle remappen. Mit uralten Chips, die noch direkt von der CPU adressiert wurden, ist sowas sicherlich problemlos machbar, aber bei neuen GPU, bei denen alles über den Treiber läuft und remappt wird ist das kaum nutzbar (für eine GPU steht unter Windows grade mal 256MiB direkt adessiert zur Verfügung). Es ist ja Swapping und damit nicht sonderlich zeitkritisch. Eine SSD ist die allerbeste Lösung dafür, weil sie den großen Nachteil, den Festplatten haben, eben die sehr hohe Latenz, quasi eliminiert. Nicht mal die Idee ist besonders gut, weil viel Aufwand für nix.
Hmmm, Sony hat doch auf der PS3 damals ermöglicht unter Linux den vRAM als RAM zu nutzen oder nicht?

Zumindest habe ich das oft in News gelesen.

Dann hat Sony schnellen Speicher auch als Grafikspeicher genutzt (UMA), aber nicht umgekehrt.

[lumines]

Das wird nix. Der GPU-Speicher müsste voll adressiert werden. Das würde wenn überhaupt nur mit 64Bit gehen und das nur mit Umwegen, weil die bishergen Systeme alle remappen. [...] Es ist ja Swapping und damit nicht sonderlich zeitkritisch.

Das stimmt so aber auch nur für Windows. Unter Linux kann man mit einem PAE-Kernel auch mit 32bit über 4GB (bis 64GB?) RAM adressieren. Außerdem kann man die "Swappines" (http://juliusbeckmann.de/blog/linux-speichermanagement-tunen-swappiness.html) so einstellen, dass bevorzugt ausgelagert wird.

[Unlimited]

Unter Linux ist echt einiges möglich. Leider kommt Linux für mich nicht als BS in Frage, aber sicher interessant für alle die Linux benutzen:
http://wiki.archlinux.org/index.php/Swap_on_video_ram

Hier wurde der Grafikspeicher, den die Grafikkarte verwendet auf 32MB begrenzt.

[lumines]

Na ja, wenn du wirklich daran interessiert bist, solltest du mal über ein Dual-Boot nachdenken. Tut nicht weh und hat, genug Speicherplatz vorausgesetzt, keine Nachteile. ;)

[Troll-Account]

Dann hat Sony schnellen Speicher auch als Grafikspeicher genutzt (UMA), aber nicht umgekehrt.

ps3vram :wink:
Schau dir mal das Modul an.

Wozu brauchst du denn bitte sont den vRAM wenn die GPU sowieso nicht wirklich aktiviert ist?

[Corny]

Man hätte sicher auch Probleme wenn man bei ausgelastetem GPU-RAM plötzlich eine 3D Anwendung startet die diesen Speicher auf der Grafikkarte benötigt. Wohin dann mit den Daten? Wenn im RAM kein Platz ist, muss das auf die Festplatte.
Bei einem Gigabyte sind das mindestens 10, eher 20 - 30 Sekunden, wenn nebenbei eine 3D Anwendung geladen wird.

[Shink]

Man hätte sicher auch Probleme wenn man bei ausgelastetem GPU-RAM plötzlich eine 3D Anwendung startet die diesen Speicher auf der Grafikkarte benötigt. Wohin dann mit den Daten?
Naja, man sagt ja dem Videotreiber dass er nur xyz MB zur Verfügung hat also wird er auch nicht mehr verwenden.

[Coda]

Windows Server kann auch mehr als 4GB RAM mit PAE adressieren. Ich wüsste aber nicht was das zur Sache tut.

[stickedy]

Unter Linux würde das bei einem HomeServer oder Router Sinn machen, der benötigt ja sowieso keine Grafikausgabe, das wäre perfekt dafür geeignet.

Und unter Windows könnte man das ganze ja auch mit einer zweiten Grafikkarte nutzen, irgendeine billige 08/15-Karte, die man nur als RAM-Disk nutzt, die also keine Grafikausgabe macht. Das sollte doch irgendwie machbar sein, wenn man es unter Linux auch hinbekommt den Speicher anzusprechen.

[AnarchX]

Technisch mag das zwar möglich sein, aber welchen Sinn soll das machen? :|

Sapphire Radeon HD 5550, 2048MB DDR2 81€ (http://geizhals.at/deutschland/a545015.html)

VS

2GiB DDR3 <30€ (http://geizhals.at/deutschland/?cat=ramddr3&xf=1454_2048&sort=p)

Wie schon vermerkt, ist der Transfer über PCIe langsamer als der des Hauptspeichers. Erst recht, wenn dann ein solche Karte noch im Idle-Takt ist.

[stickedy]

Für eine RAM-Disk würde die Geschwindigkeit trotzdem mehr als ausreichen.

Warum man es nutzen sollte obwohl Speicher so billig ist? Nun da fallen mir auf die schnelle folgende Gründe ein:
1. 4-GB-RAM-Limitierung bei 32 Bit. Für die RAM-Disk im Grafikspeicher wäre das egal.
2. Evtl. hat man nur 2 Speicherslots und schon 2x 4 GB, möchte aber trotzdem noch eine RAM-Disk haben ohne auf die vollen 8 GB zu verzichten.
3. Die RAM-Disk wäre unabhängig vom System-RAM, man verfügt also weiterhin über den gesamten Hauptspeicher (OK, das hängt eng mit 2. zusammen)
4. Wenn es bei der primären Karte gehen würde -> Warum drauf verzichten, wenn der VRAM eh im PC "rumliegt"?

Klar, keine wirklich alltäglichen Nutzungsgründe, aber sinnvoll wäre es imho schon.

[RavenTS]

Gerade wenn man noch eine Zusatzkarte für Multimonitoring, PhysX etc hat wär das durchaus interessant als zusätzliche Cache-Stufe oder eben zum Auslagern. Schneller Speicher kann man ja nie genug haben...

[Naitsabes]

@ stickedy

Man kann auch bei einem 32Bit System 8Gb Ram einbauen und davon 4.25Gb als Ramdisk nutzen und hat immernoch 3.75Gb als Ram zur Verfügung.
Das wäre also noch immer der bessere Weg :tongue:

[stickedy]

Stimmt auch wieder...

[Thanatos]

@ stickedy

Man kann auch bei einem 32Bit System 8Gb Ram einbauen und davon 4.25Gb als Ramdisk nutzen und hat immernoch 3.75Gb als Ram zur Verfügung.
Das wäre also noch immer der bessere Weg :tongue:

Natürlich kann man das machen, jedoch hat man bei einer Grafikkarte den Speicher schon eingebaut und ist somit vorhanden. Warum also nicht noch etwas zusätzlich nutzen, was schon vorhanden ist? Im Desktopbetrieb wird ja kaum Speicher verbraucht, wodurch man den nun brachliegenden Speicher einfach zusätzlich nutzen könnte.

Natürlich ergibt es wenig Sinn, wenn man sich nun hierfür extra eine Grafikkarte kauft.

[Shink]

Natürlich ergibt es wenig Sinn, wenn man sich nun hierfür extra eine Grafikkarte kauft.
Das stimmt. Aber man kann z.B. die nicht mehr benötigte Grafikkarte in den Linux-Server einbauen.
Irgendjemanden mit diesem Anwendungsfall wird es schon geben.:freak:
Ansonsten macht ein IGP natürlich oft mehr Sinn wenn man ohnehin fast nie GPU-Beschleunigung braucht.

[Thanatos]

Von diesem Anwendungsfall, extra wegen zusätzlichem Speicher eine Grafikkarte einzubauen, spreche ich gar nicht. Gerade Zocker oder auch Gelegenheitszocker haben Grafikkarten mit recht viel Speicher, welcher aber bei reinen Desktoparbeiten einfach brach liegt. In meinem Hauptrechner habe ich auch eine recht Leistungsschwache Grafikkarte zum gelegentlichen Spielen, die aber nicht gerade wenig Speicher hat. Den zusätzlichen Speicher nutzen zu können, fände ich nun sehr gut, da er vorhandene Potentiale einfach besser nutzt.

[Immortal]

Auf der PS3 konnte Linux den VRAM nicht direkt als Hauptspeicher, sondern, ähnlich wie in dem link oben beschrieben, als Plattencache nutzen. Using the PS3 GPU as swap (http://psubuntu.com/wiki/PSUbuntuGPU)
Das hat die ganze Angelegenheit erheblich beschleunigt. (Von "unterirdisch" auf "brauchbar". ;-))

[BennY-]

Wat macht ihr denn im Desktopbetrieb, das ihr mehr Ram benoetigt, als beim zocken mit den UltraDuperGrafikkarten?!

Bei der PS3 macht es durchaus Sinn, da dort nur sehr wenig RAM zur Verfuegung steht, und man die GPU eh nicht richtig nutzen kann.

[Troll-Account]

Wat macht ihr denn im Desktopbetrieb, das ihr mehr Ram benoetigt, als beim zocken mit den UltraDuperGrafikkarten?!

Bei der PS3 macht es durchaus Sinn, da dort nur sehr wenig RAM zur Verfuegung steht, und man die GPU eh nicht richtig nutzen kann.

Eben da wo es nötig ist.
z.B beim Rendern wäre es deutlich von Vorteil.
So habe ich z.B ohne extra vRam 16GB zur verfügung.
Mit vRAM wären es etwa 18GB.

Wenn man ihn wirklich als RAM nutzen könne.

[Grey]

Dein RAM kann Rendern? Nice. Oder meinst du so Krüppelkram wie AFX?

[Troll-Account]

Dein RAM kann Rendern? Nice. Oder meinst du so Krüppelkram wie AFX?

Ja stimmt, man braucht keinen RAM für Texturen u.s.w :rolleyes:

[Ikon]

Da der Speicher nicht permanent zur Verfügung stehen soll, könnte man ihn sowieso nur ähnlich wie bei Readyboost & USB-Speicher einbinden. Das Problem an diesem Konzept ist, dass System dort nichts ablegen kann, was nicht auch in der Swap-Datei auf der Festplatte gespiegelt vorliegt, weil es sonst zum Datenverlust käme, wenn der Nutzer zwischendurch zocken will. Dadurch wäre der Geschwindigkeitsgewinn sehr, sehr gering oder gar nicht vorhanden.

Eine witzige Idee - aber am Ende leider relativ nutzlos.

[Unlimited]

... weil es sonst zum Datenverlust käme, wenn der Nutzer zwischendurch zocken will. Dadurch wäre der Geschwindigkeitsgewinn sehr, sehr gering oder gar nicht vorhanden.


Nicht jeder zockt zwischen durch.
Ich z.B. habe seit über einem jahr kein Spiel nehr gestartet. Meine GF 9600GT / 1GB langweilt sich nurnoch im PC.

Wer doch zocken will, lässt halt vor dem Zocken ein Tool laufen (welches natürlich leider erst noch programmiert werden müsste) , dass den VRAM-Inhalt zurück ins RAM holt.

[Unlimited]

Ich habe jetzt hier eine Geforce GT440 mit 1,5GB im PC.
Klar, es ist nur eine Spielerei bei den aktuellen RAM-Preisen, aber ich frage mich obs inzwischen evtl eine Möglichkeit zur Nutzung des VRAM via CUDA gibt?

[DR.ZEISSLER]

Ich habe jetzt hier eine Geforce GT440 mit 1,5GB im PC.
Klar, es ist nur eine Spielerei bei den aktuellen RAM-Preisen, aber ich frage mich obs inzwischen evtl eine Möglichkeit zur Nutzung des VRAM via CUDA gibt?

stimmt, denn viel interessanter ist die varinate 286er mit 1MB + 1MB Isa VGA Karte.

[Shink]

Nicht jeder zockt zwischen durch.
Ich z.B. habe seit über einem jahr kein Spiel nehr gestartet. Meine GF 9600GT / 1GB langweilt sich nurnoch im PC.
Ich bin zwar spät dran aber: Warum zum Geier hast du dann überhaupt eine GraKa und nimmst nichts On-Board?

[del_4901]

Ich habe jetzt hier eine Geforce GT440 mit 1,5GB im PC.
Klar, es ist nur eine Spielerei bei den aktuellen RAM-Preisen, aber ich frage mich obs inzwischen evtl eine Möglichkeit zur Nutzung des VRAM via CUDA gibt?
Nein wird es auch nie, der PC immerhin (noch) keine Xbox.

[Coda]

Würde sich wohl auch durch die Latenz ohnehin verbieten. Als Swap oder Cache wäre es denkbar, aber dann müsste Windows dafür die Treiber entsprechend nutzen ;)

Edit: Theoretisch könnte man wohl mit nem User-Space-Filesystem ne RAM-Disk ins VRAM packen :ugly:

[BeetleatWar1977]

Würde sich wohl auch durch die Latenz ohnehin verbieten. Als Swap oder Cache wäre es denkbar, aber dann müsste Windows dafür die Treiber entsprechend nutzen ;)

Edit: Theoretisch könnte man wohl mit nem User-Space-Filesystem ne RAM-Disk ins VRAM packen :ugly:
Man müsste die Daten ja nur Blockweise als Textur deklarieren...

Gab doch mal ein Dosprogramm mit dem man Festplattenplatz als EMS(oder wars XMS) nutzen konnte *grübel* - mir fällt bloß der Name gerade nicht ein.


Edit: Könnte man die Variante zusammen mit CUDA nicht zur Daten(de)kompression nutzen?

[Coda]

Man müsste die Daten ja nur Blockweise als Textur deklarieren...
Nö, mit CUDA kann man stinknormal linearen Speicherraum allozieren.

[del_4901]

Man müsste die Daten ja nur Blockweise als Textur deklarieren...

Gab doch mal ein Dosprogramm mit dem man Festplattenplatz als EMS(oder wars XMS) nutzen konnte *grübel* - mir fällt bloß der Name gerade nicht ein.


Edit: Könnte man die Variante zusammen mit CUDA nicht zur Daten(de)kompression nutzen?
Die Zeiten von XMS und EMS sind lange vorbei. Das ganze Memorymanagement ist gar nicht fuer solche Spielereien ausgelegt, da ich MMU des Hauptprozessors keine Seiten auf der Grafikhardware verwalten kann und darf. Memorymamagment auf der GPU funktioniert auch komplett anders. Es gibt schon genug Huddelleien wenn man auf der PS3 was in den Grafikspeicher auslegen will weil bestimmte Funktionen gar nicht von der Hardware unterstuetzt werden.

[Coda]

Das stimmt aber zumindest bei AMDs GCN nicht mehr, da gibt es einen gemeinsamen linearen virtuellen Speicherraum mit Kohärenz über PCIe.

[BeetleatWar1977]

Die Zeiten von XMS und EMS sind lange vorbei. Das ganze Memorymanagement ist gar nicht fuer solche Spielereien ausgelegt, da ich MMU des Hauptprozessors keine Seiten auf der Grafikhardware verwalten kann und darf. Memorymamagment auf der GPU funktioniert auch komplett anders. Es gibt schon genug Huddelleien wenn man auf der PS3 was in den Grafikspeicher auslegen will weil bestimmte Funktionen gar nicht von der Hardware unterstuetzt werden.
Was hat jetzt die PS3 mit der Diskussion hier zu tun?


@Coda -
Nö, mit CUDA kann man stinknormal linearen Speicherraum allozieren.
Stimmt - hab nicht dran gedacht:redface:

Aber effektive Anwendungen im normalen Produktivbetrieb?
Da fällt mir nur ein:
En(De)coding: Audio/Video
Datenverschlüsselung - um die CPU zu entlasten
Daten(de)kompression - gibt es eigentlich schon eine zip-lösung auf Cudabasis?

Auch wenns vielleicht doof klingt: könnte man die heuristische Suche von z.B. Virenscannern auf der GraKa realisieren?

[Coda]

Bei Virenscannern ist das Problem, dass es wohl schneller ist eine Datei auf der CPU zu untersuchen als sie zuerst ins GPU-VRAM zu kopieren, nen Kernel laufen zu lassen und dann die Ergebnisse abzufragen.

Sowas kommt nur bei APUs in Frage und vermutlich auch erst bei kommenden Generationen. Aber die heuristischen Algorithen sind vermutlich nicht für die GPU geeignet. Wenn dann die normale Suche per Signatur.

Aber ich verstehe sowieso nicht, wie du da jetzt drauf kommst. Es ging um die Speichernutzung, nicht um die Nutzung der GPU an sich.

[Air Force One]

Puuuuushh.
Gibt es dazu was neues?
Bei der PS3 geht das definitiv.

[Ex3cut3r]

Wäre ziemlich interessant falls das mal in Zunkunft ginge, die Titan X hat ja 12 GB VRAM der im Windows vor sich hinvegetiert, für Leute mit sagen wir mal 8GB RAM wäre das doch mal was. ;D

[RavenTS]

Wer sich eine Titan X leisten kann, sollte es doch auch haben um sich mindestens 16 GB RAM ins System zu holen ;-)

[Air Force One]

naja ich sehe da den Vorteil ja eher beim Videoschnitt oder 3DRendern.

[Unlimited]

Hat inzwischen jemand mal Neuigkeiten zum Thema?
:)