Cartes graphiques 4090 48 Go : test LLM contre A100

J’ai testé le 48 Go 4090 contre le 24 Go 4090 d’origine, le 80 Go A100 et le 48 Go A6000

Il dépasse largement l’A6000 (bien sûr, il est d’une génération plus récente), mais n’a pas de nvlink. Cependant, à 3500 dollars pour des A6000 d’occasion, ces 4090 sont très compétitifs à environ 3000 dollars.

Comparé au 4090 d’origine, je constate (ce qui pourrait être une variation) une augmentation de 1 à 2 % de la latence des petits modèles par rapport au 24 Go 4090 d’origine.

Les résultats graphiques proviennent de ce [ensemble de tests LLM sur github](https://github.com/chigkim/prompt-test) par chigkim

# Spécifications physiques :

Le ventilateur de type souffleur fait fonctionner la carte à 70 dB sous charge, ce qui est facilement audible et vous ne seriez pas confortable en travaillant à côté. C’est un type de carte qui doit être dans une autre pièce. Le bloc d’eau est en développement.

La plaque arrière de la carte atteint environ 54 degrés Celsius. Bien dans les spécifications d’utilisation des modules de mémoire Micron.

**J’effectue les mises à niveau et je fabrique ces cartes aux États-Unis (aucun droit de douane ou délai long)**. Mon processus implique une attention soigneuse à la gestion thermique à chaque étape du processus pour s’assurer que les puces n’ont pas une durée de vie dégradée. J’ai plus d’informations sur mon site web. (je suis un atelier de réparation de cartes graphiques en ligne depuis 2021)

[https://gpvlab.com/rtx-info.html](https://gpvlab.com/rtx-info.html)

[https://www.youtube.com/watch?v=ZaJnjfcOPpI](https://www.youtube.com/watch?v=ZaJnjfcOPpI)

Veuillez me faire savoir quels autres tests vous aimeriez effectuer. Je suis ouvert à cela. J’ai la place pour 4 de ces cartes dans un serveur Intel à 4x x16 (pcie 4.0) pour les tests.

L’export vers le Royaume-Uni, l’UE, le Canada et d’autres pays est possible – bien que l’export vers la Chine soit soumis aux règles décrites par l’EAR.

9 replies

  1. Emma Miller · 1 week ago

    Est-ce que c’est avant impôts pour vous ? Quel est le prix « à votre charge » pour vous ?

    En Europe, je peux trouver le 5090 le plus économique à environ 3000 dollars après impôts et tout.

  2. Jaxon Jones · 6 days ago

    Incroyable ! Tu l’as fait toi-même ? Ou tu as acheté un modifié ?

  3. Pascal Daniels · 6 days ago

    Est-il possible de limiter la puissance d’un de ces appareils à 75W ? Peut-être contraire à votre objectif initial, mais il y a de bonnes raisons !

    Quelles sont les dimensions physiques ? Y a-t-il une chance de le faire tenir dans un emplacement de pleine hauteur, demi-longueur ?

  4. Isabelle Shaw · 6 days ago

    Utilisez-vous l’une des cartes PCB personnalisées venues de Chine ou avez-vous fabriqué la vôtre ? Utilisez-vous deux connecteurs 8 broches ou 12V-2×6 pour l’alimentation ? Quelle est la différence en termes de performance et de bruit si vous limitez la puissance à 300, 350 ou 400 watts ?

  5. Aya Hayashi · 3 days ago

    L’homme, la seule chose manquante sur ces 4090 de 48 Go est d’être en mesure d’utiliser le pilote modifié P2P.

    Comme reBAR est de 32 Go, le P2P ne fonctionne pas. Je pense qu’il a besoin d’au moins la quantité de mémoire RAM physique ou plus pour fonctionner. Donc, le 4090 de 24 Go fonctionne, et les 6000 Ada ont 64 Go de reBAR.

    En plus, je suis envieux des États-Unis en ce moment, ici au Chili personne ne sait comment faire ce mod lol.

    1. Seiko Iida · 3 days ago

      Pour les pays non soumis aux contrôles d’exportation ayant une structure de revenus différente, je peux expédier à l’international, et je travaillerai avec vous sur un service de mise à niveau 48 Go 4090 à prix réduit, mais vous devez nous envoyer un 4090 fonctionnel.

  6. Nozomi Hasegawa · 2 days ago

    Pouvez-vous mettre à niveau une RTX 6000 Blackwell à 192 Go ?

Répondre à Isabelle Shaw Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *