Je vais rester court et précis.
Je dirais que bien que je sois satisfait de ma configuration et que j’aie dépassé ce que je pensais pouvoir faire, je suis encore un peu un novice par rapport à certains.
1. Actuellement, tout fonctionne sur un MacBook Pro de 2015.
2. Ce que je fais tourner : serveur multimédia, petites applications auto-codées, automatisations n8n (environ 50 000 automatisations/mois). Tout fonctionne correctement.
3. J’ai certaines opérations plus exigeantes comme l’exécution de ytdlp, de transcriptions whisper et de modèles d’IA locaux, que le MacBook Pro de 2015 ne gère pas très bien.
4. J’exécute également des automatisations n8n critiques pour mon travail et certaines tâches clients. À deux reprises au cours des 12 derniers mois, j’ai eu environ 8 heures de downtime. Je n’ai pas réussi à les redémarrer et cela a causé des problèmes.
Je veux avoir le contrôle des coûts et le plaisir de faire tout moi-même, mais j’ai aussi besoin d’une meilleure fiabilité.
Alors je réfléchis à cela :
1. Je dois placer certaines tâches n8n critiques sur un VPS quelque part (je pense que cela me coûtera 5 à 10 $/mois USD)
2. Je garderai également n8n localement pour les utilisations non critiques
3. Je veux rester sur le territoire MacBook pour la plupart de ce que je fais, donc je vais passer à un MacBook Pro entièrement équipé avec 128 Go de RAM, 40 cœurs GPU, M4 Max. Je suis le plus à l’aise avec celui-ci et je ne veux pas aller tout en Linux (désolé)
4. Pour certaines IA locales, je peux les exécuter sur le nouveau M4 Max, mais pour les IA locales nécessaires à la business-criticalité, je ferai appel à des fournisseurs de cloud GPU qui me fourniront des calculs GPU à la demande. Donc, vraiment, je regarderai un mélange de A) Modèles d’IA locaux sur mon MacBook pour certains projets B) GPU à la demande pour certains besoins critiques. Pour le travail sur le cloud GPU, j’ai actuellement environ 500 requêtes qui vont vers Gemini (que je préférerais exécuter localement), j’aimerais les envoyer vers une RTX4090 ou une A100 ailleurs.
Je pense avoir tout organisé dans ma tête, mais je me demande si j’ai oublié quelque chose.
Combien coûtent ces GPU puissants ? Quelqu’un a-t-il de l’expérience avec l’un d’eux ?
Pour le stockage/ sauvegarde, j’utilise en fait n8n pour planifier les sauvegardes vers Google Drive, ce qui n’est pas vraiment pertinent ici.
Je connais Cloudflare Tunnels et Tailscale, etc…
Un serveur Linux sera beaucoup plus économique qu’un M4 max, et vous aurez des options matérielles infinies. Vous pouvez toujours le gérer sur votre MacBook, mais Linux est le chemin à suivre selon moi.
De plus, si vous faites cela pour développer des compétences, savoir administrer un serveur Linux est bien plus utile que d’essayer de faire fonctionner MacOS comme un serveur.
Linux Tower serait plus économique, j’apprendrais de meilleures compétences, et administrer depuis le mac semble en fait très bon. Je suis surpris que je n’y aie pas pensé avant. D’accord, je suis partant, je vais rechercher cette voie.
J’aurais toujours besoin d’un VPS pour certaines tâches critiques pour l’entreprise, c’est-à-dire que je ne veux pas la pression d’une disponibilité 24/7.
mais pour tout le reste, j’adorerais exécuter le plus possible localement.
Si j’obtiens une machine Linux locale, j’aurais une option bien plus économique pour le calcul AI brut, c’est un bon point. Je vais investiguer cela. J’aimerais vraiment exécuter le plus possible localement, y compris un LLM IA locale, et le chemin matériel Linux serait beaucoup plus économique, et je pourrais probablement éviter les services GPU à la demande (en dehors de quelques tâches critiques pour l’entreprise)
Okay, j’ai passé la dernière heure à chercher des informations sur cela. Je devrais vraiment acheter un serveur Linux lol
Oui, c’est l’outil adapté pour le travail. De plus, vous pouvez le charger avec n’importe quel GPU / matériel que vous souhaitez (pas coincé dans la cage d’Apple). Je dis cela en tant que fan de MacOS.
J’ai une tour simple sur laquelle j’exécute Tailscale pour pouvoir accéder depuis n’importe où. Votre plan VPS est solide. Regardez Hetzner.