Facebook-ejer fremstiller nu egne mikrochips til AI: Vil gøre sig uafhængig af Nvidia

[nyheder]

Mere end halvdelen af Metas omfattende omkostninger til infrastruktur er på sigtekornet, når SoMe-kæmpen begynder at fremstille og benytte egne mikrochips til kunstig intelligens.

Source: https://www.computerworld.dk/art/290812 ... mpaign=RSS

[Eastwood]

Hvad skal man lede efter hvis man skal have ny computer som skal være god til AI? Stort grafikkort eller specifik processor

[Pentiumfan]

Guide: Valg af computer til AI-arbejde

AI-arbejde kræver en kraftig computer, især hvis du vil køre modeller lokalt. Her er de vigtigste faktorer at overveje.

1. GPU (Grafikkort) – Den vigtigste komponent
Grafikkortet er afgørende for AI-arbejde, da de fleste neurale netværk bruger GPU'er.

• Minimum: NVIDIA RTX 3060 (12GB VRAM)
• God: NVIDIA RTX 4070 / 4080 (16GB VRAM eller mere)
• Bedst: NVIDIA RTX 4090 / A100 / H100 (24GB+ VRAM)
• Hvorfor NVIDIA? CUDA og Tensor Cores giver væsentligt bedre AI-ydeevne.

2. CPU (Processor) – Støtter GPU'en
CPU’en håndterer dataforberedelse og inferens.

• Minimum: AMD Ryzen 7 7700X eller Intel Core i7-13700K
• God: AMD Ryzen 9 7900X eller Intel Core i9-13900K
• Bedst: AMD Ryzen 9 7950X eller Intel Core i9-14900K

3. RAM (Hukommelse) – Vigtigt for store datasæt

• Minimum: 32GB RAM
• God: 64GB RAM
• Bedst: 128GB+ RAM

4. SSD (Hukommelse) – Hurtig lagring er vigtig

• Minimum: 1TB NVMe SSD (PCIe Gen 3)
• God: 2TB NVMe SSD (PCIe Gen 4)
• Bedst: 4TB+ NVMe SSD

5. Strømforsyning og Køling

• Strømforsyning: Minimum 850W (1000W anbefales til RTX 4090)
• Køling: Luftkøling eller vandkøling til kraftige CPU'er

6. Operativsystem og Software

• Windows: Brugervenligt, men CUDA-kompatibilitet kan drille
• Linux (Ubuntu anbefales): Bedst til AI-frameworks som PyTorch og TensorFlow

7. Anbefalede opsætninger

Laptops til AI:

• ASUS ROG Zephyrus G14 (RTX 4070, Ryzen 9, 32GB RAM)
• Razer Blade 16 (RTX 4090, Intel i9, 64GB RAM)
• MacBook Pro M3 Max (til ML, men ikke CUDA)

Stationære computere til AI:

• NVIDIA RTX 4090 / RTX 4080 med Ryzen 9 7950X eller i9-14900K
• 64GB+ RAM
• 2TB NVMe SSD
• Ubuntu anbefales