Meta zeigt Hardware für KI-Training

Meta präsentierte auf dem OCP Global Summit 2024 neue offene KI-Hardware. Dazu gehören eine KI-Plattform namens „Catalina“, innovative Rack-Designs und verbesserte Netzwerkstrukturen. Laut Dan Rabinovitsj und Omar Baldonado in Metas Blog „Engineering at Meta“ will das Unternehmen damit die Zusammenarbeit und Innovation in der Branche fördern.

Meta skaliert seine KI-Cluster massiv, um große Sprachmodelle wie Llama 3.1 405B zu trainieren. Dafür benötigte das Unternehmen über 16.000 NVIDIA H100 GPUs. Meta erwartet einen weiterhin steigenden Bedarf an Rechenleistung für KI-Training.

Mehr zum Thema:

Bleib up-to-date: