xAI GPU 이용률은 11%에 불과하지만 22만 개의 GPU를 Anthropic에 임대하여, 이는 이익 창출뿐만 아니라 전략적 포장이기도 합니다.

Beating의 연구에 따르면 SpaceX IPO 청약서에서 xAI 데이터 센터 건설 속도가 강조되었습니다. Memphis의 두 번째 데이터 센터 Macrohard는 첫 번째 칩 클러스터를 91일 만에 가동시켰으며, 이는 업계 표준인 2년의 절반에 해당합니다. 처음 두 개 클러스터의 비용은 MW당 270만 달러로, 업계 기준의 1/4 수준입니다. 구시설 개조로 시간을 절약하고, 이동식 가스 터빈, Tesla Megapack 및 100여 대의 이동식 냉각 장비를 사용하여 비용을 절감했으며, 영구 전력 공급망을 기다리지 않았습니다.

그러나 임시 방안으로 인한 대가가 이미 나타났습니다. Macrohard의 정상 가동 시간은 내부 목표치인 99.9%에 훨씬 못 미치며, 다수의 다운타임으로 모델 훈련이 중단되었습니다. xAI를 담당하고 있는 Starlink의 수석 이사 Michael Nicolls는 내부 Momo에 지면, 수십만 개의 NVIDIA GPU가 모델 계산 능력 활용률(MFU)이 11%로, "놀랄 만큼 낮다"며 이를 한 몬 습하고 몇 개월 내에 50%로 높이기를 요구했습니다. 동시에 SpaceX와 xAI는 2025년까지 총 50억 달러의 적자를 기록했으며, xAI는 SpaceX 자체의 로켓 위성 투자액보다 50% 더 많은 약 130억 달러의 자본 지출을 하였습니다.

이 배경을 감안할 때 오늘의 Anthropic이 Colossus 1을 임차한 거래를 보면 매우 미묘합니다. SpaceXAI의 공식 설명은 훈련이 더 큰 Colossus 2로 이전되었기 때문에 Colossus 1의 22만 개가 넘는 GPU를 전부 임대했다는 것입니다. 하지만 MFU 11%는 자사가 보유한 칩을 충분히 활용하지 못 했다는 것을 의미하며, 전기 요금을 낭비하기보다는 자금을 조달하여야 한다는 결정을 내렸습니다. 130억 달러의 자본 지출과 50억 달러의 적자 압력 아래 임대료는 실질적인 현금 유입입니다. IPO 이야기에 대한 추가 점수도 있습니다: 경쟁사조차 우리의 계산 능력을 임대하기 위해 왔다는 것은 인프라가 가치가 있음을 입증하고 수익으로 이어지는 것을 나타냅니다.

운영 수준의 비용은 다운타임뿐만이 아닙니다. Macrohard와 Colossus 건설을 책임지고 있던 여러 명의 고위 관리자들이 최근 몇 주 동안 퇴사했으며, 8000만 달러 규모의 중수처리 공장은 무기한 중단되었습니다. 시공 안전 또한 우려스럽습니다: 1월에 한 명의 작업자가 손가락을 절단당하고, 작년 9월 협력 업체 직원 두 명이 감전 사고를 당하였으며, 이 중 한 명은 53일 동안 입원 치료를 받았습니다.