AI 유입으로 커넥티비티 수요 가속: 기업들이 GPU와 GPU 기반 시스템을 사용해 컴퓨팅을 가속화하는 데 필요한 네트워크 대역폭을 모색하며 네트워킹 효율성과 성능에 대한 관심이 다시 높아질 것이다.

수조 개의 파라미터를 가진 LLM으로 더 빠른 전송 속도와 더 넓은 서비스 범위에 대한 필요성이 조명될 것이다. 생성형 AI 애플리케이션을 신속하게 배포하려는 기업은 가속화된 네트워킹 기술에 투자하거나 이를 제공하는 클라우드 서비스 제공업체를 선택해야 한다. 최적의 연결을 위한 핵심은 차세대 하드웨어, 소프트웨어와 결합된 풀스택 시스템 구축이다.

데이터센터 설계 필수 요소: 기업은 모든 데이터센터가 똑같을 필요는 없다는 것을 알게 될 것이다. 데이터센터의 목적을 결정하는 것이 데이터센터 내에서 사용할 적절한 네트워킹을 선택하는 첫 번째 단계다. 기존의 데이터센터는 대역폭이 제한되어 있으며, 대규모 AI 워크로드를 매우 결정적이고 낮은 레이턴시로 구동하기 위해 수천 개의 GPU를 필요로 한다.

대규모 부하 시 네트워크 역량은 성능을 판가름하는 가장 중요한 요소다. 미래의 엔터프라이즈 데이터센터 연결은 관리(노스-사우스) 네트워크와 AI(이스트-웨스트) 네트워크를 분리해야 하며, AI 네트워크에는 고성능 컴퓨팅과 AI, 하이퍼스케일 클라우드 인프라를 위해 특별히 설계된 네트워크 내 컴퓨팅이 포함된다.