AIの本格的な普及に伴い、AIインフラの構築の必要性が高まっている。AIインフラは、どのような選択肢があるだろうか。本稿では、クラウドサービスとオンプレミスのそれぞれのAIインフラの特性を整理し、最適な構成について考察する。
AIの本格的な活用が進展しており、企業の経営やビジネスを左右するようになりつつある。特に近年の生成AIの急速な普及は、従来の分析や予測モデルに加えて、LLMを活用するために多くの計算リソースを必要とする状況を生み出している。これにより、AIの学習や推論のために大量のデータを高速に処理するGPUサーバやストレージなどのコンピューティングリソースと、AIモデルの開発と運用を支えるデータ基盤で構成されるAIインフラの構築が求められるようになってきている。
国内企業におけるAIインフラの構築状況はどのようなものだろうか。ITRが2024年8月に実施した『ITインフラ動向調査2024』によると、AIインフラを「構築済み」の企業は16％にとどまり、一部の先進的な企業に限られている（図1）。しかし、「構築中／PoC」が30％、「計画／検討中」が36％と、多くの企業が本格的に構築を進めていく段階にあることが明らかとなった。この調査の実施時期は1年前であるため、現時点では計画や検討段階にあった企業はより具体的な構築の段階に進み、構築済みの企業の割合が上昇していると推測される。