企業におけるAI活用は実験から実装フェーズへと移行している。しかし、そこには従来の情報システムでは想定し得なかったリスクが潜んでおり、それらを制御するための枠組みが不可欠である。本稿では、 AIを社会的・組織的に受容可能なかたちで活用し続けるための考え方を「責任あるAI（RAI）」と位置づけ、その実現を支える取り組みとして「AIガバナンス」と「AIオペレーション」の役割を整理する。
国内企業におけるAI活用意欲は依然として高い水準にあるが、その一方で、AIシステム特有のリスクに対する懸念にも関心が向けられるようになった点が、2025年の特筆すべき動向といえる。ITRが毎年実施している『IT投資動向調査』では、主要なIT動向を取り上げてその重要度指数を定点観測しているが、2025年8月に実施した最新の調査では「AIの信頼性／セキュリティ／リスクの管理」は全20項目中2番目に高い指数となった（図1）。 AI活用が本格化するにつれ、その前提条件として、AIに対する信頼性やリスクへの向き合い方が経営・IT双方の重要課題として浮上していることがうかがえる。
こうした背景の下、AIの活用に必要な方針やルールを定め、それらを実行していく取り組みとしてのAIガバナンスも、企業の重要なIT課題として位置づけられるようになってきた。 生成AIが内包する不確実性に加え、AIエージェントの登場によってその影響がコンテンツの生成だけでなく業務の実行にまで及ぶという認識が広まったことが、その一因である。また、EUにおけるAI規制法の施行に代表される規制強化の動き、生成AI活用にまつわる“炎上”事例の発生など、政治的・社会的要因も影響しているとみられる。
もっとも、AIに伴うリスクを過度に懸念することは、イノベーションの阻害や意思決定の遅延につながりかねない。AIガバナンスを単なるリスク回避のための施策と捉えるのではなく、AIを社会的・組織的に需要可能なかたちで活用し続けるための前提条件として捉えることが重要である。
そこで本稿では、 AIを「使ってよいか」という是非の判断と、「どのように使い続けるか」という継続的な判断の双方を含む考え方を「責任あるAI（Responsible AI：RAI）」と位置づける。その実現のためには、信頼性を確保するための「AIガバナンス」と、AIシステムの実稼働において状況に応じて判断・調整を行う「AIオペレーション」を連動させることが求められる。