AIの安全かつ適正な利活用に向けた対策とマインドセット

近年、国内企業におけるAIの利活用が加速しており、今後はAIの自社サービスへの実装や社内業務における情報資産としての活用が広がると予想される。一方で、AI技術の安全性に関するリスクも指摘されており、特に生成AIにおいては、出力結果の不適切性や第三者の権利侵害といったリスクが顕在化している。本稿では、AIが抱える課題とリスクを整理し、開発者、提供者、利用者それぞれの立場における、安全なAI利活用と適正な運用に向けた留意事項とマインドセットについて述べる。これらは、これからの情報社会における健全性を維持するために重要な取り組みとなる。

1．AIの技術進化に伴い、発生する課題と対策の方向性

1-1．ディープフェイクによる攻撃事案

AIの中でも利活用が急速に進んでいる生成AIは、攻撃者による悪用も拡大している。特に、AI技術を使って音声／画像／映像を本物のように改変する“ディープフェイク”を用いた攻撃は、その対象や目的が変化しつつある。従来は、政治家や有名人を騙った扇動的コンテンツの拡散や架空投資勧誘など、不特定多数の一般利用者を標的とする攻撃が主流であった。しかし最近は、企業活動の妨害を目的とした攻撃も確認されており、その手法も多様化している（図1）。他に、生成AIによって自動生成された自然な文面が、フィッシングメールの本文に悪用されるケースも確認されている。このように、生成AIを悪用した攻撃は巧妙化が進んでおり、企業においては対応の強化が求められる。

図1．ディープフェイクの悪用事案