---
title: 【I-325061_29737763903】AIの安全かつ適正な利活用に向けた対策とマインドセット
description: 近年、国内企業におけるAIの利活用が加速しており、今後はAIの自社サービスへの実装や社内業務における情報資産としての活用が広がると予想される。一方で、AI技術の安全性に関するリスクも指摘されており、特に生成AIにおいては、出力結果の不適切性や第三者の権利侵害といったリスクが顕在化している。本稿では、AIが抱える課題とリスクを整理し、開発者、提供者、利用者それぞれの立場における、安全なAI利活用と適正な運用に向けた留意事項とマインドセットについて述べる。これらは、これからの情報社会における健全性を維持するために重要な取り組みとなる。
---

[レポート・ライブラリ｜株式会社アイ・ティ・アール ](https://www.itr.co.jp/report-library)

# [【I-325061_29737763903】AIの安全かつ適正な利活用に向けた対策とマインドセット](https://www.itr.co.jp/report-library/i-325061)

 作成者: [株式会社アイ・ティ・アール](https://www.itr.co.jp/report-library/author/株式会社アイ-ティ-アール)｜Jun 23, 2025 12:00:00 AM

AIの技術進化に伴い、どのような課題が発生するか

AIの安全な利活用に向け留意すべき事項は何か

AIを適正に利活用するために持つべきマインドセットとは

近年、国内企業におけるAIの利活用が加速しており、今後はAIの自社サービスへの実装や社内業務における情報資産としての活用が広がると予想される。一方で、AI技術の安全性に関するリスクも指摘されており、特に生成AIにおいては、出力結果の不適切性や第三者の権利侵害といったリスクが顕在化している。本稿では、AIが抱える課題とリスクを整理し、開発者、提供者、利用者それぞれの立場における、安全なAI利活用と適正な運用に向けた留意事項とマインドセットについて述べる。これらは、これからの情報社会における健全性を維持するために重要な取り組みとなる。

## 構成

- 1．AIの技術進化に伴い、発生する課題と対策の方向性
  
    - [1-1．ディープフェイクによる攻撃事案](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_1_1)
    - [1-2．人間が生成AIを識別する能力の現状](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_1_2)
    - [1-3．情報の真正性を確認するためのアプローチ](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_1_3)
    - [1-4．「AI事業者ガイドライン」の意義](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_1_4)
- 2．AIの安全な利活用に向けて留意すべき事項
  
    - [2-1．人間中心のAI社会原則とAIの安全性](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_2_1)
    - [2-2．AIセーフティと攻撃リスク](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_2_2)
    - [2-3．AIセキュリティと攻撃リスク](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_2_3)
    - [2-4．AIの安全性を実現するためのアプローチ](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_2_4)
    - [2-5．AI資産におけるセキュリティリスクとその対策](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_2_5)
- 3．生成AIを適正に利活用するための対策とマインドセット
  
    - [3-1．生成AIの利用者が抱える不安と懸念](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_3_1)
    - [3-2．生成AIを適正に利活用するための対策](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_3_2)
    - [3-3．生成AIの利活用ガイドラインに盛り込むべき項目](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_paragraph_3_3)
- [結論](https://www.itr.co.jp/report-library/i-325061?hs_amp=true#anc_conclusion)

## 1．AIの技術進化に伴い、発生する課題と対策の方向性

## 1-1．ディープフェイクによる攻撃事案

AIの中でも利活用が急速に進んでいる生成AIは、攻撃者による悪用も拡大している。特に、AI技術を使って音声／画像／映像を本物のように改変する“ディープフェイク”を用いた攻撃は、その対象や目的が変化しつつある。従来は、政治家や有名人を騙った扇動的コンテンツの拡散や架空投資勧誘など、不特定多数の一般利用者を標的とする攻撃が主流であった。しかし最近は、企業活動の妨害を目的とした攻撃も確認されており、その手法も多様化している（図1）。他に、生成AIによって自動生成された自然な文面が、フィッシングメールの本文に悪用されるケースも確認されている。このように、生成AIを悪用した攻撃は巧妙化が進んでおり、企業においては対応の強化が求められる。

### 図1．ディープフェイクの悪用事案

 出典：「総務省令和6年版 情報通信白書の概要」の情報を基にITRが作成

[完全な記事を表示](https://www.itr.co.jp/report-library/i-325061)

```json
{
  "@context" : "http://schema.org",
  "@type" : "BlogPosting",
  "author" : {
    "@type" : "Person",
    "name" : "株式会社アイ・ティ・アール"
  },
  "dateModified" : "2025-07-03T10:11:09.471Z",
  "datePublished" : "2025-06-23T00:00:00Z",
  "headline" : "【I-325061_29737763903】AIの安全かつ適正な利活用に向けた対策とマインドセット",
  "image" : {
    "@type" : "ImageObject",
    "height" : 60,
    "url" : "/hs/hsstatic/content_shared_assets/static-1.4092/img/default-amp-logo.png",
    "width" : 60
  },
  "mainEntityOfPage" : "https://www.itr.co.jp/report-library/i-325061",
  "publisher" : {
    "@type" : "Organization",
    "logo" : {
      "@type" : "ImageObject",
      "height" : 60,
      "url" : "/hs/hsstatic/content_shared_assets/static-1.4092/img/default-amp-logo.png",
      "width" : 60
    },
    "name" : "レポート・ライブラリ"
  }
}
```