ChatGPTは、OpenAI社が2022年11月に公開したジェネレーティブAI(生成AI)であり、大規模言語モデルであるGPT-3.5を基に対話に適したモデル(チャットボット)へと、RLHF(Reinforcement Learning with Human Feedback:人間のフィードバックを用いた強化学習)と呼ばれる手法によって微調整したものである。GPT-3.5は自然言語処理モデルであり、人間が書いたかのような自然なテキストを生成することから、現在最も注目されている。これまで大規模言語モデルとしては、Google社が提供するBERTが知られている。BERTは、文章を読む(理解する)ことに注力した言語モデルであり、チャットボットにおいて自然文の質問を理解し、回答を見つけることは得意であったが、自然なテキストでの回答ではなかった。これに対してChatGPTは、GPT-3.5の特徴である、自然なテキストの回答や要約された回答を返せる側面が特に注目されている。その根幹には、大規模なテキストデータを事前に学習し、わずかなタスクを与えるだけで、文章生成/校正、翻訳、音声認識、要約、感情分析などの言語処理タスクを行える大規模言語モデルの存在がある。