アルゴリズムのバイアス

AI技術を利用した自動化や人間の意思決定支援への関心が高まってきており、エンタープライズシステム分野での普及が急速に進展している。その一方で、人間の雇用を奪うといった不安やリスク、そして人間性の阻害や人種差別などの倫理上の懸念が取り沙汰されている。こうした懸念の解消が重要であることはいうまでもないが、AIもソフトウェアである以上、その品質特性が明確に定義され評価できる枠組みが求められる。

エンタープライズシステムにおけるAI技術の進展

ITRでは、2020年以降に本格化すると予想されるテクノロジに関する10の仮説をあげており、そのひとつに「AI技術のコモディティ化の進展」を含めている（ITR Review 2019年1月号「ポスト2020仮説」#R-219011）。この仮説を先取りするかのように、エンタープライズシステム分野においても主要ベンダーが自社のソフトウェアにAI技術を積極的に取り入れ始め、インテリジェント、アシスタント、パイロットなどといった新たなラベルを付けた製品・サービスによってその付加価値を訴求している。現段階では、これらの機能はあくまで人間の作業の一部を代替したり、意思決定に際してビッグデータの自動収集や分析を支援したりといった裏方の役割が多い。エンタープライズシステムは、継続的にデータを蓄積して、社内外データを結びつけるハブとしての役割を持つことから、AIが必要とする学習データが量的にはある程度豊富な環境といえるだろう。