見落としがちなAIの特性

AIを活用した実証実験の記事や、AIによるデジタルトランスフォーメーションの事例を見ない日はない。AIがいくつもの職業を不要にするという予測や、あるいは産業そのものを消滅させるという予測も存在する。

一言でAIというが、その中身は数量の予測、ロボットの制御、画像や音声の認識や加工、文書や文言の理解など、多岐に及んでいる。これら技術のビジネス転用も盛んに行われており、さまざまな業務領域で成果を生み出している。確かにAIは業務を変革し、市場競争力を高めていくポテンシャルを秘めている。実際にAIを導入することで新たな競争優位を獲得している企業も少なくない。一方で、AIを導入したものの想定していた成果を出せていない企業が存在するのも事実である。

AIは何かしらのシステムやアプリケーションの一部として提供されるが、データをもとに知的な活動を行わせるというという点で通常のシステムコンポーネントやアプリケーションコンポーネントとは異なる特性を持つ。また、AIは成長途上の技術であり、技術革新のサイクルがその他の情報システム技術より短い。AI導入に失敗する企業は、このAIの特性を見落としたまま、通常のシステム開発と同じようにAIを導入していることが多い。

通常のシステム開発プロセスではAI特有の考慮事項を見落としてしまう

AIの特徴や固有の課題とは何か

繰り返しとなるが、AIは成長途上の技術であり、通常のシステムコンポーネントやアプリケーションコンポーネントとは異なる特性を持つ。これにより、AIの導入や利用には次のような特徴や課題が付随するが、通常のシステム開発では見落とされてしまう。

AIの特徴①：より優れたモデルや新製品の登場が早い

導入した先から陳腐化してしまう可能性が高く、適切な導入タイミングの見極めが難しいことが、現時点でのAI技術の特徴である。

例えばワープロソフトや表計算ソフトは、どのような製品(サービス)を利用しても基本的な完成度は高く、大きな不満を感じることは少ない。これはワープロソフトや表計算ソフトがさまざまなユーザーに使い込まれながら発展し、製品として成熟が進んだカテゴリーであり、期待されている役割や機能が一通り出揃っているためである。AIを用いた製品も、歴史を辿ればこれらのソフトと同等以上の歴史を持っているが、研究や限定利用に留まっていた時期が長く、実用品としての歴史はまだまだ浅い。AIはいまだ成長・発展を続けている技術であり、製品としての成熟はこれからである。

 AIは成長中の技術である

また、自社に適した形でAI技術が提供されているとは限らない。

AI技術自体がいまだ成長・発展しているものということもあり、その提供形態についてもいまださまざまな形態が模索されている。同じ用途のAIであっても、アプリケーションとして作りこみが完了しているものから、ただのソフトウェアモジュール、あるいは研究レベルのAIモデルまで、多様な形態のAI技術が同時並行的に発展している。

簡単に利用できるものから、エンジニアやデータサイエンティストがいないと
動作すらしないものまで、さまざまな形でAIは提供されている

AIについて深く理解し使いこなしたい企業であれば、万人向けの出来合いのツールを導入したとしても満足な結果を得ることは難しい。反対に、あまり手間暇をかけずにAIを導入したいという企業が、常に開発者が必要なツールを導入したとしても手にあまり、AIから大きな効用を得ることは難しい。

AIの特徴②：作り直しや手入れが必要

AIは「導入さえすれば、何もしなくても動き続けるもの」ではない。利用するデータの傾向や特徴を踏まえ、適宜手入れを行っていくことで状態を維持し続ける必要があるのがAIの特徴だ。

AIは導入した後も継続的にフィードバックを与え、常にメンテナンスを行っていかなければならない。また、データの傾向とモデルの出力精度の関係を常に観測し、必要があればモデルを見直すなどの対応をしなければならない。

また、自社のデータをAIに学ばせていく必要があるが、データ利用に関する標準・法律・社会的なコンセンサスなどはまだ確立しておらず、確実に安全といえるデータ利用の範囲はいまだ不確定である。データ利用に関する国内の法整備は着実に進んでいるが、今後の技術革新により発生する新たなデータ課題、国際的なデータ利用の動向など、情勢は引き続き流動的であると考えられる。状況によっては、これまで使っていたデータを利用することが法的に不能となる、あるいは引き続き利用するために追加のデータ加工・アロケーション変更のコストが発生するなどの可能性がある。

メンテナンスを怠った生産ラインは徐々に製品加工の精度が甘くなり、製品の仕上がりにぶれが発生するようになる。何も手を打たなければ製品の仕上がり精度は許容誤差を超えるようになり、やがては常に不良品を作る生産ラインとなる。工場において、このようなラインの存在が許容されないということは論を俟たない。AIモデルの更新やデータの運用を止めるということは、生産業務における不良品量産ラインの存在を許容することと同義であり、やはり認められるものではない。

もちろんマーケティング施策やセールスプロモーションの一環として、ワンショット的なAI利用をすることもあるが、原則として、「AI導入とは、常にメンテナンスを伴う技術の導入である」と認識する必要がある。

AIの特徴③：利用にあたっての前提がシビア

AIはインプットやアウトプットについて多くの前提や制限がかかっていることが多い。今の技術では一つのAIがさまざまな用途をこなすようにはできておらず、利用用途に応じてAIを作成する必要がある。この利用用途の範囲でさらに、どのようなデータが用いられ、どのようなデータを出力するかについて厳密に絞り込んでAIを作成することが通常だ。その想定の範囲内でデータを用いる限りは概ね期待した成果を出すが、データが想定の範囲外になった途端に、AIの出力品質は著しく低下することが多い。

そして、想定されているデータの範囲は、我々の期待する以上に狭いことが一般的である。例えば、「猫を識別できるが、正面から見た猫以外は全く識別できないAI」「日本語の会話を認識できるが、録音フォーマットを変えるだけでほぼ認識に失敗するAI」「会話ができるが、少々の打ち間違いがあるだけで返答が全くの的外れになるAI」など、少しでもインプットデータの条件が変わるだけでアウトプットの品質は顕著に低下する。

このため、何かしらの機能を謳っているAIが、自社の業務で生み出されるデータを活用して期待されているだけの成果を発揮するかどうかは、実際に使って確認してみないと分からないのが通常である。自社で取得できるデータがAIの想定から外れている場合、データを加工して利用可能な形に変形する仕組みを構築するか、あるいはAIの利用を諦める必要がある。

AIの特徴④：AIに使うデータはガバナンスを伴う

一般的に企業は情報やデータに対して情報管理区分を付与し、その保管場所や利用場所、アクセス可否に制限をかけていることが多い。また、情報セキュリティの観点から営業情報、個人情報の識別も厳密に定義されていることが多い。AIを利用するにあたっては何かしらのデータを投入する必要があるが、このAIに与えるデータも例外ではなく、情報管理区分や情報セキュリティの定めに従っていなければならない。

ウェブサービスとして提供されるAIは価格が安価であったり、一定量の使用であれば料金がかからなかったりするため、誰でも気軽に試してみることが可能だ。しかし、このようなサービスに従業員があまり深く考えずに営業情報や個人情報をアップロードしてしまい、それがのちに発覚して問題となることが多い。

AI導入の失敗ケース

AIに固有のこれらの特徴や課題を考慮しないことにより、AIシステムやAIツールの導入では次のような失敗が起こる。

ケース①：新規開発しない方がよかった

製造業A社は数年前、自社工場における検品を目的として、画像認識AIを導入した。

当時既に画像認識技術は存在していたが、すぐに使えるアプリケーションやサービスは存在しなかったため、システム開発ベンダーと共同でスクラッチ開発を行うこととなった。当時の画像認識AIは物体認識角度に制限があるため、ラインを流れる製品の位置や向きが同じになるよう設備を改良する必要があった。また、同時に複数の検品をすることはできなかったため、当初想定していた大量生産ラインへの導入は諦め、別のラインに導入することになった。

それから数年が経ち、登場した検品AIはビデオカメラを設置するだけで簡単に導入できるようになっており、製品の向きや投入位置を気にすることなく、毎秒数十個の検品が可能であった。また、導入費用も維持運用費用も自社開発より安価となっている。

A社は先んじてAIを導入したばかりに、低機能でより高価な、しかも本来の役割を果たさないAIを利用することになってしまったのだった。

ケース②：AIを維持できなかった

小売業B社は1年前に商品仕入れ計画の立案のため、実験的にAIを導入した。ある商品カテゴリーにおいて、販売量と在庫量をもとに次回発注数量を算出するAIである。

システム開発ベンダーのエンジニアが数カ月常駐し、予測モデルとウェブから利用できるインターフェイスを開発した。予測AIは学習データを使ってトレーニングする必要があり、データは社内システムからエクスポートすることができた。だが、エクスポートしたそのままのデータはAIの学習には使えないため、エンジニアが修正・加工して学習用のデータを作成していた。

予測AIは数カ月で無事完成し、当初は満足できる予測値を出していた。しかし、1年ほど使っていると予測値と実測値の乖離が大きくなってきた。各社が新製品を出すことにより売れ行きの傾向が変化したり、B社自体の販売戦略が変わったりしたこともあり、当時の学習データをもとにした予測が合わなくなっていたのだ。

だが、社内にはエンジニアがいないため、データをエクスポートしてAIを再学習させることはできず、最終的にはAIの算出する予測値を全く使わなくなってしまった。

B社は運用のことを考慮せずにAIを導入したために、開発したAIを維持し使い続けることができなかったのである。

ケース③：AIが使い物にならなかった

食品製造業C社では、全ての会議で議事録を作成する必要があり、従業員の大きな負担になっていた。会議の種類によっては発言録に近いレベルでの記録が必要であり、会議の何倍もの時間をかけて録音を聞き返し、文字起こしを行うこともあった。このような業務に負担を感じる一方で、外部に業務を発注することもできずにいたC社であったが、AIによる文字起こしに関するニュースを見かけ、思い切って音声認識AIの導入を行った。ベンダーD社は95%以上の精度を謳っていたが、話を聞いてみると実際には90%に達するようなケースは極めて限定的であるということだった。それでも、ということでシステム開発を委託し自社に導入してみたが、自社会議室、工場詰所、客先、電話などさまざまな状況で行われる会議や打ち合わせについて議事録を作成する必要があるC社には、音声品質について繊細なD社のAIはフィットしなかった。特に携帯レコーダーを使って録音した音声の文字起こしが壊滅的であった。導入してしまった以上使わなければいけないということで、会議環境を整備したり、録音機材をそろえたりしたが、それでも文字起こしの品質は早々と頭打ちになってしまい、業務負荷の軽減にはつながらなかった。

C社は現場での確認を行わず、外部の評価のみに基づきAIの導入を進めたために、期待していたAI導入成果を得ることができなかった。

ケース④：社内規定に違反してしまった

出版業E社では、現場発の企画として業務へのAI導入プロジェクトを立ち上げた。ベンダーと協力して、AIの学習やデータ収集のためのシステムを構築した。だが、学習に利用したデータは社内規約で個人情報に位置づけられているものであり、本来社外の人物がアクセスしてよいものではなかった。また、収集しているデータについても、AI利用を想定した適切な範囲での同意を取得していなかった。

AI導入プロジェクトは直ちに中止となり、しばらくはAIの業務利用自体が厭われることとなってしまった。

失敗しないための導入プロセスとは

AIの特徴を踏まえずに業務に導入してしまうことにより、企業は投資を無駄にするだけではなく、コーポレートガバナンスまで毀損する可能性がある。また、このような失敗は企業全体のAI導入意欲を後退させ、全社的なAIやデジタル技術活用の機運をくじくことにつながる。だからこそ、AI導入を成功に導くためのプロセスやポイントを事前におさえ、適切に企画から導入までのステップを進めていくことが重要となる。

後編では、AIの特徴や固有の課題を踏まえ、AIの導入に失敗しないための導入プロセス、およびプロセス内の各ステップについて実施の要点を述べる。

* 図表はすべて筆者作成。