AIはまだ、パンデミックの「新しい日常」に適応できない

4月12日から18日までの1週間に、アマゾン・ドットコム（Amazon.com）で検索が多かったトップ10の検索語は、トイレットペーパー、フェイスマスク、手指消毒剤、ペーパータオル、除菌消臭スプレー、クロロックス（Clorox）除菌シート、マスク、除菌剤、防菌マスク、N95マスクだった。人々は単に検索しただけでなく、購入もしていた。しかも大量に、だ。マスクを探す人のほとんどは結局、アマゾン・ナンバーワン・ベストセラーの「フェイス・マスク 50枚入り」を購入した。

新型コロナウイルス感染症（COVID-19）が発生し、人々はこれまでに買ったことがないようなものを買い始めた。その転換は急だった。アマゾンのトップ10の常連である携帯ケースや携帯充電器、レゴは、ほんの2、3日でベストセラーから外れてしまった。アマゾンの出品業者向けアルゴリズム広告を専門にしているコンサルティング会社のノズル（Nozzle、本社ロンドン）は、突然の変化をシンプルなグラフで表した。

2月の終わり、各国のアマゾンのトップ10の検索語が新型コロナウイルス感染症に関連する言葉で埋まるまでには、1週間もかからなかった。人々が買い求めたものでパンデミックの広がりを追うことができる。新型コロナウイルス感染症に関連する検索品目は、最初にイタリアでピークに達し、その後にスペイン、フランス、カナダ、米国と続いた。英国とドイツはやや遅れた。「5日間の信じられないような変化です」。ノズルのラエル・クライン最高経営責任者（CEO）は述べる。その波及効果は小売のサプライチェーン全般に及んでいる。

人工知能（AI）もその影響を受けて、在庫管理、不正検出、マーケティングなどの背後で動作しているアルゴリズムにちょっとした問題が起きている。日常的な人間の振る舞いに基づいて訓練された機械学習モデルの中には、「日常」が変化してしまった現在、破綻をきたしているものもある。

状況がどのくらい悪化しているかは、誰に聞くかによって違う。世界的なAIコンサルティング企業の1つであるパクテラ・エッジによると、「自動制御は大混乱に陥っている」という。ある人たちは、なんとか持ちこたえている自動化システムを注意深く監視し、必要な時は手動で修正をしている状態だと説明する。

はっきりしているのは、今回のパンデミックによって、人々の生活がAIといかに密接に絡み合っているかが明らかになったということだ。人々の行動の変化がAIの動作を変え、AIの動作の変化は人々の行動を変えるという繊細な共依存が露わになった。このことはまた、自動化されたシステムへの人間の介入が依然として重要であることを想起させるものだ。「このような異常な状況下では、座して放っておくことなど決してできません」とクラインCEOはいう。

機械学習モデルは変化に反応するよう作られている。しかし、また、ほとんどのモデルは脆弱でもある。入力されたデータが、訓練を受けたデータとあまりにも違う場合はうまく動かなくなる。パクテラ・エッジのグローバル副社長であるラジーブ・シャルマは、いったん構築したAIシステムを放っておいて構わないと考えるのは間違いだという。「AIは生きている、呼吸するエンジンなのです」。

シャルマ副社長はうまく機能しないAIに手を焼いている複数の企業と話をしている。インドの小売業者にソースや香辛料を供給するある企業は、大量注文により予測アルゴリズムが破綻してしまったため、自動在庫管理システムの修正を依頼してきたという。「AIはこのような注文の急増については訓練されたことがないので、システムの調子が狂ってしまったのです」。

別のある企業は、AIを …