スマートスピーカなどで使われている音声の認識や合成，日本語から英語へのテキストの翻訳，自動運転などで必須の技術であるカメラに映った人や車の検出や追跡などの分野では，人工知能（AI）技術\(\sf ^{(^*1)}\)が「成功を収めている」と言われています．これらの分野では，AIシステムを開発するために必要な大規模でかつ整理されたビッグデータが利用可能ですし，AIシステムが予測した結果はユーザに依らず同じで\(\sf ^{(^*2)}\)，予測の根拠を説明する必要は必ずしもありません．

一方で，例えば，繁殖牛の分娩兆候を映像により監視する場合について想像してください．繁殖畜産農家にとって分娩事故の経済的損失は甚大なため分娩兆候の監視は必須であり，その負荷軽減のためにAI技術を利活用することが期待されています．しかし，家畜の映像ビッグデータなどは公開されていませんし，同じ映像でも分娩の予兆とみなすか否かは農家の運営方針により異なります\(\sf ^{(^*3)}\)．また，分娩の介助のための意思決定を支援する以上，分娩兆候であると判定した理由を農家にとって直感的な形で説明することが求められます．実は現在のAI技術は，このような状況にめっぽう弱いのです．実運用のことを考えると，ビッグデータと深層学習技術さえあれば農家の役に立つ情報の抽出が「勝手に」できるようになる訳ではなく，そのための「仕組み」をシステム構築の過程に無理のない形で組み込んでおく必要があります．実状に照らして考えれば，農家の意思決定を支援するための映像監視システムには，

１） 大量のデータがなくてもシステムの構築・運用が可能である
　　こと，
２） 監視映像は日々蓄積されるので，それらを用いて映像監視シ
　　ステムを成長させることができること，
３） 映像監視システムの予測根拠をユーザ（農家）にとって直感
　　的な形で説明可能であること，

が求められます．これらの要件を満たすための仕組みが適切に組み込まれていないシステムは持続可能な運用ができずに場当たり的な対応が求められ，運用の過程で非常に手間が掛かる可能性があるのです．

この家畜の映像監視のように，AI技術の利活用が進んでこなかった産業分野においてAIシステムを開発・運用するためには，機械学習・深層学習技術を利用するための根本である「データ」に頼り切ることができない場合がほとんどです．では，何に頼れば良いかと言えば，畜産・繁殖の専門家や農家が持つ「知識」や「経験」に頼らざるを得ないのです．ただし，農家の仕事の邪魔になるような頼り方をしては持続可能なシステムの運用はできないので注意が必要です．我々は，少量データに対する頑健性，運用の持続可能性，予測根拠の説明性といった要件を満たすような映像監視システムの開発・運用は，ユーザインタビューを通じた人間中心設計に基づく以下の4つのステップにより実現できると考えています．

１） 専門家（例えば，畜産農家）に対し，分娩介助を判断する拠
　　り所\(\sf ^{(^*4)}\)について聞き取り調査を行う（農家とAI技術者の協
　　業）．
２） 専門家が拠り所とする情報をAI技術において扱いやすい情報
　　に分解し，その抽出方法の設計，システムの開発を行う（AI
　　技術者が担当）．
３） 前段で得られた情報をもとに，分娩兆候であるか否か判定す
　　る方法の設計，システムの開発を行う（AI技術者が担当）．
４） 分娩兆候である旨を農家に通知するインタフェースの設計，
　　開発を行う（農家とAI技術者の協業）．

このアプローチでは，ユーザや専門家から提供された意思決定の拠り所となる知識を深層学習モデルやその学習プロセスに組み込むことを重要視しています．モデルの骨組みは知識として与え，知識で記述するのが難しいところはデータから学習するという考え方です．こうすることで，モデルの学習にビッグデータを必要とせず，ユーザにとって直感的な判断根拠もモデルから提示可能になるでしょう．さらに，ユーザが日々の業務の中，無理のない形でシステムにフィードバックを与えることで\(\sf ^{(^*5)}\)，AIシステムがユーザの意図通りに（例えば，農家の運営方針に沿う形で）振舞うようになることも期待できます．我々のグループでは，これまでAI技術とは縁遠かった，畜産業や水産業，風力発電のメンテナンス事業，医療・看護などの分野で意思決定支援AIを構築・運用する試みを推進していますが，現場の方々と関わる中で，ここで述べたような人間中心設計の重要性を強く感じています．

AI 技術の進展は著しく，これまで人の経験と直感に頼り切っていた産業分野への利活用も現実的になってきました．ただし，その持続可能な運用は依然として容易ではなく，AIシステムを運用しながらユーザと共に進化するエコシステムを構築する必要があるように思います．そのチャレンジは，まだ始まったばかりと言えるのではないでしょうか．

　　
(*1) より正確に言えば，機械学習・深層学習技術やその応用であ
　　る各種メディア処理技術．

(*2) 例えば，ある音声の発話内容は聞き手に依らず同じはず．

(*3) 牛舎が自宅敷地内にある場合と離れた場所にある場合とで
　　は，分娩介助に向かうタイミングが異なるため．

(*4) 尾の挙上，分娩房をぐるぐる回る，など．

(*5) 電子メールソフトウェアであれば，迷惑メールを通報する作
　　業に相当する．