近年，深層学習技術の進化に伴い，実社会の様々な分野において人工知能（AI）技術の適用が進みつつあります．とくに日本では生産年齢人口の減少に伴う労働生産性の低下が社会課題の一つとなっており，AI技術はこうした課題の解決につながる有用な手段として期待されています．しかし，医療，交通，教育など，AIの推論結果が社会的・経済的に大きな影響を及ぼす分野では，AIの推論結果の説明性ならびに信頼性等の問題から，AI技術の導入は未だ限定的となっています．また，AI技術の構築・開発には一般的に膨大なデータの利用を前提としますが，例えば，製造現場や社会インフラの運用現場など大量のデータの収集が困難である場面での適用や，データが大量に収集できてもアノテーション処理にコストがかかることなど，実社会におけるAI技術の導入には課題が多くあります．こうした背景を受けて，2020年度から2024年度までの5年間のプロジェクトとして，NEDO「人と共に進化する次世代人工知能に関する技術開発事業」が開始されました（基本計画）．本事業で取り組む研究開発内容（研究開発項目）は下記の通りでです．
研究開発項目1：人と共に進化するAIシステムの基盤技術開発：推論過程や推論根拠を示す説明できるAIの基盤技術，人の意図や知識を理解して学習するAIの基盤技術の開発等を実施する．
1-① 人と共に進化するAIシステムのフレームワーク開発
多くの分野でリファレンスとなる「人と共に進化するAIシステム」のフレームワークを開発する．具体的には，「人と共に進化するAIシステム」を構成するサブシステム及び各サブシステムが分担すべき機能，システム内における各サブシステム及びその機能の関係，システムと外部環境との相互の入出力関係などの基本的なフレームワークを開発すると同時に，そのフレームワークを実際に適用したAIシステムを開発する．
1-② 説明できるAIの基盤技術開発
人と共に進化するAIシステムにおいては、AIの誤判断の原因特定や人がAIの判断の妥当性を判断できるようにする必要がある．これを実現するために，必要な精度を保ちつつ，AIの学習結果や推論過程・推論根拠，推論範囲を説明できるAIの基盤技術を開発する．
1-③ 人の意図や知識を理解して学習するAIの基盤技術開発
人と共に進化するAIシステムにおいては，AIが人の意図や知識を理解し，データとあわせて学習する必要がある．これを実現するために，人が作成したマニュアル等の文書の情報を自動的に知識構造化する技術や，人の暗黙知の記述や再現を可能とする技術などの基盤技術を開発する．
研究開発項目2：実世界で信頼できるAIの評価・管理手法の確立
評価項目・指標・目的など明示化した具体的な品質評価・管理ガイドラインの策定や推論結果の安定性の計測技術・向上技術などの品質評価・管理手法の開発 等を実施
研究開発項目3：容易に構築・導入できるAIの開発
画像や動画、言語など異なるタイプのデータによる汎用学習済みモデルを効率的に構築する技術の開発、実応用分野に分かれた準汎用学習済みモデルの開発、それら学習済みモデルを組み合わせてさまざまな分野において少量データで高精度のモデルを構築する技術の開発、データや構築されたモデルを効率的に管理して利活用を容易にするための技術の開発 等を実施．
NEDO人と共に進化する次世代人工知能に関する技術開発事業ミッション：既に様々な分野やタスクにAI技術の適用が拡大されつつある一方で，製造・医療・交通といった社会的・経済的な影響が大きい分野やタスクについては，AI技術の適用は限定的となっています。これらの分野に対してもAI技術の適用を拡大していくためには、人とAIがそれぞれの得意領域において役割を分担して協働し，人とAIが共に成長・進化する「人と共に進化するAIシステム」の実現が重要となります．本プロジェクトでは「人と共に進化するAIシステム」の基盤技術を開発します．また，それらの技術が円滑に社会に適用されるよう，AIシステムの評価・管理手法の確立，さらに，容易に構築・導入できるAI技術の開発も併せて行います．
本NEDO事業全体では，これらの研究開発項目に対し，画像処理，音声処理，自然言語処理，情報基盤・インフラなど多岐に渡る研究課題が実施されています．本研究プロジェクトは，この中で1-②「説明できるAIの基盤技術開発」に位置づけられます．
学習者だけでなく教育者に対するAIの説明可能性は，教育においても切実な問題です．AIの判定する能力評価への信頼性と， AIの返す教育フィードバックへの納得性は，教育の品質そのものを担保するものになることが期待されます．