（2）ソフトウェア耐ダンパー技術に関する基礎研究
　キーワード　セキュリティ、ソフトウェア､耐ダンパー性、重要情報
　
●研究テーマの概要及び応募における観点

　　一般的に､ソフトウェアを配布･流通する過程においては､その実行ファイルが解析されることで､プログラムに含まれている処理フローやノウハウが流出してしまうというリスクをはらんでいます｡また､ＡＴＭやクローズド環境の通信機器など特殊な端末には､漏えいし改変されてはならないソフトウェアが実装されている場合がありますが､こうした特殊なソフトウェアに対しては､端末にパスワードを設定し認証情報でストレージを暗号化するだけでなく､配布･インストー　ル段階における漏えいにも備える必要があります。

　　重要情報漏えいのリスクを低減したい鳩合は実行環境をハードウェア的な対策によって保護することが以前より行われてきましたが､この鳩合は､対策を施した特殊な端末が必要となり、利便性や経済性の面で許容できないこともあります。

　　本研究テーマでは､ソフトウェア的な対策のみによりソフトウェアのアルゴリズムなどの重要情報を保護する方法の実現に資する耐ダンパー性来に関する､新規性、独創性又は革新性の高い基礎研究を募集します｡本研究テーマでは、ハードウェアを併用する耐タンパー技術は対象外とします。

●期待される研究課題の一例

ここで示した研究提案は一例であり、募集テーマに合致した内容を幅広く募集します。
○準同型暗号等の秘匿計算やプログラミング技術によるソフトウェア的な対策で重要情報(アルゴリズムやデータ)を保護し､ソフトウェアの本来処理を実用的な速度で実現する演算手法に関する研究

○難読化の安全性について定量的な評価方法に関する研究

●タイブＡによる応募に当たって満たすべき条件　(タイプＡに求める条件)

○プログラムとして表現されるアルゴリズムの保護を対象とした研究であることを必須とします。データ保護のみに着眼した提案は対象外とします。
○保護対象のプログラムを利用可能状態で解析できる攻撃者に対して安全性を確保できること。
○研究提案の中に､安全性について定量的な評価方法の検討を含むこと｡新規性､革新性があれば､評価方法を中心とした研究提案でも可とします。
○保護方法が､保護対象のソフトウェアの本来処理に大きく影響しないこと。
○実装に関する定量的な目標を設定し､その目標達成を通じて､将来的に実用的な性能を発揮するための方法の検討につながる研究であること。

●その他特記事項　【望ましい､または考慮すべき事項】

○プログラムを数式表現に還元することで､より一般的なプログラムの保護も可能とする提案も歓迎します。
○研究提案において､安全性の定量的な評価方法の検討を必須としていますが､この評価方法は､様々なソフトウェア耐タンパー性の評価にも適用可能な汎用性を持つことを期待します。
○保護手法を知っている攻撃者に対しても安全性を実現できることが望まれます。

※:耐タンパー性とは､機能の変更や重要情報の読み出しの試みを検出、防止する能力があることをいいます。

耐タンパー性調査研究委員会報告書 - IPA

（4）人と人工知能との協働に関する基礎研究
キーワード人工知能(AI)､コグニティブコンピューティング､ヒューマンーコンピュータ･インタラクショッ
　　　　　　　　　　　　
●研究テーマの概要及び応募における観点

人工知能は囲碁のトップ棋士に勝利するなど、その能力を急速に発展させていますが､最近では人と人工知能がペアを組んだチームで囲碁の対局を行う取組みにも注目が集まっています。人工知能は主に教師データの学習、シミュレーションによる状況の再現を膨大数繰り返すことにより、人の長期的、計画的な判断を支援することが可能です｡また､入力データの高速処理が可能であるため、自動車の運転のような､反射的な判断が必要なタスクの支援にも用いられています。

一方、人工知能はその判断プロセスを人が解釈することが困難であり、時として人が予期しない動作を行いうるという問題点を抱えています。人が人工知能の支援を安心して受けるためには、人工知能の判断に至る経緯が人にとっても理解可能であることが求められます｡また、人工知能による必要な支援の程度は､タスクが同一であっても､人の状態等によって異なると考えられるため､それらを都度画切に人工知能にフィードバックし、支援の内容や程度が調整される必要があります。

本研究テーマでは、このような人と人工知能とが協働するために心要な人工知能側への能力付与や人工知能による人の状態等の把握に関して、新規性、独創性又は革新性の高い基礎研究を募集します｡なお、既存技術の改良や改善であっても､新たな着想が含まれており、かつ学術的に価値がある研究提案であれぱ対象とします。

●期待される研究課題の一例

ここで示した研究提案は一例であり、暮集テーマに合敗した内容を幡広<募集します。

○人工知能に対し､人が経験、知識等に基づき最小限の関与を行うことで、人工知能側が現状を把握し最適な行動を可能にするための研究
○人工知能の判断プロセスを、人にとって理解･予測可能にするための研究　
○人のあいまいな指示、ジェスチヤ､パーソナリティや感情変化等を数値化･記号化する研究
○人工知能の判断プロセスに関する情報を、人のために記号化や可視化する研究
○人と人工知能がチームを組んで対処する問題に対し、人工知能が効率的に人の意図を理解して学習･フィードパックする研究

●タイブＳ及びタイブＡによる応募に当たって満たすべき条件　　(タイプＳ､Ａ共通で求める粂件)

○人と人工知能の協働が有効となるような意思決定場面を想定して､研究提案を行うこと。意思決定場面としては社会的に一般的であって汎用性の高い場面を想定してください。
○人工知能を仮想環境又は実環境中のエージェントに実装し、提案手法の評価実験を行う提案であること。

　(タイプＳのみに求める条件)
○リアルタイムで人と人工知能が協働する実験システムを構築し､提案手法の有効性を検証すること。
○人工知能の学習や評価に必要となるベンチマーク用のデータセットの塵備を行うこと。　　　　　　　　　　　　　　　　　　

●その他特記事項　【望ましい又は考慮すべき事項】

○リアルタイム性が頁求されるシステムに適用可能な手法であることを期待します。
○提案する手法が全体の重思決定能力向上にもたらす度合いについて､定量的な評価を行うことを期待します。

（5）人工知能活用のための安全性確保に関する基礎研究
キーワード　計算理論、データ構造、人工知能(AI)

●研究テーマの概要及び応募における観点

人工知能は画像認識や嗇声認識等の分野において､膨大な教師データから知識やルールを学習することにより､未知のデータに対する推論も高精度で行うことが可能です。一方、教師データに現れない領域の外挿に関しては十分な精度が出ず､誤った推論結果を引き起こすデータの意図的な生成が可能であることも知られています｡実世界の問題解決に、人工知能を安全に用いるには、人工知能に用いられるアルゴリズムの問題点、ぜい弱性等を理解し。人工知能にとって想定外の状況、悪意ある欺まん等によって生じうる誤動作を防止する必要があります｡また、人工知能に必要な処理を高連で行うためのアルゴリズムや、専用のハードウェア(AIチップ等)の開発が進んでおり､小型軽量の情報端末への応用が進んでいますが､このような端末は、あらゆる利用場面が想定されるため､搭載されるアルゴリズムやハードウェアのロパスト性について十分な検証が必要とされています。

※ロバスト性とは、ある系が応力や環境の変化といった外乱の影響によって変化することを阻止する内的な仕組み、または性質のこと。

本研究テーマでは、人工知能を安全に利用するために､広く普及しているアルゴリズムやAIチップ等を用いた人工知能の問題点、ぜい弱性等を明らかにし､安全性、ロパスト性を確保するための新規性、独創性又は革新性の高い基礎研究を募集します。なお、既存技術の改良や改善であっても､新たな着想が含まれており、かつ学術的に価値がある研究提案であれぱ対象とします。

●期待される研究課題の一例

ここで示した研究提案は一例であり、募集テーマに合致した内容を幅広<募集します。

○人工知能のアルゴリズム又はAIチップ等のハードウェアにおけるぜい弱性に対し、ロパスト性を確保するための方法に・する研究
○人工知能の特性上、将来発生し得る様々な可能性を検討する探索手法、アルゴリズム等の研究
○行動等の推測、予測が可能で、ロパスト性を有する人工知能の基盤アルゴリズムの研究
○人工知能の安全性の評価方法に関する研究


●タイプＡによる応募に当たって満たすべき条件　(タイプＡに求める条件)

○広<普及している､又は将来的に広く普及すると見込まれる人工知能を対象として、その構成要素(アルゴリズムやハードウェア等)を安全に利用するためのロパスト性に問する提案であること。
　　　　　　　　　　　　　　　　　　

●その他特記事項【望ましい又は考慮すべき事項】
○アルゴリズムを研究の対象とする場合は､可能な限り一般化されることを期待します。一方、限定された分野に柵有の問題であっても､その分野が画像認識や音声認識等、人工知能の主要な応用先と考えられる場合は､それらを研究対象とすることが可能です。