AIシステムにおけるデータ利用の特性と取扱い上の留意点

 AIを政府情報システムまたは政府が提供するサービス等で活用する際に、リスク度に応じて考慮するべきAIの学習データに関する透明性の確保、偏り(バイアス)の排除、データ加工の来歴保管の必要性、権利関係についてAIを用いたシステムに求める検討事項および考え方を取りまとめました。


 AI(便宜上、深層学習を含む機械学習を「AI」と表記する)の研究が進むとともに、AIの実社会への適用についても広く検討され始めています。一方で従来のルール、ロジックを基にしたアルゴリズム実装とは異なり、AIの推論過程を論理的に人が理解できる内容で説明することは現在の技術では困難と考えられています。加えて、学習に用いたデータの品質がAIの推論結果の品質に大きな影響を与え、データの偏り、不適切なアノテーションなどが誤った推論結果となって現れます。このような特性を踏まえ、政府情報システムにおいては、公平性、安全性、透明性およびセキュリティへの一層の配慮が重要です。

 本書では上記のとおりAIを政府情報システムまたは政府が提供するサービス等で活用する際に、リスク度に応じて考慮するべきAIの学習データに関する透明性の確保、偏り(バイアス)の排除、データ加工の来歴保管の必要性、権利関係についてAIを用いたシステムに求める検討事項および考え方を記述しています。

 みなさんから、広範なご意見を頂けますと幸いです。

 ➢AIシステムにおけるデータ利用の特性と取扱い上の留意点 PDF DOCX

(掲載期間:2022年6月)


政府CIO補佐官 田丸 健三郎、満塩 尚史、西村 毅、梅谷 晃宏、楠 正憲、細川 努

株式会社 Ridge-i 代表取締役社長 柳原 尚史

総務省情報通信政策研究所調査研究部主任研究官 高木 幸一

 

ディスカッションペーパーについて

  • ディスカッションペーパーは、政府CIO補佐官等の有識者による検討内容を取りまとめたもので、論点整理、意見・市場動向の情報収集を通じて、オープンで活発な議論を喚起し、結果として議論の練度の向上を目的としています。
  • ディスカッションペーパーの内容や意見は、掲載時における検討内容であり、かつ執筆者個人に属しており、内閣官房情報通信技術(IT)総合戦略室、政府としての公式見解を示すものではありません。
  • 掲載期間の経過したディスカッションペーパーは、当サイトより削除します。

ディスカッションペーパーへのご意見については、リンク先のコメントフォームよりお寄せください。なお、ファイル等でのご意見を希望される場合は、ストレージサービス等にアップロードの上、リンクを当方まで通知願います。