デジタル庁 テキスト生成AI利活用におけるリスクへの対策
デジタル庁では、デジタル社会の実現に向けた重点計画（令和4年6月7日閣議決定）を踏まえ、AIの実態と動向を把握し、リスクと必要な対応策を特定したうえで、官民における適切な活用の検討を進めている。
昨今の生成AIなどの技術革新により、さまざまな利点を得られるようになってきており、政府でも、このような技術の動向を見極めつつ、関係省庁における生成AIの業務利用について第10回デジタル社会推進会議幹事会・書面開催等の議論を重ねている。また、2023年12月より生成AIの適切な利活用に向けた技術検証を実施し、その結果（2023年度 デジタル庁・行政における生成AIの適切な利活用に向けた技術検証を実施しました）を公開した。
これまでの議論の経緯や検証結果を踏まえ、「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」として公開した。実際に行政サービス等で生成AIを利活用する際に想定されうるリスクとその対応策についての技術的なレポートをまとめられている。
現時点では、α版のため内容に不十分な点があるとしているが、生成AI利活用時のリスクや対策に関する議論の参考としてご活用は可能である。α版において不足している記述や不正確な表現があったらご意見・ご要望よりいただきたいとのこと。今後、正式版としての公開に向け、定期的に内容の拡充・改善を図るとしている。
公開の背景
生成AIを用いる際、行政業務における指針として広島AIプロセス（総務省）やAI事業者ガイドラインがある。これらの指針を踏まえ、「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」では、生成AIの中でもテキスト生成AIとその利活用に焦点を当て、政府調達において考慮する点について、より具体的なリスクと対策を記載している。
テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）の特徴
テキスト生成AIのサービス開発者と提供者を対象
生成AIにはテキストだけでなく、画像や音声、動画を生成できるものもある。実際の業務でやりとりする情報の多くはテキスト情報であること、デジタル庁においてテキスト情報以外の生成AIの活用については検証段階であることから、生成AIの中でもテキスト生成AIのみに焦点を当てている。
また、主に生成AIを利活用するためのシステム開発に関する業務に従事する担当者が活用することを想定し、基盤モデル開発者のリスク（学習データのサプライチェーンや権利問題に関するリスク等）やサービス利用者のリスク（ディープフェイクに関するリスク等）に関する内容は含まれていないようだ。
テキスト生成AIの利用形態、想定ユースケースや工程による分類
利用形態（特定のサービスに組み込まれた状態や、大規模言語モデルを利用するためのWeb API形式等）やユースケースごとにテキスト生成AIの想定されるリスクは変わる。α版では利用形態・ユースケースの違いを意識し、デジタル・ガバメント推進標準ガイドライン実践ガイドブックで定義されている工程に応じたリスクや留意点を挙げている。
検証により判明したリスクや留意点を可能な限り記載
検証を進めていく中で発見した想定リスクについては可能な限り記載をしている。今後、更新を重ね、「テキスト生成AI利活用におけるリスクへの対策ガイドブック」の正式版としての公開を目指す。
「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」の対象読者
政府情報システムへの生成AI導入に関わる行政職員を想定している。「デジタル・ガバメント推進標準ガイドライン実践ガイドブック」や「AI事業者ガイドライン（第1.0版）」と併せてご活用できるとしている。また、行政職員以外でも、自社サービスや業務改善のためにテキスト生成AIの導入検討をされている方は、生成AIの利活用の際に考えられるリスクや対策を検討するための参考としていただきたいとのこと。
「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」の構成
本文（前半6章）と発展的内容を含んだ付録（後半3章）で構成している。
位置付けとロードマップ
2024年度内を目標に、デジタル社会推進標準ガイドラインへの編入を検討予定。
資料のダウンロード
テキスト生成AI利活用時のリスク軽減のための対策ガイドブック（α版）（PDF／1,742KB）（2024年6月10日更新）
更新内容
- 2024年5月29日 初版公開
- 2024年5月30日 誤記等の軽微な修正
- 2024年6月10日 誤記等の軽微な修正
