EXPLORE THE DICTIONARY
AI・PMOの進化（2ページ目）
AI活用と人の責任を考える。
全94語 / 49–94語を表示
反実仮想説明
Counterfactual Explanation
入力がどのように変わればモデルの結果が別の望ましい結果になるかを示す説明です。
アルゴリズムの公平性
Algorithmic Fairness
AIなどの判断が人や集団をどう扱うかを、明示した公平性の考え方と尺度で評価する性質です。
ヒューマン・オン・ザ・ループ
Human on the Loop
AIの自動処理を人が監督し、必要な場合に介入・停止できるよう配置する運用の考え方です。
MLOps
Machine Learning Operations
機械学習のデータ、学習、評価、配備、監視をつなぎ、モデルを継続的に運用する実践です。
モデルレジストリ
Model Registry
モデルの版、来歴、評価、利用先などを対応付けて管理する登録基盤です。
概念ドリフト
Concept Drift
入力と予測対象の関係が時間とともに変化し、過去に学んだ規則が合わなくなる現象です。
データドリフト
Data Drift
運用時の入力データの分布が、学習時や基準期間の分布から変化する現象です。
異常検知
Anomaly Detection
通常のパターンから外れる観測や出来事を識別し、調査対象として挙げる処理です。
自動要約
Automatic Text Summarization
文章の重要な情報を選び、元より短い表現へまとめる処理です。
AI駆動プロジェクトマネジメント
AI-driven Project Management
AIを計画・実行・監視に組み込み、人が目的と判断責任を持って案件を進める実践です。
AIアシュアランス
AI Assurance
AIが用途に応じた要件を満たすかを、評価、試験、監査などの証拠で確かめる取り組みです。
AIアシュアランスケース
AI Assurance Case
AIについての主張を、成り立つ理由と根拠資料につなげ、検討可能な形にまとめたものです。
AIシステム台帳
AI System Inventory
組織や案件で使うAIシステムの用途、管理責任者、利用状況などを一覧管理する台帳です。
AIリテラシー
AI Literacy
AIの特徴と限界を理解し、用途に合う使い方を選び、出力と影響を評価する力です。
AI部品表（AI／ML-BOM）
AI Bill of Materials
AIシステムを構成するモデル、データ、依存部品などの情報を整理した構成一覧です。
CPMAI（AIプロジェクトマネジメント方法論）
Cognitive Project Management for AI
AI案件の事業目的、データ、モデル開発、評価、運用をつなぐための方法論です。
CRISP-DM
Cross-Industry Standard Process for Data Mining
業務理解からデータの理解・準備、モデル化、評価、展開までを整理したデータ分析の工程モデルです。
LLMOps
Large Language Model Operations
大規模言語モデルを利用するアプリケーションを、評価・配備・監視・更新する運用実践です。
TDSP（チームデータサイエンスプロセス）
Team Data Science Process
データを使う案件をチームで進めるため、作業の流れ、役割、成果物をそろえる進め方です。
アルゴリズムの説明責任
Algorithmic Accountability
アルゴリズムを使う判断について、責任者、判断の根拠、問題が起きた場合の対応を明らかにする考え方です。
アルゴリズム上の救済可能性
Algorithmic Recourse
自動的な判断の影響を受けた人が、見直しを求めたり、条件を変えて別の結果を得たりできることです。
アルゴリズム透明性記録
Algorithmic Transparency Record
自動判断やAIを使う仕組みについて、目的、関与する業務、データや監督の概要を整理した記録です。
オフライン評価
Offline Evaluation
実際の利用者へ結果を届ける前に、用意した課題やデータを使ってAIの性能を確かめる評価です。
オンライン評価
Online Evaluation
実運用で発生する入力や結果を観測し、AIの品質や業務への影響を評価する方法です。
システムカード
System Card
AIを組み込んだシステムの対象範囲、評価結果、対策や限界を読み手向けにまとめた資料です。
シャドーデプロイメント
Shadow Deployment
現行サービスの処理を維持しつつ、実運用の入力を候補にも渡して挙動を観測する配備方法です。
チャンピオン・チャレンジャー方式
Champion-Challenger Approach
現行のモデルと入替候補を共通条件で比較し、採用判断を行う方式です。
ベンチマークデータセット
Benchmark Dataset
複数のモデルや方式の成績を、共通の課題と採点条件で比べられるように整えたデータの集合。
ベースラインモデル
Baseline Model
新しいモデルによる改善を測るため、比較の出発点として選ぶ既存手法や単純なモデル。
モデルの廃止
Model Retirement
使っているAIモデルの運用を終え、接続先、利用者、記録を整理して移行や停止を完了する活動。
モデルリスク
Model Risk
モデルの誤り、前提のずれ、使い方の誤りによって、業務や意思決定が悪影響を受ける可能性。
モデル検証
Model Validation
モデルが想定する業務に使えるかを、前提、データ、実装、予測結果、実際の利用条件から確かめる活動。
モデル監視
Model Monitoring
配備後のモデルに入るデータ、出力、業務結果を継続して観察し、性能の悪化や想定外の挙動を見つける活動。
不確かさの定量化
Uncertainty Quantification
予測や推定に含まれる不確かさを整理し、幅や確率、分布などで示すこと。
人による監督
Human Oversight
AIの挙動を人が把握し、出力や実行内容の確認、修正、停止を実際に行えるようにする管理。
人間とAIの協働
Human-AI Collaboration
人とAIが役割を分担し、根拠や途中結果をやり取りしながら一つの作業を進めること。
分布外データの検知
Out-of-Distribution Detection
モデルを学習・評価したデータの傾向から大きく離れた入力を見つけ、利用範囲の外にある可能性を判断すること。
学習時・提供時の不整合
Training-Serving Skew
モデルを学習させたときと本番で提供するときで、入力項目やその作り方にずれが生じる問題。
意思決定の自動化
Decision Automation
決めておいた条件やモデルに基づき、人の都度承認を挟まずに判定や選択を行うこと。
意思決定支援システム（DSS）
Decision Support System
意思決定者が選べるよう、必要なデータ、案の比較、判断に使う前提を提示するシステム。
機械学習ライフサイクル
Machine Learning Lifecycle
機械学習を使う課題を決め、データ準備、学習、評価、配備、監視、更新、廃止へ進む過程。
継続的学習（CT）
Continuous Training
新しいデータや性能変化に応じ、運用中のモデルに対する再学習を繰り返す仕組み。
自動化バイアス
Automation Bias
自動化された結果や助言を過度に信頼し、自分で確かめるべき証拠や反証を見落とす傾向。
自動化水準
Levels of Automation
情報の収集、分析、選択、実行などの機能ごとに、システムへどこまで任せるかを示す段階。
評価者間一致度
Inter-rater Agreement
同じ対象を複数の人が評価したときに、判定がどの程度一致するかを表す。
責任あるAI
Responsible AI
安全性、公平性、プライバシー、説明責任などを考慮し、AIの設計から利用終了まで判断する考え方。