AIシステムの品質特性

従来のソフトウェア品質特性（機能性、性能、ユーザビリティなど）に加え、AIシステムには特有の品質特性が求められます。

AI特有の品質特性

1. 柔軟性と適応性 (Flexibility and Adaptability):

   • 未知のデータや環境の変化に対して、システムがどれだけうまく対応できるか。
   • 従来のシステムは「仕様通り」動けば正解でしたが、AIは「曖昧な入力」にも対応する必要があります。

2. 自律性 (Autonomy):

   • 人間の介入なしに、システムが自ら判断し行動する能力。
   • 自律性が高いほど、予期せぬ動作をするリスクも高まるため、監視が必要です。

3. 進化 (Evolution):

   • 運用開始後も、新しいデータを学習してシステムが変化し続ける特性（継続的学習）。
   • 「昨日は正しかった動作が、今日は間違っている」という事態が起こり得ます（ドリフト）。

4. 意図しないバイアス (Unwanted Bias):

   • 学習データの偏りによって、AIの判断が特定の方向に歪むこと。
   • これを防ぐために、学習データの多様性を確保することが品質保証の重要なタスクになります。