← 意思決定OS

AI/System Design Principles

ai-system-design-principles.md

更新
2026/8/15 9:31:21

AI / System Design Principles — AI・システム設計上の原則


ASD-001 AIは候補と根拠を出す。確定するのは人

マッチ精度は中程度で構わない。根拠を添えれば、人の確認は速い。 精度100%を目指すより、根拠つき候補+人の確定のほうが早く実用化する。

出典: 2026-08-14 reel_catalog / seicho-tasukeru(両方で独立に採用)

ASD-002 AIの自己申告確信度は信用できる(要定期再測定)

「確信度:高」と申告したものの的中率は100%だった(2026-08-14 実測)。ただしモデル更新で校正は変わるため、案件開始時に必ず再測定する。

数字を測らずにこの前提に乗るのは危険。

ASD-003 安いシグナルから順に使う

メタデータ(ほぼ0円)→ 品質判定(ほぼ0円)→ ローカル音声認識(数分)→ ローカル顔クラスタ(小)→ 外部AI映像解析(数百円)。

高コスト工程には、絞り込み済みだけが到達する。

ASD-004 個人情報を含む処理はローカル完結

顔クラスタリングは外部送信なしでローカル実行。顧客の素材に映る人物は、契約上も心情的にも外に出せない。

一般化: 「外に出したら説明責任が発生するデータ」は、まずローカルで処理できないか検討する。

ASD-005 原本は絶対に移動しない

納品先へはコピーのみ。不可逆な操作は、自動化の対象から外す。(→ decision-principles DP-005 と同根)

ASD-006 可変値はコードの外+リモート配信

質問文・閾値・上限・AIの思考の重さ(effort)は config に出し、クラウドから配る。再リリースなしでチューニングできる。

※ ただしセキュリティ境界と課金額は外に出さない

ASD-007 コスト通知を最初に配線する

AIエンジンを接続したのと同じコミットで、コスト通知を Chatwork に流した(2026-08-14 08:34)。

課金が発生する仕組みは、動くようになった瞬間に通知を持たせる。 あとで付けると、その間の請求が読めない。

ASD-008 スキーマは単一ソース

型定義を1箇所に集約し、そこから各層を導出する(Zod)。ADR-005 として明文化。

AIに書かせる開発ほど、型の二重定義が起きやすい。 単一ソース化は AI 並列開発の必須条件に近い。


⚠️ 未整備(次に埋めるべき領域)

  • 障害時の設計: リトライ・タイムアウト・ログ・監視・アラート。2026-08-14 時点でゼロ。north-star §3 の最大の穴。
  • ロールバック: config をリモート配信にした結果、壊れた設定を配ると全端末が同時に壊れる。前バージョンへ戻す手順が未定義。
  • 依存障害時の縮退: Neon / Lambda / CloudKit / 外部AI が落ちたときの挙動が未定義。