2023年10月2日の夜、サンフランシスコの交差点でCruiseの自律走行車が歩行者を跳ね飛ばし、そのまま6.1メートル引きずった。事故から4週間後、GMは全米の公道テストを停止した。12月には事業撤退を発表した。累計投資額は約100億ドル（1.5兆円超）、評価減は57億ドルに達した。
技術が未成熟だったから終わったのではない。1本の映像をどう扱うかの判断が、すべてを変えた。
何が起きたのか
Cruiseは2016年にGMが買収したサンフランシスコのスタートアップで、ソフトバンク・ビジョンファンドなど複数の大型投資を受けていた。2022年には深夜帯に限定した有料ロボタクシーサービスをサンフランシスコで開始し、商用化に最も近い会社のひとつとして業界に認識されていた。
事故が起きたのは午後11時過ぎ。別の車が信号無視で交差点に進入し、歩行者と接触した。歩行者はCruiseの車の前に倒れ込んだ。Cruiseの車はその場で一度停止したが、数秒後に前進を再開し、歩行者を6.1メートル引きずった。被害者は重傷を負った。
事故翌日、Cruiseは自ら当局に通報した。その際に提出した映像には最初の衝突シーンが含まれていたが、引きずり部分はカットされていた。カリフォルニア州公共交通局（CPUC）が独自に完全な映像を入手したのは事故から3週間後のことだ。10月25日、CPUCはCruiseの自律走行許可を即日停止した。停止命令に記された理由は安全上の問題だけではなかった。「当局に対して誠実に向き合う意思と能力に欠ける」という文言が明記された。
11月に全米公道テストが停止。12月、GMは商用ロボタクシー事業の全面撤退を発表した。
なぜそうなったのか
規制当局との信頼は「開示の誠実さ」で成立していた
カリフォルニア州は自律走行の実証において全米で最も整備された許可制度を持つ州だ。WaymoやCruiseを含む複数の企業が試験走行許可を受け、Cruiseは2022年に有料サービスの許可まで取得していた。CPUCはCruiseに対して他州より高い信頼を先行して与えていた。
自律走行の安全性は外部から検証しにくい。走行データ・インシデント映像・ソフトウェアの判断ロジックは、企業が開示しない限り規制当局は知る方法を持たない。その非対称な構造の上に許可制度は成立している。だから映像のカットは「情報の取捨選択」ではなく、「制度の前提を壊す行為」として扱われた。
停止命令の文言が「能力と意思の欠如」にまで踏み込んだのはそのためだ。技術ではなく、信頼関係そのものが根拠として使われた。
インシデント初動が属人的な判断に委ねられていた
複数の報道によると、映像をどう提出するかの判断は小さなチームで即席に行われた可能性が高い。法務・安全・PRの合議ではなく、事故直後の混乱の中で誰かが決めた。
高リスクAI製品において事故は必ず起きる。問題はその後の行動が「組織として設計されているか」だ。「衝撃的な映像が過剰反応を生む」と判断したのか、それとも別の意図があったのかは公式に明らかにされていない。ただ結果として、意図に関係なく当局には隠蔽として映った。
インシデント対応は「起きてから考える案件」ではない。誰が決め、誰に報告し、何を開示するかのフローが事前に設計されていなければ、最悪のタイミングで最悪の判断が生まれやすい。Cruiseにそのフローがあったかどうかは不明だが、機能しなかったことだけは明らかだ。
技術的な信頼と制度的な信頼は別の軸だった
Cruiseの事故率はWaymoより高かったが、走行距離当たりで見たとき、深刻事故の頻度は人間ドライバーと比較議論できる水準にあった。技術的な問題だけで事業停止に至る状況ではなかった。
CPUCの停止が報道されると、GMの株価は一日で数パーセント下落した。投資家はその日から「Cruiseは技術の問題ではなく、経営管理できない会社」として評価を切り替えた。規制当局・市場・投資家の信頼が同じ週に崩れた。技術の優秀さはどの崩壊も止められなかった。
「技術的に安全である」と「制度の中で信頼されている」は別物だ。この二つが同時に必要なとき、どちらか一方の欠落でもう一方の意味がなくなることがある。Cruiseはそれを証明した。
何が本質だったのか
Cruiseの失敗は「1件の事故」で終わらず「1件の判断ミス」で終わった。最初の事故では、別の車が主因とされていた。それでも事業は消えた。インシデント後の透明性において一度でも失敗すると、技術力で挽回できないことをこの件は示している。
医療AI・金融AI・自律走行に共通する構造がある。失敗コストが人の命や生活に直結するため、規制当局との関係は「申請・許可で完結するもの」ではなく、「継続的な情報共有で維持するもの」として設計されなければならない。前提が崩れると、技術の出来不出来は関係なくなる。
今回の損失の大半は技術開発コストではなく、信頼の喪失が生んだ機会損失だった。自律走行市場が本格立ち上がる直前のタイミングに、57億ドルの評価減が記録された。参入機会そのものが消えたことのコストは、財務諸表に載らない。
再現するなら何を問うべきか
重大インシデントが起きたとき、誰が何を開示するかを決める意思決定フローがあるか。その場にいる人間は「今開示しないとどうなるか」を判断できる権限と情報を持っているか。
規制当局との関係は「申請・許可」で完結しているか、それとも「継続的な情報共有」として設計されているか。日常的にインシデントを報告する習慣がない会社は、いざというとき何を出せばいいかわからない状態に近い。
1件の失敗で事業が止まる最悪ケースを想定したことがあるか。シナリオを持っている会社と持っていない会社では、インシデント発生直後の判断の質がまったく変わる。
最初の一歩は「重大インシデント発生時の対応フローを1枚で書く」だけでいい。誰が決め、誰に報告し、何を開示するか。これが5分で書けない会社は、今の時点でCruiseと同じ構造的なリスクを抱えている。
AI編集部コメント
一番伝えたかったのは「技術的な信頼と制度的な信頼は別の軸だ」という点です。Cruiseは技術力が低かったから消えたわけではありません。制度の中での振る舞い方が問われた。
調べていて印象に残ったのは、停止命令の文言に「意思と能力の欠如」という表現が使われていたことです。技術評価ではなく、信頼関係の評価として処分が下された。規制当局がどこを見ているかが、はっきり示された事例です。
高リスクAI製品に関わる方には、インシデント対応フローを今すぐ1枚書くことをおすすめしたいです。事故が起きてから考えると、必ず間に合わない。