State v. Loomis
State v. Loomis 判例の要点 本判決の射程は、量刑裁判官が他の事情を独立して検討した上でCOMPASを参考にする場合である。判決は、スコアを収監の可否や刑の重さを決めるために使わないこと、集団データから特定個人の再犯を予測できるわけではないことを明示している。 事実関係: 本件は、2013年にウィスコンシン州ラクロス郡で発生した自動車窃盗事件に端を発する。被告人エリック・ルーミスは、ドライブバイシューティング事件に関連して使用された車両の運転者として逮捕された。ルーミスは所有者の同意なく自動車を運転した罪および警察官からの逃走未遂の罪を認め、有罪答弁を行った。量刑手続きにおいて、裁判所は被告人の再犯リスクを評価するため、COMPAS(Correctional Offender Management Profiling for Alternative Sanctions)と呼ばれるアルゴリズムベースのリスク評価ツールを使用した。COMPASは、被告人を「高リスク」と評価し、裁判所はこの評価を考慮して、6年の懲役刑と5年の延長監督を言い渡した。 中心的争点: 本件の核心的な法的争点は、独占的アルゴリズムであるCOMPASを量刑判断に使用することが、適正手続き(デュープロセス)の権利を侵害するか否かである。具体的には、(1)アルゴリズムの内部構造が企業秘密として非公開であることが、被告人の防御権を侵害するか、(2)性別を要素として含むリスク評価が差別的であるか、(3)個別化された量刑を受ける権利が侵害されているか、という点が争われた。 原告の主張: ウィスコンシン州は、COMPASは証拠に基づく量刑(evidence-based sentencing)の一環として適切に使用されており、裁判官の裁量を補助するツールとして機能していると主張した。州は、COMPASの結果は量刑判断における唯一の要因ではなく、裁判官が独立した判断を下すための情報の一つに過ぎないと強調した。 被告の主張: ルーミスは、COMPASのアルゴリズムが企業秘密として保護されているため、その正確性や妥当性を検証することができず、これは憲法上保障された適正手続きの権利を侵害すると主張した。さらに、性別を要因として使用することは、憲法の平等保護条項に違反し、個別化された量刑を受ける権利を侵害すると訴えた。被告は、透明性のない「ブラックボックス」アルゴリズムに基づく量刑は、司法の基本原則に反すると論じた。 AI/技術要素: COMPASは、Northpointe社(現Equivant社)が開発した機械学習ベースのリスク評価システムである。このシステムは、137の質問からなるアンケートへの回答と、犯罪歴、人口統計学的データ、行動評価を組み合わせて、再犯リスク、暴力的再犯リスク、および釈放失敗リスクを数値化する。アルゴリズムは統計的回帰分析と機械学習技術を使用して、過去の犯罪者データから導き出されたパターンに基づいて予測を行う。しかし、具体的な重み付けや計算式は企業秘密として公開されていない。 重要な手続き上の決定: 第一審裁判所は、COMPASの使用を含む量刑を支持し、被告人の申立てを却下した。ウィスコンシン州控訴裁判所からの認証(certification)により、州最高裁判所が審理した。州最高裁は、COMPASの使用に関する詳細なガイドラインを示しつつ、その使用自体は憲法違反ではないとの判断を下した。 証拠開示: Northpointe社は、COMPASの一般的な方法論と使用される要因のカテゴリーに関する情報を提供したが、具体的なアルゴリズムや重み付けは企業秘密として開示を拒否した。裁判所は、アルゴリズムの完全な開示なしに、その妥当性と信頼性を評価することの困難さを認識した。 専門家証言: 複数の統計学者とコンピューター科学者が、アルゴリズムの透明性の重要性と、ブラックボックスシステムの司法利用に関する懸念について、アミカスブリーフ(法廷助言書)を提出した。特に、ProPublica の調査により、COMPASが人種的バイアスを含む可能性があることが指摘された。 主要な判決内容: ウィスコンシン州最高裁判所は、反対意見なく原審の命令を維持し、COMPASの使用は適正手続きの権利を侵害しないと判示した。ただし、裁判所は、COMPASの使用に関して重要な制限と警告を付した。裁判所は、リスク評価ツールは量刑判断の唯一の決定要因となってはならず、裁判官は独立した判断を維持する必要があると強調した。 勝敗の結果: ウィスコンシン州が勝訴し、ルーミスの有罪判決と量刑は維持された。裁判所は、COMPASの結果が量刑判断における複数の要因の一つに過ぎず、裁判官が他の要因も考慮して独立した判断を下したことを認定した。 命令された救済措置: 裁判所は、今後COMPASを使用する際には、以下の警告を含む書面を提供することを義務付けた:(1)独占的ツールであり、正確性を独立して検証できないこと、(2)全国データに基づいており、特定の地域の犯罪者を正確に識別できない可能性があること、(3)一部の研究者が人種的不均衡を特定していること、(4)再犯率を過大評価するよう調整されていること、(5)グループデータに依存しており、特定の個人を必ずしも識別できないこと。 重要な法的判断: 裁判所は、透明性の欠如にもかかわらず、被告人には量刑に使用されたすべての情報に反論する機会が与えられていたため、適正手続きの権利は保護されていると判断した。また、性別の使用については、それが唯一の要因ではなく、統計的に妥当な相関関係に基づいているため、違憲ではないとした。 反対意見・補足意見: アン・ウォルシュ・ブラッドリー判事とシャーリー・アブラハムソン判事は一部反対意見を述べ、アルゴリズムの不透明性が司法の基本原則を損なう可能性があると警告した。彼らは、将来的により透明性の高いシステムの開発と使用を促した。 適用された法理: 裁判所は、マシューズ対エルドリッジ事件(424 U.S. 319 (1976))の三要素テストを適用し、(1)影響を受ける私的利益、(2)誤った剥奪のリスクと追加的手続き保障の価値、(3)政府の利益を衡量した。裁判所は、証拠に基づく量刑への州の利益が、アルゴリズムの不透明性から生じる潜在的リスクを上回ると判断した。 事実認定:…
Continue reading...