In re Matter of Juvenile Client (AI Risk Assessment Challenge)
In re Matter of Juvenile Client (AI Risk Assessment Challenge) 判例の要点 DAILのIn the Matter of [Juvenile Client]は、コロンビア特別区上級裁判所の少年事件で、2018年3月15日にSAVRYに基づく暴力リスク評価の結論・勧告を一部排除したとされる。複数法域にわたる一般的分析と、この特定事件の判断は区別して読む必要がある。匿名の少年事件であるため、氏名や秘匿された事件番号を補ってはならない。 背景と争点 (Background and Issues) 事実関係: 本件は、米国の少年司法制度においてAIベースのリスク評価ツールの使用に対する憲法上の異議申し立てを包含する複合的な訴訟群である。2016年以降、複数の州において、少年被告人に対する処遇決定（釈放条件、処遇プログラム、施設収容の判断等）にCOMPASやその他の独自アルゴリズムが使用されており、これらのツールが人種的偏見を永続化し、少年の更生という少年司法の基本理念に反するとして、公設弁護人および市民権団体が異議を申し立てている。 ProPublicaの調査により、COMPASアルゴリズムが黒人被告人に対して白人被告人の約2倍の割合で誤って高リスクと分類することが明らかになった後、少年司法におけるこれらのツールの使用に対する懸念が高まった。少年の脳発達の未成熟性と更生可能性を考慮すると、成人向けに開発されたアルゴリズムを少年に適用することの適切性について、特に深刻な疑問が提起されている。 中心的争点: 1. AIリスク評価ツールの使用が少年被告人の適正手続きの権利を侵害するか 2. アルゴリズムの不透明性が対審権を侵害するか 3. 人種的に偏ったアルゴリズムが平等保護条項に違反するか 4. 少年の更生重視という法的要請とリスク評価の使用が両立するか 5. 独自アルゴリズムの企業秘密保護と被告人の権利のバランス 原告の主張: – AIリスク評価ツールは、少年の社会経済的背景や家族環境など、少年自身がコントロールできない要因に基づいて処罰的な結果を生み出す – アルゴリズムの「ブラックボックス」性により、弁護人が効果的に異議を申し立てることができない – 歴史的に偏った刑事司法データで訓練されたアルゴリズムが、構造的人種差別を永続化している – 少年の発達的特性と更生可能性を適切に考慮していない –…
Continue reading...