C.S. et al v. Saiki
C.S. et al v. Saiki 判例の要点 DAILに収録されたC.S. et al. v. Saiki et al.は6:17-cv-00564として識別され、2017年4月10日の申立てと、在宅介護時間を算出するANA-C/CNA-C評価を扱う。原記事の2019年提訴・3:19-cv-01343という識別情報やCompassという名称とは区別する。後の和解条件をこの識別だけから推測しない。 事実関係: 本件は、オレゴン州が発達障害を持つメディケイド受給者に対する在宅・地域ベースのサービス時間を決定するために導入した「Compass」と呼ばれるアルゴリズム評価ツールの使用に関する集団訴訟である。2016年、オレゴン州発達障害サービス局（ODDS）は、従来の個別評価システムから、標準化されたアルゴリズムベースの評価システムへの移行を開始した。このシステムは、サービス時間の割り当てを自動化することを目的としていたが、実装後、多くの障害者が大幅なサービス削減を経験した。原告らは、必要不可欠な日常生活支援サービスが50％以上削減されるケースもあり、基本的な生活活動を維持できなくなったと主張した。 中心的争点: – アルゴリズム評価ツールが個々の障害者の固有のニーズを適切に評価できず、システマティックな差別を生じさせているか – ANA-C/CNA-C評価ツールの使用が適正手続きの保障なしにサービスの削減をもたらし、憲法上の権利を侵害しているか – 州がADAおよびリハビリテーション法第504条に基づく合理的配慮の提供義務を怠っているか – アルゴリズムの透明性の欠如と不服申立プロセスの不備が法的要件を満たしているか 原告の主張: 原告は、Compassアルゴリズムが個別化された評価を提供せず、障害者の複雑なニーズを画一的な数式に還元することで、必要不可欠なサービスへのアクセスを不当に制限していると主張した。特に、システムが行動上の支援ニーズや医療的複雑性を適切に考慮せず、機械的な点数付けによってサービス時間を決定することで、障害者の尊厳と自立を脅かしていると訴えた。さらに、アルゴリズムの動作が「ブラックボックス」であり、なぜサービスが削減されたかの明確な説明を受けられないことが、適正手続きの権利を侵害していると主張した。 被告の主張: 被告であるオレゴン州当局は、ANA-C/CNA-C評価ツールは客観的で一貫性のある評価を提供し、限られた資源の公平な配分を可能にすると主張した。州は、このツールが全国的に認められた評価基準に基づいており、個人の主観的判断による偏見を排除することで、より公正なシステムを構築していると反論した。また、不服申立プロセスが用意されており、個別の事情を考慮する機会が保障されていると主張した。 AI/技術要素: ANA-C/CNA-C評価ツールは、Support Intensity Scale-Adult（SIS-A）に基づく標準化された評価アルゴリズムで、約100項目の質問に対する回答を数値化し、統計モデルを用いてサービス時間を算出する。このシステムは、機械学習要素は含まないものの、複雑な加重計算式を使用して、個人の支援ニーズを「客観的」に評価することを目的としていた。しかし、アルゴリズムは個人の医療的複雑性、行動上の課題、環境要因などの重要な変数を適切に重み付けできず、多くの誤った結果を生成していた。 重要な手続き上の決定: 2020年3月、連邦地方裁判所は原告の仮差止命令の申立てを部分的に認め、州に対してANA-C/CNA-C評価ツールの使用による自動的なサービス削減を一時停止するよう命じた。裁判所は、原告が本案で勝訴する可能性が高く、回復不能な損害を被るおそれがあると認定した。2020年11月には、裁判所が集団訴訟としての認証を承認し、オレゴン州内の約5,000人の発達障害者を代表する訴訟となった。 証拠開示: 証拠開示手続きにおいて、原告はCompassアルゴリズムの内部文書、検証データ、エラー率に関する統計を入手した。これらの文書により、システムが約30％のケースで不正確な評価を生成していたこと、特に複雑な医療ニーズを持つ個人に対して系統的に低い評価を与えていたことが明らかになった。また、州がシステムの問題を認識していながら、適切な是正措置を講じていなかったことを示す内部メールも発見された。 専門家証言: 複数の専門家が、アルゴリズム評価ツールの限界と障害者サービスにおける個別化評価の重要性について証言した。特に、コンピュータ科学の専門家は、ANA-C/CNA-C評価ツールが統計的な外れ値を適切に処理できず、標準的でないニーズを持つ個人を系統的に不利に扱っていることを指摘した。障害者権利の専門家は、アルゴリズムによる画一的な評価が、ADAが要求する個別化された合理的配慮の原則に反すると証言した。 主要な判決内容: 2021年10月29日、両当事者は包括的な和解合意に達した。裁判所は和解を承認し、以下の主要な救済措置を命じた： 勝敗の結果: 原告が実質的に勝訴し、求めていた主要な救済措置のほぼすべてを獲得した。州は、アルゴリズム評価システムの根本的な欠陥を認め、システムの全面的な見直しに同意した。 命令された救済措置: – 即時的救済：影響を受けた個人への過去のサービスレベルの回復 –…
Continue reading...