読書ノート ⁽⁹⁾

[埋め込み: https://read.amazon.com.au/kp/card?preview=inline&linkCode=ll1&ref_=k4w_oembed_ECcMqWYPmzgGi0&asin=4802510179&tag=homunet0a-22] AI倫理を考えるにあたって、哲学的なベースを持っていた方がいいと思い購入し、「第１夜」を読んだ。が、ここでの哲学は、AIに人を再現させるにあたって、哲学的に研究された人間の心の仕組みを紹介するというもののため、僕の読書の動機と異なることが判明。それにしても面白そうだし、文章としてはわかりやすいのだけれど、他の本を読み進めるのを優先したいので、一旦積ん読コーナー行き。すみません。

[埋め込み: https://read.amazon.com.au/kp/card?preview=inline&linkCode=ll1&ref_=k4w_oembed_LwqLeK1cKebfCI&asin=4121506677&tag=homunet0a-22] この本で述べられているAIの倫理は、企業がAI導入において検討する「AI倫理」ではなく、「倫理」そのものとのAIとの関係。 僕が感得した要旨は「倫理を問題とできるのは自律的存在である（自由な意思決定をする）人間だけである。他律的存在であるAIには倫理的な責任の対象とはなり得ない。倫理は他者への共感によって共同体内で形成されるものである。共感をすることができないAIには倫理を形成する能力はない。しかし一般人はAIが自律的であるとか、共感をするとか誤解してしまうのだ。」という感じ。 僕が法律家だからなのかもしれないけれど（上述の要旨は刑法の責任論で頻出するので）、この点を主張するためにこの本に記述されている論述が必要なのかという気がする。あと途中は他説の批判が多くて、「第４の」あたりでは挫折して一部読み飛ばしてしまった。僕としては自説の根拠にもう少しページ数を割いてほしかった。当たり前的主張であっても、それの根拠を説得的に述べられることに価値があるのではないかと思う。 「AIの発展にAI倫理の議論が置き去りになっている」という主張なのだけれど、この本の話がAI倫理の検討の基盤をなすこととの関係が僕にはよくわからなかった。 後半の「練習問題」についても回答が何か独自の視点を提示しているのかと期待したのだけれど、そういった要素はなく、「自動運転」の項だけで挫折。

[埋め込み: https://read.amazon.com.au/kp/card?preview=inline&linkCode=ll1&ref_=k4w_oembed_PuEDimdjPEcAiG&asin=4296204084&tag=homunet0a-22] 一般向けなのでかなりわかりやすい記述。AIに求められる特性を５つにまとめているのみシンプルでよい。ただ書かれている各種のリスク(16+1に分類されている)が、本当にそれはリスクなのと疑問を呈したくなるものが多く、これを真に受けて余計な心配をするひとが出てしまわないかというのが心配。「その対策って読者にはできないでしょ」とか「読者がお金を払って買っている本で自社のソリューション紹介にページを割くの」と突っ込みたい部分もあったり。AI原則のまとめの整理として東大横山教授の論文を紹介してくれていたのは参考になった。この視点を本の執筆当時に記載していたことにはバリューがあると思う。ただAI事業者ガイドライン（この本に記載の８原則を包摂しているオフィシャルドキュメント）が公表された今となってみると、コンサル業の立場としては、ガイドラインをより実践的にとらえるとか、理解を深くするとか、独自の視点が必要だと思う（自戒）。ガイドラインを取り巻く環境の歴史の記述はよくまとまっている。ただ変化が激しいので、その後のフォローアップは自分で調査が必要。

[埋め込み: https://read.amazon.com.au/kp/card?preview=inline&linkCode=ll1&ref_=k4w_oembed_bkdliibQfxb68R&asin=B00FG7NSW4&tag=homunet0a-22] テクノロジーの進歩がもたらす「倫理的悪夢」を回避せよ →「言葉遊びで責任を果たしたと勘違いするな」という指摘は、痛いところを突かれたと考える経営者が多いのでは。以降の記述は陳腐な感じがした。 責任ある企業としてAIをどう活用すべきか →「組織内の全ての情報をオープンなＡＰＩで繋ぐ」という提案は、夢想的な感じがするけれども、企業の組織改革には劇的に効く気がするし、Amazonの実例があるのなら信じて見たい気がする。「学習データのドキュメンテーションを揃えておく」は、機械学習エンジニアからすると当たり前の話なんだけれど、経営層からすると不明確になりやすいのだろうか。データのサニタイズで差別を防止できるという発想は古いし現実を見ていない感じ。他の質問回答も月並みなので読むのを途中で断念した。 テック業界が大切にすべき価値観は何か →マーガレット・オマラ「危険なのはＡＩではなく、AIに振り向けられる情熱とビジネス上の動機だ」。これは正鵠を突いていると思う。いいこと言う。 →他の著者はお決まり的な倫理の説法だった。 人にまつわるデータを倫理的に取り扱う方法 →わかりやすい。ただし個人情報保護法に基づいて実施すべき内容と被るので、途中までは法律を知っている人にとってはそれの再確認。AIとの関係でのチェックでいえば、その先のプライバシーを考慮するという観点との関係が重要。「準備」の項はAIとの関係が不明。高度なプロファイリング能力がプライバシー侵害となるかという点については、もっと深い議論を聞いてみたい。 人間とAIの相互理解が、社会に創造性と安全性をもたらす →この雑誌の特性を踏まえ門外漢の経営者さんに技術的な部分を解説する内容。その後の「ＡＩに世界を理解させる」という話はいきなり観念的になるので、私には理解ができなかった。

AI倫理の体系 ver.20240828 AI倫理を考える上での自分的メモ 本を読みながらの殴り書き状態 勉強しながら追記していきます ・「ＡＩガバナンス」「AI倫理」としていたけれども、もっと包括的な概念として考えたいのでＡＩ規範に変更。ただしこれもしっくりきていないのでまた変更の可能性あり。 →「ＡＩ倫理」に再度変更。AI規範の方が自分的にはしっくりくるのだけれど、AI倫理の方が一般的に使われていて話題として共有しやすい AI規範の目的は一言で言えば何か - 差別を産んではいけない - プライバシーを侵害してはいけない - 正しいとは限らない - 理由を説明できないことを合理化できること - 暴走を止められないといけない - サービスの売り手なら：特性を説明できること（できる・できない・リスク） - サービスの使い手なら：機密情報をあげてはいけない - 開発者なら：権利を侵害して・権利侵害が高いものを作ってはいけない ａｉのための特別な規範があるのではなく、人が従うべき規範をAIという側面で切り取ったもの EU包括法 gdpr dsa emfa そんなことはない 再ダウンロードが必要？ それは 当然そうか？ テキストファイルもそもそも数字の羅列 同じデータを徹底的に学習させてパターンを獲得する場合は個人情報 手段を含まない しゃーないで済むのか？ こじょういはしゃーない的 プライバシー侵害を固定化する デジタルタトゥ 再現不可AIの学習目的に限定 過失ならいいのか 未必の故意はある 肯定説を取るべきでは だって事実と関係ない…