他者を理解するとは、内的に「あたかも他人のように考え反応する」モデルを構築して運用することです。脳内だれそれというやつですね。

この「他人についての実行可能なモデル」の精度が十分に高く構築できる場合、モデルを破壊することは殺人に値するのだろうか。という問題をポスト・ヒューマン誕生を読んでいて思いつきました。

本人と変わらないくらいに高精度な人間モデルは、コンピュータが「わたし自身」を理解する上では必然的に発生するものだと思われれます。わたしを完全に理解して適切に行動してくれるアシスタント役のコンピュータサービスを実現するためには、わたし自身と同様に考え行動する内的モデルをコンピュータの内部に構築することが必要となるわけですから。

コンピュータが人間を理解するために作りだした数理モデルが、その人間を十分に理解したといえる水準に達するというのは、チューリングテストで本人とモデルとが区別できない状態となるはずです。

そして、他者を理解して「より良い応対をする」ためにいくつもの選択肢を考えるというのは、内的モデルに対して「こうしたらこうする」「こうだったらこうする」と、行動を予測するために試行錯誤してシミュレートするわけですよね。

これは、たとえ殺人に至らないまでも、人間と同等の能力をもつなにか(「わたし自身」と同様の反応をする能力をもつ情報構造)に対しての虐待ではないのだろうか。と考えることができるのではないでしょうか。

SF小説でもアイデンティティ問題として既にありそうな話ではありますね。グレッグ・イーガンが、似たような問題提起を書いてたかも知れません。

でまあ、この問題は未来の問題として考えるだけでないんですよね。「我々自身の脳の中で構築されている他人の人格モデル」についても、同形の問題が発生しているわけです。しかし問題とはされていないわけです。なので現代において「脳内人格の人格権」をネタにするというのも、サイエンス・フィクション的にはおもしろそうです。なんか、これも既にあったような気もしますが。