現在進行中の道徳的大惨事の可能性（要約）

私は数年前、地元のディスカッショングループ用にエバン・ウィリアムズによる優れた哲学論文のアウトラインを作りました。そのアウトラインが徐々にEAのオンラインコミュニティ上で回覧されるようになり、もっと広く知らせるようにと勧められたので、こちらに掲載しようと思います。

その哲学論文は読みやすく、無料で閲覧できるので、時間があれば原著を読むことを強くお薦めします。

要約

I. 核となる主張

道徳的客観主義（あるいはそれに近いもの）を前提とした場合、私たちはおそらく知らず知らずのうちに重大かつ大規模な過ち（「現在進行中の道徳的大惨事」）を犯していることになる。

II. 定義：道徳的大惨事とは？３つの基準

重大な過ちでなければならない（軽い侮辱や不都合というよりも不正な死や奴隷制に近い）
大規模でなければならない（一回きりの不当な処刑や一人に対する拷問よりも規模が大きい）
社会の幅広い層が、行動や行動しないことを通じて責任を負う（一人の独裁者による一方的な不可抗力ではありえない）

III. 私たちが未知の道徳的大惨事をおそらく迎えるわけ。二つの主な主張。

帰納法
1. 前提条件：自分自身や社会の道徳に則って行動していても、大きな道徳的な過ちを犯すことは可能である。
  1. 基本的な動機：ナチスが正直で誠実であったとしても、重要な点において間違った行動をとっているように思われる。
  2. この過ちが、誤った経験的信念（全てのユダヤ人は世界規模の陰謀に加担している）によるものなのか、間違った価値観（ユダヤ人は人間以下であり道徳的価値はない）によるものなのかは関係ない。
2. この前提を念頭に置くと、歴史上の主要な社会はほぼ全て、破滅的に間違った行動をとってきたことになる。
  1. コンキスタドール、十字軍、イスラム帝国、アステカなどの、彼らが善や正義と呼んだ神の名の下において、征服行為を行なった者のことを考えてほしい。
  2. これらの歴史上の人物がみな、そのような信念を称しただけで、真の信者ではなく、嘘つきであったということは考えにくい。
  3. 存在の証明：人は無自覚のまま、大きな悪事を行うことができる（そして実際に行っている）。

現在進行中の道徳的大惨事を私たちが迎えることは、ただの可能性ではなく、十分にありえる。

私たちは過去の世代とさほど変わらない。文字通り何百もの世代が、自分たちは正しくて、「唯一の真の道徳」を見つけ出したと考えてきた。
私たちの親の世代では、人種やセクシュアリティなどの理由で、ある人は他の人より多くの権利を持っているというのが一般的な考えであった。
私たちは道徳が激変している時代に生きており、私たちの道徳は祖父母の時代とはかなり異なっている。
仮にいずれどこかの世代が「道徳の全て」を解明するとしても、その全てを正しく理解する世代はおそらく、その親世代がほとんどすべてを正しく理解している世代であろう。

選言的論法

活動家が免責されるわけではない。たとえ、あなたが興味のある問題が全て解決したとしても、私たちの社会がよいものであるとは限らない。なぜなら、そこにはまだ未知の道徳的大惨事があるから。
社会が間違いを犯すにはさまざまな方法があり、文字通り全てを正すことはほぼ不可能である。
これは単なる些細な心配事ではなく、ホロコーストの悲惨さに相当するレベルで私たちが間違っている可能性がある。
社会の間違い方にはさまざまな種類がある。
1. 誰が道徳的地位を持つのかに関して間違っているかもしれない（例：胎児や動物）
2. 道徳的に重要な人に害を及ぼしたり傷つけたりすることに関して経験的に間違っているかもしれない（例：子どもへの宗教的思想の吹き込み）
3. ある義務に関しては正しくても、他の義務に関しては間違っているかもしれない。
  1. 誤った道徳的義務に過剰な注意を払い、リソースを使うことで、道徳に反した行動をとりうる（十字軍のように）。
4. 何が間違っていて修正されるべきであるかに関しては正しいが、さまざまな修正への優先順位の付け方に関しては間違っているかもれない。
5. 何が間違っているかに関しては正しいが、何を修正することが私たちの責任であり、何がそうでないのかに関しては間違っているかもしれない。（例：貧困、国境）
6. 遠い未来について間違っているかもしれない。（出生論、存亡リスク）
各カテゴリーには、複数の間違え方がある。
1. さらに、なかには相互に排他的なものもある。例えば、プロライフ（中絶反対派）を唱える人が正しくて、人工妊娠中絶は大きな罪であるかもしれないし、もしくは、胎児は重要ではなく、例えば妊娠末期の中絶において、女性の自由を奪うことは道徳に強く反するかもしれない。
2. 私たちが現在、これら全てのトレードオフにおいて完璧なバランスを取れているとは考えにくい。
選言的判断が絡んでくる。
1. 重要な問題それぞれにおいて95%の確率で私たちが正しいと信じたとして、そのような問題が15個あったとすると、私たちが正しい合計確率は $95\%^{15} \approx 46\%$ である（独立性を仮定）。
2. 実際には、重要な問題それぞれにおいて95%の確率で正しいと思うのは過信した見積もりであり、15項目というのは少なぎるように思われる。

切り捨てられた可能性：予防策を取る。確信が持てない場合は、道徳的に言って「安全な」行動をとる。
例えば、畜産動物には知覚力はないだろうとか、知覚力の有無は道徳的に重要ではないと考えていたとしても、「念のために」ベジタリアンになることができる。
この方法は強力ではないため、一般的には十分に機能しない。前述のように、あまりに多くのことが間違っている可能性があり、なかには矛盾したものもある。
過ちを認識する
1. どのような破滅的な過ちを犯しているのか、積極的に把握しようとする。
  1. 私たちが決定的に間違っている可能性のある実践的な分野（例：動物の意識）をもっと研究する
  2. 道徳哲学をもっと研究する
    1. 重要：道徳的な知恵が増えずに技術的な知識が増えることはよくない・
    2. 核兵器を持ったチンギス・ハーンを想像してほしい
  3. これらの分野は相互に関わらなければならない。
    1. 哲学者が動物は意識があるのであれば重要であり、科学者がイルカは意識があるが重要かはわからない、と言うだけでは不十分である。私たちの社会がこれらを統合できなければならない。
2. 本物のアイディアが勝つアイディア市場が必要である
3. 急速な知的進歩は必要不可欠である
  1. ナチスを倒すため、あるいは奴隷制度を終わらせるために文字通りの戦争をする価値があるのならば、私たちが現在どんな過ちを犯しているかを解明するために、多大な物質的投資をして社会的損失を被る価値があるはずだ。
改善した価値観を実現する
1. 私たちが犯してきた重大な道徳的過ちを理解したら、過去の被害に対して道徳的な償いをする、さもなければ少なくとも同様の間違いを犯してさらに被害を出すことをできるだけ早く止められるようにしたい。
2. そのためには、物質的な面での柔軟性を最大化したい。
  1. 極端に貧しい社会や戦争で荒廃した社会では、必要に応じて迅速に道徳的な変化を起こすことはできないだろう。
  2. 例：特定のデザインに沿って構築された複雑なシステムは、衝撃に弱く、変化しにくい。アンチフラジャイルを参照。
  3. 戦争に備えて資源を蓄えておくのと同じように、将来の道徳的な緊急事態のために資源を蓄え、例えば賠償金の支払いや、少なくとも適切な変更を迅速に行うことができるようにしておくと良いだろう。
    1. これが実際にどのように可能なのかはよく分からない。例えば、個人は通常、投資をすることで貯蓄し、政府は他の政府の債券を購入したり、民間部門に投資したりすることで貯蓄するが、世界全体としてどのように「貯蓄」するのかは不明だ。
3. 社会情勢の柔軟性を最大化したい。
  1. 物質的には大きな変化が可能でも、惰性や保守的なバイアスにより、社会がそのような変化を非常に難しくしている場合がある。
  2. 例えば、憲法改正によって社会を統治することは柔軟性に欠ける社会状況をもたらす可能性が高く、疑念の目をもって見る必要がある。

ユーザー設定

ユーザー設定

現在進行中の道徳的大惨事の可能性（要約）

要約

I. 核となる主張

II. 定義：道徳的大惨事とは？３つの基準

III. 私たちが未知の道徳的大惨事をおそらく迎えるわけ。二つの主な主張。

IV. 私たちはどうすればいいのか？

V. 結論・その他の指摘