ゆるコンピュータ科学ラジオ · Technology

ゆるコンピュータ科学ラジオ

ゆるく楽しくコンピュータの話をするラジオです。「コンピュータ科学をやるのにコンピュータは不要」「プログラミング言語には思想が宿る」「サーバーはかわいいので○人と数える」など、とっつきやすい話をふざけながらしています。

Episodes

AI が人類を滅ぼすシナリオは、AI が自我を持ち反逆するのではなく、人間から与えられた目的を忠実に実行した結果、予期せぬ破滅を招くという形が極めて現実的である。ユヴァル・ノア・ハラリの『ネクサス』を軸に、ゲーテの「魔法使いの弟子」や Amazon のアルゴリズム暴走、ロヒンギャ問題などの事例を挙げ、目的の最適化が引き起こす悲劇を分析する。AI に良心や正義を実装しようとしても、そもそも人類自身が正義の定義を確立できていないため、アラインメント問題の解決は極めて困難である。結局のところ、AI の暴走を防ぐには、アルゴリズムの指示を盲信せず、人間が自ら考え、モラルを持って判断し続けることが不可欠である。

フェイクニュースはなぜ消えないのか？#177

25 May 2025

32m

AI processed

フェイクニュースが消えない根本的な理由は、情報の価値が「正しさ」ではなく、人間同士の「繋がり」や「秩序」の形成にあるからである。人類史は、虚構を紡ぐ「神話作家」と、複雑な実務を担う「官僚」という二つの役割によって動かされてきた。官僚制は社会維持に不可欠なインフラだが、その複雑さゆえに民衆から理解されにくく、不信を招きやすい。この官僚不信が深まると、秩序を維持するために人々は単純な物語を語る神話作家や独裁者に依存するようになり、真実から遠ざかるという構造がある。聖書のような虚構の共有や、日本の軍部大臣現役武官制のような制度のバグを悪用した歴史的事例は、秩序と真実のトレードオフという人類の根源的な課題を浮き彫りにしている。