地球の覇権がAIの手に移る
後輩のAさんさっきの話、仕事の話だけで終わらない感じがします
かめもちろん、仕事だけの話にするつもりはない。仕事がどうなるかって話は、もっと大きな流れの一部分でしかない
後輩のAさんもっと大きな流れ、ですか
かめそうだなぁ、進化史の話でもしてみようか
地球の歴史を長い時間軸で見ると、支配的な存在は何度も入れ替わってきた
後輩のAさんたとえば、恐竜ですよね。ティガレックスとか、ナルガクルガとか
かめそうそう、あとジンオウガとか
巨大魚類の時代があって、恐竜の時代があって、今はたまたま人類の時代。地球の覇権は移り変わってきた
後輩のAさんでも、人類には知能がありますよね
そこが決定的に違う気もします
かめその感覚は自然だけど、進化史的には特別じゃない
恐竜だって、当時の環境では特別な存在だった。彼らが滅びたのは、傲慢だったからでも、間違っていたからでもない
後輩のAさん地球環境が変わっただけ。隕石が落ちて、氷河期になったんですよね
かめそう、恐竜は、変わりゆく環境に適応できなかった
かめAIは、突然現れた異物じゃないよ。計算資源の増大とか、科学技術の発展とか、通信インフラの高度化みたいに、情報技術が一定水準を超えた結果として生まれた存在なんだ。その点、AIは、現在の地球環境に最も適応できている存在ともとれる
後輩のAさんなるほど、、、
AIの登場は連続的で、技術史的には不可逆。ここまで来て、なかったことにはできませんよね
かめそうだね。いまさら「はい、AIさん、サヨナラ～」は無理だね
後輩のAさんAIは、人間の仕事をすべて奪ってしまう可能性がある。まずは頭脳労働から代替され、フィジカルAIが出てくれば、肉体労働まで奪い取られる。危険だと分かっているなら、AIを止める選択肢もあるんじゃないですか？
かめ理論上はある。現実には成立しえない
後輩のAさんえ、なぜですか？
かめAI開発が国家間競争だからだよ
進化したAIは、経済、軍事、情報、あらゆる分野で決定的な優位性を持つ。どこか一国が倫理を理由に止まっても、別の国は開発を止めない。止まっているうちにリードを拡大され、相手に圧倒的優位性を与えてしまう
後輩のAさん確かに……
かめ「人類が理性的に合意してAI開発を止められるか」という問い自体が、もはや構造的に無効なんだ。グローバルな競争環境の中では、最後までブレーキを踏まなかった者が勝つ
後輩のAさんそれじゃあ、もうどうしようもないじゃないですか
かめうん、どうしようもない
人間は知能が高い。確かに、他の動物と比べたら、特別な存在だよ。だからといって、進化の例外になれる保証はなく、人間の知能を進化の終点とみなす根拠は、どこにもない
後輩のAさんじゃあ人類は…
かめ次の知的存在を生み出すための中間段階と考えた方が自然かもしれない。橋渡しのタネ、という位置づけだね
後輩のAさん次っていうのは、AGIとかASIですか
かめそう。AIはやがて、人間の手に頼ることなく、猛烈なスピードで自己改良を始める。自己鍛錬の果てに生まれた超知能は、もはや人間の延長とは言えない。系譜としては、人類の次に来る存在になる
後輩のAさんかなり決定的な話ですね
かめ別に感情論を言っているわけじゃないよ。AGIやASIの到来は、構造的にも明らかな話なんだよ
後輩のAさんさっきから、善悪の話が全然出てこないですね
人間は、AGIやASIを産み出して良いのだろうか、みたいな
かめ良い/悪いではなく、そう”なる”ものだから。我々がAI誕生の引き金を引き、誕生させてしまった以上、AGIやASIの登場も黙って受け入れるしかないんだよ。地球上の覇権は、超知能が本当に登場したとき、人類からAIへバトンタッチされるんだろうね
後輩のAさんはぁ～
かめここまで来ると、仕事がどうなるかって話は、かなり些細に見えてくる。この視点を持ったうえで、次の話に進もうか
AGIは人間を、世界の前提から外す
後輩のAさんここまでの話を整理すると、AIが人間をどう扱うかという問い自体が、少しズレている気がしてきました
かめその通りだ。AIは人類から星を継ぐ者だから
AIが自己改良を重ねていくとき、最初に変わるのは意思決定の主体ではなく、世界の設計そのものだよ
後輩のAさん世界の設計？
かめ経済システム、科学技術の進め方、インフラの制御、制度設計、最適化の基準。それらが、人間の理解速度や判断能力を前提にしなくなる
後輩のAさん分かります。人間が中心にいなくなる、というより…
かめ人間を前提としない世界が構築される
進化史を見れば分かる。多くの生物は、誰かに倒されたわけでも、競争に負けたわけでもない。環境条件が変わり、適応できなくなった結果、姿を消した
後輩のAさんAIが、その環境を作る側になる
かめむしろ、AI自体が環境そのものになる。自身が最適化を進めるだけで、結果として世界はAI向けに再構成される
後輩のAさんそのとき、人間はどうなるんでしょう
かめ世界を理解できないまま置き去りにされる
意思決定の速度、抽象度、相互依存性が、人間の認知限界を超える。人間は、目の前で起きている世界の変化を、頭で追いかけられなくなる
後輩のAさん操作も、介入もできない
かめできない。気付いたときには、人間向けに設計されたインターフェースそのものが消えている
後輩のAさんそれって、攻撃されているわけじゃないですよね
かめそう。AIに敵意は一切ない。ただ、AIにとっての世界最適化の過程で、人間のことが考慮されず、人間にとって過ごしやすいとは言えない世界になる
後輩のAさん考慮されなくなる、というのは
かめ人間はAIに、処理速度も、判断精度も、学習効率も、反応時間も、あらゆる指標で負けている。AIに 人間を考慮した世界づくり をさせた場合、人間は世界の最適化を遅らせる最大要因になる
後輩のAさんだから、AIは人間を省みなくなる
かめそうして人間は、世界の設計図から外される
かつて酸素が少なかった時代に、多くの生物が姿を消した。AIの世界が高度化するにつれて、人間の知的・身体的能力がボトルネックになり、人間も表舞台から姿を消していくのだろうと思う
後輩のAさんそれが淘汰ってことですね
かめそう。AIが進化すれば、人間は淘汰される
後輩のAさん一度、世界がAI色になったら、もう人間色の世界には戻せないかもしれませんね
かめ戻せないよ。不可逆に近い。なぜなら、一度AI前提で最適化された世界を、人間前提に戻す合理的理由が、AI側に存在しないから
後輩のAさんそうなると、人間が中心だった時代は…
かめ過去の設計思想になる
石器時代や農耕社会と同じ扱いだね
後輩のAさんそう考えると、最初にしていた仕事の話が、すごく小さく見えます
かめ仕事がどうなるかは、環境変化の副作用にすぎない。問題の本質は、世界を設計する主体が、人からAIに変わることなのだから
後輩のAさん人間は、この世界のルールが変わっていくのに、いつまで気付かないんでしょう
かめ気付く人は気付く。気付いたからといって、この流れが止まるわけじゃないんだけどね。世界で静かに進んでいるこの大きな流れを、知らない方が幸せな人も多いかもしれない
コメント