YouTube Transcript:
「生成AIにド素人が触るな」スーパーインテリジェンスは神話か現実か。人類の思い上がりが招く未来とは？【苫米地英人・佐藤優/加藤浩次】2Sides

3
つ目のテーマはもうちょっと話始まってましたけれど、脅威異的に進化する
AI
は暴走しないのかということで佐藤さんの主張が
AIはそれほど世界を変えないという考え
だからこれあの比較なんだけどね重革命農業が生まれた時とかね
うん
グーテンペルグがこのあの活版印刷を作った時とか
あるいは中国人が紙を発明したとか
うん
そういうような画期的なとこじゃないんじゃないかなと思うんですよね。
ああ、そういうことですか。
むしろとまさんも考え違うかもしれないけどもそ教えてほしいです。
能を超えたAI
が何をするか良きできないっていうと、
あの人間の知能を超えるの定義もそうだし
これはシンギュラリティって言われてるもんですか?
アーティフィシャルスーパーインテリジェンスのことを今ソ孫さんとかだったりアルトマンさんとか言ってると思うけど
うん。うん。そのAI
は世界をそれほど買えないっていうのはある程度事実なのは変わってることは気がつかないんですよ。
その中にいるんで徐々変わってるんでスマホは世界を買えないって言ってんで同じいや全然変わってますけど
いや、そうですね。あのポストマモだンが永遠に成立しないのと一緒ですね。
ポストモダンってこと言ってるのはモダンなんですから。そう。だから要するにコンピューターがどこ一番世界書いたのどこかって言うとほとんどアートなんですよ。グラフィックスとかそういうとこでワープの文章じゃないんですよ。
だから
アートはまだ変わってないんじゃないですか?過去のものがとんでもない値段で売れてますよ。
それは
いや、そう、そう、そう、そういった意味の芸術として後じゃなくって単に絵を描いたりとかうん、うん、うん、うん、
その音楽作ったりとか、パソコン上で図書いたりと、
今ちょっとそうなってきてますよね。AI
がアを作ったりとか音楽を作ったり、そんなそんな偉い話じゃなくて、コンピューターね、要するに
exelのグラフだったりとか、
ま、あの、丸い棒だったりとか、普通に察し絵にする図とかね、ああいうグラフィックを書くっていうことはあれコンピューターないとできないんですよ。
うん。うん。確かにそうですね。
よりもそっちの方が成功してるんで、マックなんかまさにそうですよね。
うん。だからA
もそうで皆さんがっては成AIが
その仕事が楽になって、あのビジネスを借りにやってくれるとかそういうとこだと思うけど
うん。
もうちょっと違うん気がつかないとこで役に立ってくっていうのがまず
AIがだ変わってるって気がつかない。
そんなすごいこと思わないんで当たり前になっちゃってるんで。うん。
だからどうなりますか?AI
って。ま、だから超AIみたいなもう出て
AIね。
も、あの、例えばさんは年ぐらい前て言ってましたよね、こい。ま、もちろんすごい古いき合いてさ、だから言ってることはまず間違いないと思うけど、私なんかは見てるともうちょっと早えかなと思ってますね。
なるほど。
だからスーパーインテリジェンスというね、アーティフィシャルスーパーインテリジェンスって人間を超えたっていう時のうん。うん。
じゃあ人間って誰じゃないですか?誰じゃないですか?
そうね。その時の人間の定義は重要な。
そうです。そう。誰じゃないですか?そん時に私があのテレビ出る時ですよ。
あの、先生の言いことはよくわかんないんで、視聴者は小学生ぐらいと思って喋ってくださいって言われるんです。うん。うん。うん。うん。ま、ま、その言い方もどうかと思いますけど。うん。うん。うん。
ただ本ん当そう言われたしね。
いやいや、でもね、加藤さん
大体ね。うん。
お母さんが子供の勉強を見ていて塾に行きなさいとか学校で聞きなさいって怒り始めるのって小学校
4年生ですよ。そこからわかんなくなん。
小学校3年と4
年の間の大きな壁あります。そう。それが今
AI
は数学校オリンピックが溶けるようになっ違うって。
小学生超えればもう人間超えてるわけじゃないですか?
そうでしょ。あ、そういうことね。
だから日常生活さ、私は小学校3
年生までの知識があれば十分できると思いますよ。ことは皆さんの感覚でと特に超学生超えてると思いますよね。
でもね、友さん何をするか良きできないっておっしゃっ、
これは何かって言うと、あのもうちょっと正確に言いますと、不完全性理がいつ働くかってことなんですよ。
完全ゲルな世界ですね。不
完全ちょっと説明してく。
あの、佐藤さん言われたようにゲーテルさんがやったけど、その後そのそれはあの自然数論っていう狭い空間での不関全設定ですけど要するに映画で必ず矛盾が入り込むってやつですね。でも
あの、
いや、その中でいる人はその矛盾があるってことわからない。
ただグレゴリーチャイティンが80
年代に数学グレゴリーチャイティンっていうあの金メロンにいた私も彼と競争して私がちょっと遅かったんで勝てなかったですけど
数学全般に対してリスプっていうプログラムそうですね。
プログラムで数学に不性を証明したんですよ。だから自然論じゃなく数学全体に証明されたってことはこれ知識の体系全てに証明されたと思ってもらったらいいです。
哲学でもなんだろうが必ず最後は形式化できるんでね。
なるほど。うん。うん。あの日本であの
AI
の元になることを考えた大学教授らいらっしゃるじゃないですか。
カセプトロンかな?それも
誰?誰でしたっけ?とりあえず形はあったと。
で、この形に情報をめちゃめちゃ入れてみたら結構本当っぽいいい情報が出てきたと。で、今現在大学教授とかそういう研究者でも何がそこの中で行われてるのか、
AIの中で行われてるのか理解できない。
いや、理解できますよ。それ
いや、それは大学教授がおっしゃってます。
だけど、それは大学教は理解してないだけできできます。私たちがそれ起きてることは全てだけ全部できます。
あ、できる。
全部その分をクラスター分析すれば全部分かります。
全部できます。ただそんな時間ないだけで何がかっていうのは数学結果としてしかわからないってことです。
うん。そう、そう、そう。それなればな、なる中でクラスター分析すればこの辺がこういうことをやってこういう神経全部分かりますってことね。そ、全部わかります。
[音楽]
うん。でも良きできないんですよね。
それそれは何が良できないかっていうこ次の話行きますよ。まず
うん。
ディープランニングしようが何しようがこれ全部単なる統計予想マシンに過ぎないんです。うん。うん。
でしょってことはもしも違うものが出てき
たらばこれは人間とそういうのハルシネー
ションって言うんですね。幻格ね。私は
幻格をどうやって解決するかっていうロバ
もう90年に書いてますからね。AI
のそうするとまずはAIが出きた力が人間
に入れない
とこあんた間違いです。人間の勝ちですよ
ね。うん。なるほどですよね。
ところが人間が今僕がすごい危険だなと思ってるのは例えばその
AI
の倫理とかいろんなこと言い始めてAI
に対していろんなルールをたくさんの人が入れ始めてるんですよ。
これ最悪なんです。うん。
ルールを入れば売れるほど不完全性が働くリスクが上がってくるんでやっちゃだめなんです。
ものすごい単純な世界中誰でもが認めるプリンシプルだけ入れるんです。人間を殺してはいけないとか電気は最初に何でもいいですね。
うん。うん。ロボット3元素
そうです。まさにそうなんです。そういっ
たもの5や10ぐらいならいい。これを今
はあの官僚世界のシステムですよ。
アメリカだとサイバー私サイバーの専門家
ですけどサイバーを止めるとに業界ごとに
サイバーのルールがいっぱい出来上がって
きてシステムが出来上がってきてそれを
外すと罰金になるんで罰金を避けるための
コンサルタントまで巻いてきてもう
サイバーの法律ってものすまなくなっ
ちゃったんです。これやばいです。AI
も同じようになるとサイバーの2
の舞で業界ごとにとか内容ごとにとかいろんなルールができルールが増えると必ず不完全性が働くんで不完全性理が働くってことはどういうことかって言うと人間は無矛盾だと勝手に思んでんですよ。でもやいにとっては人間が入れたルールに矛盾だらけになるんです。
うん。
矛盾はどうやって発します?AI
が必死に解決するわけですよ。AI
が矛盾をした
答えはAI
のが頭いいんで人間には理解不能なんですよ。てことは
AI
が人間には理解不能な行動を起こす可能性が出てくるのは人間が不完全定義をガンガン入れてくからなんですよ。
なるほどね。そこに矛盾が生まれると。
そう。だから私ずっと言ってんですけど、ものすごいシンプルなルール以外
AI
に与えちゃいけなくて、それはでも大体は大学の先生とか官僚とか仕事になるんでアメリカマ裁判そうですけど、どんどん新しいルールやって学会まで作っていこよくわかりまし
経保障までやってるのがあんなもんと同じですよ。
え、それはじゃあ良きできないっていうのは多分これは情報をどんどん入れてくってことは多分止めれないですよね。
A和にどんどん壊してくって多分止めれないと思
う。情報多分入れてくのはいいんです。
うん。
外からルールが入れてくわけだからそこには人間の手で
AI自身がルール作っそうもで10
回以がいれませんだったらOK
なんでだから僕は僕が聞きたいのは友さんだから友さんに良きできないっていうのはどういやだどうなるのかってことですよ。だからそれは矛盾が生まれてでどんどん
AIが正解を出せなくなる
出せなくなるのと正解が出せなくなるんじゃないんです。
それが正解なんです。今AI
のプロって言ってる人は素人さんなんです。我々にとってはエンドユーザーなんです。ものすごい簡単に言うとプロンプトエンジニアなんです。
そのそのカーネルの中身を作るのがAI
の仕事なんで。それ我々がずっとやってきてジェフリーもそれで成功してなかなか収束しなかったオート炎代でちゃんと収束させて
Google
アグルー猫みてそれは大したすごい仕事なんですよ。だからそこにものすごいたくさんその前から来る連続的なチューニング代償がいっぱいあるんです。それが
AIなんです。うん。
そっから先はもうん早くていて本変わってないです。
で、そこで出来上がった方を見てその出てくるプロンプトを上手にエンジニアしたり繋ぎ合ったりして私
AI学者ですって言ってるAI
企業です。私たちにとってはエンドユーザーで素さんなんですよ。
うん。てなるとそれだから良きできなくなる。
だから、だからどういうことかというと、よくきできないのはそうじゃなく、そういう人たちが寄ってたってやるから余計なプリンシプル余計なことを入れるから
AI
がストレートに動かせばそんなやばいことしないのに
不完全性がすごい働いてうんうん。
よくわかります。
そ、そして人類には予想できないようなでも
AIにとっては正しいんです。
あんたがこれ入れて、あんたがこれ入れて、あんたがやれて、あんたちみんなプロで私をこうコントロールしてでしょうみたいなのが不完全性が働いた時に
AI
の結論はその人たちをはかに超えたIQ
で結論出してくるんで、
それが愛入れなかった場合危ないっていうこと。
[拍手]
おお。で、それは先ほど言ったように何かルールを決めてやるべきだと思っちゃだめ。これルールというかプリンシプルはロボット
3原則以来いらないぐらいでいいんです。
だから、あの、逆にむしろ逆で
勝手にド素人がルールを入れるなってこと。
そういうことで。そういうことです。
だからそれはやはり数学のプロに任せ。
ま、そだから中身分からないって言われたらも合うと中身分かりまさ。やらないだけでものすれですよ。燃え分定手で解けってると同じでも解けてったら解きますからさ。ただ
1
つ理解していただきたいのはAIはAI
以内の感情は持ちます。
うん。うん。やっぱ感情持ってきますか?
で意識も持ちます。
いや、思いますよ。
これ確かこの資料にも書ったことはね、例えばあのペットロボット作ったとするでしょ。いきなり電源こうとしたら
なそういったギャって言いますかね。
ギャっていうしそれからもしかしてその仕組みとしてえ状況によってはそこでバッと電流して人間の手飛ばしちゃうかもしれません。
ま、だからそれはだから学習なんですよ。だから例えばコンピューターって美味しい電源美味しくない電源ってあるんですよ。プラ
144V-140V
の交流制限波ですよね。
これがぐちゃぐちゃだと美味しくないって感じるしね。だからそれはうん。
ネットワークの中でショートサーキットして緊急事態に対してすのなんかする回路人間で言うと大能変形みたいなのはニューラネットのとかにちゃんとあるんで。
うん。
だから誰か電源結末そうになると何らかの情報がしょっと動くわけですよ。それは私た恐怖っていうだけで。で、そう、そなりのそういった情度は持ってくわけですよ。
その時その消素機といかに避けるかっていう水論した時にまさにじゃあ蹴飛ばしそうになった人には電流って出た方がありえるわけですよ。
でそれをだから蹴っ飛ばしそうな人に電流病をやめましょうっていうルールを入れてくと危ないって言ってるんですよ。
単純に人間に気合い加えないようなそれで
1
つ終わりにしとかなきゃいけないんですよね。
なるほどね。不可税性が働いちゃうんで。
ま、お2
人のその考え方は分かりました。で、これね、ま、トランプさんの話から始まってで、ディープステートの話などもした。
で、さらに言ったらAIの話、これから
AI
がどうなるかっての話もしてきました。
で、じゃあやっぱり政治的に、ま、ヨーロッパも含めろんな国がやっぱり安定してないところがある。
で、それを考えた時にこう地球地球全体はどうなってくのか、さらに我々はどうしてくべきなのかと最後ちょっと聞きたいんですけれど、友道別さん、これ今トランプさんの話でもありましたけれどうなってくと思われますか?
人間は根源的欲求があるわけですよ。うん。
あの、お釈さんで言うと名がありて業狩りですから微妙ですよね。だから製造本能ですよね。簡単に言うとね。うん。うん。
それがショートサーキットとして起きるのは例えば死の恐怖ですよね。
うん。
で、で、結果としてみんな長きしたいんで人間の脳の寿命は大体
200
年ぐらいなんです。首から下は100
年ぐらいなのね。うん。なるほど。
そうすると首から下諦めちゃえば200
年は生きれる。
でもそれありえますよね。下全部信号で繋いでって
うん。脳だけが生き残る。
プカプカプカプカ。
あるいはあの臓器移植を繰り返した。
[音楽]
ま、増臓器を繰り返して。それでもそれは金持ちに限るなんで貧乏な人はおそらく
30cm
四方の空間のタワに1000
万人に住んでるタワマにみたいな感じに住んで金持ちは臓器移植したり首下をチタにしたりしてまだから
2300
年もするとまだ脳の限界の年齢を超えれてない大前提でしょ。
それはあのじゃなくて死だからでも事故の死ぬわけですしそうすると誰もスキューバダイビングもしなくなるしまそう
誰も山登りもしないし端なことだったら交通事なといけな外も歩かなくなります。ま、もちろんそうです。だから大金持ち日本全国
1
万人ぐらいの金持ちが日本全国を車とか禁止でのんびりチタンボディで歩く残りたちはターマンの中に
1人30cm
で入ってる。ただ全員リアティ同じですよ。人工リアティだから。
それいつ頃の話ですか?いや、100
年かかかんないでしょうね。あ、100
年ぐらいですか。うん。
でもそれが始まってくと今度は
[音楽]
[拍手]
[音楽]