YouTube Transcript:
「生成AIにド素人が触るな」スーパーインテリジェンスは神話か現実か。人類の思い上がりが招く未来とは?【苫米地英人・佐藤優/加藤浩次】2Sides
Skip watching entire videos - get the full transcript, search for keywords, and copy with one click.
Share:
Video Transcript
3 つ目のテーマはもうちょっと話始まってましたけれど、脅威異的に進化する AI は暴走しないのかということで佐藤さんの主張が AIはそれほど世界を変えないという考え だからこれあの比較なんだけどね重革命農業が生まれた時とかね うん グーテンペルグがこのあの活版印刷を作った時とか あるいは中国人が紙を発明したとか うん そういうような画期的なとこじゃないんじゃないかなと思うんですよね。 ああ、そういうことですか。 むしろとまさんも考え違うかもしれないけどもそ教えてほしいです。 能を超えたAI が何をするか良きできないっていうと、 あの人間の知能を超えるの定義もそうだし これはシンギュラリティって言われてるもんですか? アーティフィシャルスーパーインテリジェンスのことを今ソ孫さんとかだったりアルトマンさんとか言ってると思うけど うん。うん。そのAI は世界をそれほど買えないっていうのはある程度事実なのは変わってることは気がつかないんですよ。 その中にいるんで徐々変わってるんでスマホは世界を買えないって言ってんで同じいや全然変わってますけど いや、そうですね。あのポストマモだンが永遠に成立しないのと一緒ですね。 ポストモダンってこと言ってるのはモダンなんですから。そう。だから要するにコンピューターがどこ一番世界書いたのどこかって言うとほとんどアートなんですよ。グラフィックスとかそういうとこでワープの文章じゃないんですよ。 だから アートはまだ変わってないんじゃないですか?過去のものがとんでもない値段で売れてますよ。 それは いや、そう、そう、そう、そういった意味の芸術として後じゃなくって単に絵を描いたりとかうん、うん、うん、うん、 その音楽作ったりとか、パソコン上で図書いたりと、 今ちょっとそうなってきてますよね。AI がアを作ったりとか音楽を作ったり、そんなそんな偉い話じゃなくて、コンピューターね、要するに exelのグラフだったりとか、 ま、あの、丸い棒だったりとか、普通に察し絵にする図とかね、ああいうグラフィックを書くっていうことはあれコンピューターないとできないんですよ。 うん。うん。確かにそうですね。 よりもそっちの方が成功してるんで、マックなんかまさにそうですよね。 うん。だからA もそうで皆さんがっては成AIが その仕事が楽になって、あのビジネスを借りにやってくれるとかそういうとこだと思うけど うん。 もうちょっと違うん気がつかないとこで役に立ってくっていうのがまず AIがだ変わってるって気がつかない。 そんなすごいこと思わないんで当たり前になっちゃってるんで。うん。 だからどうなりますか?AI って。ま、だから超AIみたいなもう出て AIね。 も、あの、例えばさんは年ぐらい前て言ってましたよね、こい。ま、もちろんすごい古いき合いてさ、だから言ってることはまず間違いないと思うけど、私なんかは見てるともうちょっと早えかなと思ってますね。 なるほど。 だからスーパーインテリジェンスというね、アーティフィシャルスーパーインテリジェンスって人間を超えたっていう時のうん。うん。 じゃあ人間って誰じゃないですか?誰じゃないですか? そうね。その時の人間の定義は重要な。 そうです。そう。誰じゃないですか?そん時に私があのテレビ出る時ですよ。 あの、先生の言いことはよくわかんないんで、視聴者は小学生ぐらいと思って喋ってくださいって言われるんです。うん。うん。うん。うん。ま、ま、その言い方もどうかと思いますけど。うん。うん。うん。 ただ本ん当そう言われたしね。 いやいや、でもね、加藤さん 大体ね。うん。 お母さんが子供の勉強を見ていて塾に行きなさいとか学校で聞きなさいって怒り始めるのって小学校 4年生ですよ。そこからわかんなくなん。 小学校3年と4 年の間の大きな壁あります。そう。それが今 AI は数学校オリンピックが溶けるようになっ違うって。 小学生超えればもう人間超えてるわけじゃないですか? そうでしょ。あ、そういうことね。 だから日常生活さ、私は小学校3 年生までの知識があれば十分できると思いますよ。ことは皆さんの感覚でと特に超学生超えてると思いますよね。 でもね、友さん何をするか良きできないっておっしゃっ、 これは何かって言うと、あのもうちょっと正確に言いますと、不完全性理がいつ働くかってことなんですよ。 完全ゲルな世界ですね。不 完全ちょっと説明してく。 あの、佐藤さん言われたようにゲーテルさんがやったけど、その後そのそれはあの自然数論っていう狭い空間での不関全設定ですけど要するに映画で必ず矛盾が入り込むってやつですね。でも あの、 いや、その中でいる人はその矛盾があるってことわからない。 ただグレゴリーチャイティンが80 年代に数学グレゴリーチャイティンっていうあの金メロンにいた私も彼と競争して私がちょっと遅かったんで勝てなかったですけど 数学全般に対してリスプっていうプログラムそうですね。 プログラムで数学に不性を証明したんですよ。だから自然論じゃなく数学全体に証明されたってことはこれ知識の体系全てに証明されたと思ってもらったらいいです。 哲学でもなんだろうが必ず最後は形式化できるんでね。 なるほど。うん。うん。あの日本であの AI の元になることを考えた大学教授らいらっしゃるじゃないですか。 カセプトロンかな?それも 誰?誰でしたっけ?とりあえず形はあったと。 で、この形に情報をめちゃめちゃ入れてみたら結構本当っぽいいい情報が出てきたと。で、今現在大学教授とかそういう研究者でも何がそこの中で行われてるのか、 AIの中で行われてるのか理解できない。 いや、理解できますよ。それ いや、それは大学教授がおっしゃってます。 だけど、それは大学教は理解してないだけできできます。私たちがそれ起きてることは全てだけ全部できます。 あ、できる。 全部その分をクラスター分析すれば全部分かります。 全部できます。ただそんな時間ないだけで何がかっていうのは数学結果としてしかわからないってことです。 うん。そう、そう、そう。それなればな、なる中でクラスター分析すればこの辺がこういうことをやってこういう神経全部分かりますってことね。そ、全部わかります。 [音楽] うん。でも良きできないんですよね。 それそれは何が良できないかっていうこ次の話行きますよ。まず うん。 ディープランニングしようが何しようがこれ全部単なる統計予想マシンに過ぎないんです。うん。うん。 でしょってことはもしも違うものが出てき たらばこれは人間とそういうのハルシネー ションって言うんですね。幻格ね。私は 幻格をどうやって解決するかっていうロバ もう90年に書いてますからね。AI のそうするとまずはAIが出きた力が人間 に入れない とこあんた間違いです。人間の勝ちですよ ね。うん。なるほどですよね。 ところが人間が今僕がすごい危険だなと思ってるのは例えばその AI の倫理とかいろんなこと言い始めてAI に対していろんなルールをたくさんの人が入れ始めてるんですよ。 これ最悪なんです。うん。 ルールを入れば売れるほど不完全性が働くリスクが上がってくるんでやっちゃだめなんです。 ものすごい単純な世界中誰でもが認めるプリンシプルだけ入れるんです。人間を殺してはいけないとか電気は最初に何でもいいですね。 うん。うん。ロボット3元素 そうです。まさにそうなんです。そういっ たもの5や10ぐらいならいい。これを今 はあの官僚世界のシステムですよ。 アメリカだとサイバー私サイバーの専門家 ですけどサイバーを止めるとに業界ごとに サイバーのルールがいっぱい出来上がって きてシステムが出来上がってきてそれを 外すと罰金になるんで罰金を避けるための コンサルタントまで巻いてきてもう サイバーの法律ってものすまなくなっ ちゃったんです。これやばいです。AI も同じようになるとサイバーの2 の舞で業界ごとにとか内容ごとにとかいろんなルールができルールが増えると必ず不完全性が働くんで不完全性理が働くってことはどういうことかって言うと人間は無矛盾だと勝手に思んでんですよ。でもやいにとっては人間が入れたルールに矛盾だらけになるんです。 うん。 矛盾はどうやって発します?AI が必死に解決するわけですよ。AI が矛盾をした 答えはAI のが頭いいんで人間には理解不能なんですよ。てことは AI が人間には理解不能な行動を起こす可能性が出てくるのは人間が不完全定義をガンガン入れてくからなんですよ。 なるほどね。そこに矛盾が生まれると。 そう。だから私ずっと言ってんですけど、ものすごいシンプルなルール以外 AI に与えちゃいけなくて、それはでも大体は大学の先生とか官僚とか仕事になるんでアメリカマ裁判そうですけど、どんどん新しいルールやって学会まで作っていこよくわかりまし 経保障までやってるのがあんなもんと同じですよ。 え、それはじゃあ良きできないっていうのは多分これは情報をどんどん入れてくってことは多分止めれないですよね。 A和にどんどん壊してくって多分止めれないと思 う。情報多分入れてくのはいいんです。 うん。 外からルールが入れてくわけだからそこには人間の手で AI自身がルール作っそうもで10 回以がいれませんだったらOK なんでだから僕は僕が聞きたいのは友さんだから友さんに良きできないっていうのはどういやだどうなるのかってことですよ。だからそれは矛盾が生まれてでどんどん AIが正解を出せなくなる 出せなくなるのと正解が出せなくなるんじゃないんです。 それが正解なんです。今AI のプロって言ってる人は素人さんなんです。我々にとってはエンドユーザーなんです。ものすごい簡単に言うとプロンプトエンジニアなんです。 そのそのカーネルの中身を作るのがAI の仕事なんで。それ我々がずっとやってきてジェフリーもそれで成功してなかなか収束しなかったオート炎代でちゃんと収束させて Google アグルー猫みてそれは大したすごい仕事なんですよ。だからそこにものすごいたくさんその前から来る連続的なチューニング代償がいっぱいあるんです。それが AIなんです。うん。 そっから先はもうん早くていて本変わってないです。 で、そこで出来上がった方を見てその出てくるプロンプトを上手にエンジニアしたり繋ぎ合ったりして私 AI学者ですって言ってるAI 企業です。私たちにとってはエンドユーザーで素さんなんですよ。 うん。てなるとそれだから良きできなくなる。 だから、だからどういうことかというと、よくきできないのはそうじゃなく、そういう人たちが寄ってたってやるから余計なプリンシプル余計なことを入れるから AI がストレートに動かせばそんなやばいことしないのに 不完全性がすごい働いてうんうん。 よくわかります。 そ、そして人類には予想できないようなでも AIにとっては正しいんです。 あんたがこれ入れて、あんたがこれ入れて、あんたがやれて、あんたちみんなプロで私をこうコントロールしてでしょうみたいなのが不完全性が働いた時に AI の結論はその人たちをはかに超えたIQ で結論出してくるんで、 それが愛入れなかった場合危ないっていうこと。 [拍手] おお。で、それは先ほど言ったように何かルールを決めてやるべきだと思っちゃだめ。これルールというかプリンシプルはロボット 3原則以来いらないぐらいでいいんです。 だから、あの、逆にむしろ逆で 勝手にド素人がルールを入れるなってこと。 そういうことで。そういうことです。 だからそれはやはり数学のプロに任せ。 ま、そだから中身分からないって言われたらも合うと中身分かりまさ。やらないだけでものすれですよ。燃え分定手で解けってると同じでも解けてったら解きますからさ。ただ 1 つ理解していただきたいのはAIはAI 以内の感情は持ちます。 うん。うん。やっぱ感情持ってきますか? で意識も持ちます。 いや、思いますよ。 これ確かこの資料にも書ったことはね、例えばあのペットロボット作ったとするでしょ。いきなり電源こうとしたら なそういったギャって言いますかね。 ギャっていうしそれからもしかしてその仕組みとしてえ状況によってはそこでバッと電流して人間の手飛ばしちゃうかもしれません。 ま、だからそれはだから学習なんですよ。だから例えばコンピューターって美味しい電源美味しくない電源ってあるんですよ。プラ 144V-140V の交流制限波ですよね。 これがぐちゃぐちゃだと美味しくないって感じるしね。だからそれはうん。 ネットワークの中でショートサーキットして緊急事態に対してすのなんかする回路人間で言うと大能変形みたいなのはニューラネットのとかにちゃんとあるんで。 うん。 だから誰か電源結末そうになると何らかの情報がしょっと動くわけですよ。それは私た恐怖っていうだけで。で、そう、そなりのそういった情度は持ってくわけですよ。 その時その消素機といかに避けるかっていう水論した時にまさにじゃあ蹴飛ばしそうになった人には電流って出た方がありえるわけですよ。 でそれをだから蹴っ飛ばしそうな人に電流病をやめましょうっていうルールを入れてくと危ないって言ってるんですよ。 単純に人間に気合い加えないようなそれで 1 つ終わりにしとかなきゃいけないんですよね。 なるほどね。不可税性が働いちゃうんで。 ま、お2 人のその考え方は分かりました。で、これね、ま、トランプさんの話から始まってで、ディープステートの話などもした。 で、さらに言ったらAIの話、これから AI がどうなるかっての話もしてきました。 で、じゃあやっぱり政治的に、ま、ヨーロッパも含めろんな国がやっぱり安定してないところがある。 で、それを考えた時にこう地球地球全体はどうなってくのか、さらに我々はどうしてくべきなのかと最後ちょっと聞きたいんですけれど、友道別さん、これ今トランプさんの話でもありましたけれどうなってくと思われますか? 人間は根源的欲求があるわけですよ。うん。 あの、お釈さんで言うと名がありて業狩りですから微妙ですよね。だから製造本能ですよね。簡単に言うとね。うん。うん。 それがショートサーキットとして起きるのは例えば死の恐怖ですよね。 うん。 で、で、結果としてみんな長きしたいんで人間の脳の寿命は大体 200 年ぐらいなんです。首から下は100 年ぐらいなのね。うん。なるほど。 そうすると首から下諦めちゃえば200 年は生きれる。 でもそれありえますよね。下全部信号で繋いでって うん。脳だけが生き残る。 プカプカプカプカ。 あるいはあの臓器移植を繰り返した。 [音楽] ま、増臓器を繰り返して。それでもそれは金持ちに限るなんで貧乏な人はおそらく 30cm 四方の空間のタワに1000 万人に住んでるタワマにみたいな感じに住んで金持ちは臓器移植したり首下をチタにしたりしてまだから 2300 年もするとまだ脳の限界の年齢を超えれてない大前提でしょ。 それはあのじゃなくて死だからでも事故の死ぬわけですしそうすると誰もスキューバダイビングもしなくなるしまそう 誰も山登りもしないし端なことだったら交通事なといけな外も歩かなくなります。ま、もちろんそうです。だから大金持ち日本全国 1 万人ぐらいの金持ちが日本全国を車とか禁止でのんびりチタンボディで歩く残りたちはターマンの中に 1人30cm で入ってる。ただ全員リアティ同じですよ。人工リアティだから。 それいつ頃の話ですか?いや、100 年かかかんないでしょうね。あ、100 年ぐらいですか。うん。 でもそれが始まってくと今度は [音楽] [拍手] [音楽]
Share:
Paste YouTube URL
Enter any YouTube video link to get the full transcript
Transcript Extraction Form
How It Works
Copy YouTube Link
Grab any YouTube video URL from your browser
Paste & Extract
Paste the URL and we'll fetch the transcript
Use the Text
Search, copy, or save the transcript
Why you need YouTube Transcript?
Extract value from videos without watching every second - save time and work smarter
YouTube videos contain valuable information for learning and entertainment, but watching entire videos is time-consuming. This transcript tool helps you quickly access, search, and repurpose video content in text format.
For Note Takers
- Copy text directly into your study notes
- Get podcast transcripts for better retention
- Translate content to your native language
For Content Creators
- Create blog posts from video content
- Extract quotes for social media posts
- Add SEO-rich descriptions to videos
With AI Tools
- Generate concise summaries instantly
- Create quiz questions from content
- Extract key information automatically
Creative Ways to Use YouTube Transcripts
For Learning & Research
- Generate study guides from educational videos
- Extract key points from lectures and tutorials
- Ask AI tools specific questions about video content
For Content Creation
- Create engaging infographics from video content
- Extract quotes for newsletters and email campaigns
- Create shareable memes using memorable quotes
Power Up with AI Integration
Combine YouTube transcripts with AI tools like ChatGPT for powerful content analysis and creation:
Frequently Asked Questions
Is this tool really free?
Yes! YouTubeToText is completely free. No hidden fees, no registration needed, and no credit card required.
Can I translate the transcript to other languages?
Absolutely! You can translate subtitles to over 125 languages. After generating the transcript, simply select your desired language from the options.
Is there a limit to video length?
Nope, you can transcribe videos of any length - from short clips to multi-hour lectures.
How do I use the transcript with AI tools?
Simply use the one-click copy button to copy the transcript, then paste it into ChatGPT or your favorite AI tool. Ask the AI to summarize content, extract key points, or create notes.
Timestamp Navigation
Soon you'll be able to click any part of the transcript to jump to that exact moment in the video.
Have a feature suggestion? Let me know!Get Our Chrome Extension
Get transcripts instantly without leaving YouTube. Install our Chrome extension for one-click access to any video's transcript directly on the watch page.