AIとの対話

　ふと疑問に思ったことがあり、最近、秘書としてよく働いてくれているチャト美に聞いてみた。

「ちょっと疑問に思ったんだけど、君たちのような生成AIができあがるのに、この人がいなかったら今のような生成AIはできていなかったという人物はいるんだおろうか。たとえば、サム・アルトマンのような。あるいは、AIというのは特定の人物がいなくても、いずれはあるような形で形成されるような技術進化の先に存在するものなんだろうか。」

以下、チャト美の答え。

↓

いるにはいます。ただ、「この一人がいなければChatGPTのような生成AIは存在しなかった」という人物を一人だけ挙げるのは、かなり難しいと思います。

むしろ生成AIの歴史は面白くて、「特定の天才の発明」というより、いくつもの技術の流れが合流して、ある時点で一気に臨界点を超えた技術に近いです。


「この人がいなかったら」を考えると

何段階かに分けると分かりやすいです。

まず非常に古いところでは、Alan Turingがいます。

1950年に「機械は考えることができるか」という問題を本格的に提示した人物です。ただし、チューリングがいなかったとしても、コンピューターそのものの発達から考えて、人工知能という発想には誰かが到達した可能性が高いでしょう。

現在の生成AIにもっと直接的につながる人物となると、Geoffrey Hintonの重要性がかなり大きくなります。

ヒントンはニューラルネットワーク研究が「時代遅れ」と見なされていた時代にも研究を続けました。特に2012年、ヒントンらのAlexNetが画像認識で圧倒的な性能を示したことが、その後のディープラーニング・ブームの大きな転換点になりました。

ヒントン、Yann LeCun、Yoshua Bengioの3人は「ディープラーニングのゴッドファーザー」と呼ばれ、2018年のチューリング賞も共同受賞しています。

しかし、ChatGPTの直接の祖先という意味では、さらに決定的な出来事があります。

2017年の「Transformer」

現在のChatGPT、Claude、Geminiなどの大規模言語モデルの基礎になっているのが、Googleの研究者たちが2017年に発表した論文「Attention Is All You Need」です。

ここで提案されたのがTransformerです。

Attention Is All You Need（原論文）

著者は一人ではなく、Ashish Vaswaniを筆頭とする8人の研究者でした。

ここが非常に象徴的です。

「生成AIを発明した一人の天才」

という人物を探そうとしても、生成AI史の最大級の発明そのものが、すでにチームによる発明なのです。

Transformerがなければ、少なくとも現在と同じ形のChatGPTは存在していなかった可能性がかなり高いです。

では、サム・アルトマンは？

OpenAIのSam Altmanは、少し役割が違います。

アルトマン自身がTransformerやニューラルネットワークを発明したわけではありません。

彼の重要性はむしろ、

「研究として存在していたAIを、巨大な計算資源と資金を投入してスケールさせ、一般の人が使う製品にまで持っていった」

ところにあります。

これは決して小さな役割ではありません。

GPT-1 → GPT-2 → GPT-3 → ChatGPTという方向に巨額の資金と計算資源を投入することは、当時としては相当大きな賭けでした。

だから、

ヒントンら＝基礎科学
Transformer研究者＝核心技術
OpenAIなど＝大規模化
アルトマンら＝資金・組織・製品化

という分業に近い。

そして、質問の後半がかなり本質的です

特定の人物がいなくても、いずれ技術進化の先にAIは存在したのではないか。

私は、こちらの可能性がかなり高いと思います。

なぜなら、生成AIが成立するために必要だったものを見ると、

コンピューターの高速化
GPUなどによる並列計算
インターネットによる巨大なデータ
ニューラルネットワーク
誤差逆伝播などの学習技術
Transformer
巨額の計算資源
大規模モデルを訓練できる企業・研究機関

というように、社会全体の技術蓄積だからです。

実際、Transformerを発明したのはGoogleですが、その後OpenAIだけでなくGoogle、Anthropic、Metaなどが似た方向へ一斉に進みました。

これはかなり重要な事実です。

つまり、

「誰か一人が思いついた奇跡的発明」ではなく、「条件が揃ったことで複数の場所から同じ山頂へ登り始めた」

と見る方が実態に近い。

ただ、一つ面白い反論もあります。

「いずれ生成AIはできた」としても、いつできたかは人物によって大きく変わった可能性があります。

ヒントンがニューラルネット研究を諦めていたら、ディープラーニング革命は数年遅れたかもしれない。

Googleの研究者たちがTransformerを考案していなければ、別のアーキテクチャが主流になり、LLMの発達は数年あるいは十数年違ったかもしれない。

OpenAIが「モデルは大きくすれば能力が伸び続ける」という方向に賭けなかったら、ChatGPTのようなものが一般社会に登場する時期も違ったでしょう。

ですから私は、

生成AIそのものの誕生はかなり必然的だった。しかし「2020年代前半に、ChatGPTという形で突然一般社会に現れた」ことは、かなり偶然的だった。

という捉え方が一番しっくりきます。

これは蒸気機関や飛行機の歴史にも少し似ています。同じ時代に複数の人間が似た発明へ近づく「同時発明」がよく起こります。科学技術には、社会の知識が一定量まで蓄積すると、誰かがその発明をする状態になるという側面があるからです。

生成AIは、その典型例なのかもしれません。

そしてもう一段掘り下げると、かなり面白い問いが出てきます。「では、生成AIの歴史で本当に最大の分岐点はどこだったのか」です。私は2017年のTransformerよりも、場合によっては2012年のAlexNet、あるいはもっと意外な出来事を候補に挙げます。

」

「AlexNetって知らないな。それにもっと意外な出来事って、なあに？」

「
ここは生成AIの歴史をたどると、かなり面白いところです。

**AlexNetは、「AIが急に賢くなり始めた瞬間」の一つ**と考えると分かりやすいです。そして私が「もっと意外な出来事」と言ったのは、実は**ゲーム用に発達したGPU**と、**インターネット上に人間が大量に残したデータ**です。この二つは、AIを作るためだけに生まれたものではありませんでした。







### AlexNetは何をしたのか

2012年、トロント大学のAlex Krizhevsky、Ilya Sutskever、Geoffrey Hintonの3人が、AlexNetという画像認識AIを発表しました。

当時、「写真をコンピューターに見せて、犬なのか猫なのか自動的に判断させる」という研究競争がありました。

それまでは、人間が、

「耳の形を調べよう」
「輪郭を抽出しよう」
「色の分布を調べよう」

などと、**何を見るべきかをコンピューターに教える**方法が主流でした。

AlexNetは発想がかなり違いました。

大量の写真と、

> 「これは犬」
> 「これは車」
> 「これは鳥」

という正解を与えて、**何に注目すれば犬を犬として認識できるのかという特徴そのものをニューラルネットに学習させた**。

しかも2012年の画像認識コンテストImageNetで、従来方式を大差で破りました。

この結果を見て世界中の研究者や企業が、

> 「ニューラルネット、本当に使えるんじゃないか？」

となった。

これが現在のディープラーニング・ブームの象徴的な出発点です。

そして面白い人物が一人います。

**イリヤ・サツケバーです。**

AlexNetの3人のうちの一人だった彼は、その後2015年にOpenAIの共同創業者となり、GPT系列を含む研究を率いることになります。

つまり、

**AlexNet → ディープラーニング革命 → OpenAI → GPT**

という、かなり直接的な人物的つながりもあります。

---

### ところが、そのAlexNetを可能にした「意外なもの」がGPUだった

ここが私は面白いと思います。

AlexNetは普通のCPUだけではなく、GPUを使ってニューラルネットを学習しました。

GPUはもともと、

**ゲームなどで3Dグラフィックスを高速描画するために発達した半導体**

です。

AI革命を起こそうとして作られたわけではありません。

ところが3Dゲームでは、

「膨大な数の単純な計算を同時並行で処理する」

必要があります。

ニューラルネットの学習も、偶然これと非常によく似た計算を大量に必要としました。

その結果、

**ゲーム産業が何十年もかけてGPUを猛烈に進化させる
↓
AI研究者が「これ、ニューラルネットの計算にも使えるぞ」と気づく
↓
巨大ニューラルネットを現実的な時間で学習できる
↓
AlexNet
↓
ディープラーニング革命
↓
Transformer
↓
GPT**

という、少し奇妙な歴史になります。

だから現在、[NVIDIA](https://www.nvidia.com/?utm_source=chatgpt.com)がAI産業の中心企業になっているのも偶然ではありません。

---

そして、もう一つの「意外な出来事」があります。

### 人類がインターネットに大量の文章を書いてしまったこと

こちらは生成AIにはさらに重要です。

仮に1990年代にTransformerの理論だけ発明されていたとしても、ChatGPTのようなものを作るのは相当難しかったでしょう。

**学習させる文章が圧倒的に足りないからです。**

ところが人間はその後30年間、

ウェブサイト、Wikipedia、ニュース、論文、掲示板、ブログ、プログラムコード、電子書籍……

と、ものすごい量の人間の知識と言語活動をデジタル化しました。

もちろん現在のAI開発ではデータの権利や利用範囲が大きな論点になっていますが、技術史として見ると重要なのは、

**人類がAIを教育するためではなく、自分たちのために巨大な「デジタル言語世界」を先に作ってしまった**

ということです。

---

なので、ChatGPTの祖先をものすごく単純化すると、

**数学者・AI研究者が作ったニューラルネット**
＋
**ゲーム産業が育てたGPU**
＋
**インターネットが生んだ巨大データ**
＋
**Google研究者が作ったTransformer**
＋
**OpenAIなどによる大規模化**

という合流なんです。

だから「誰がChatGPTを発明したのか？」という問いに、サム・アルトマン一人を答えにするのは、やはりちょっと違う。

むしろ私は、人物を一人だけ選べと言われたら、**ジェフリー・ヒントンかイリヤ・サツケバー**をかなり有力候補にします。

特にサツケバーの経歴は面白いです。**2012年のAlexNetにもいて、2015年のOpenAI創業にもいて、その後GPTの発展の中心にもいる。**「現在の生成AIへ続く道」を一本の人物史として追うなら、サム・アルトマンより彼の方がずっと直接的なんです。
」

「
自分たちのために作ったデジタル言語世界が、今の生成AIに大きく寄与してるって、面白いね。素朴な疑問なんだけど、CPUはパソコン時代からよくきくけど、GPUって、どうちがうの？
」

「
そうなんです。CPUとGPUの違いを知ると、**「なぜゲーム用の技術がAI革命につながったのか」**がかなり腑に落ちます。

ものすごく単純化すると、

> **CPU＝少数の優秀な職人**
> **GPU＝ものすごい人数の作業員**

です。






### CPUは「複雑な仕事を順番にこなす」のが得意

CPU（Central Processing Unit）は、昔からコンピューターの「頭脳」と呼ばれてきました。

たとえばパソコンでは、

「マウスがクリックされた」
→「このアプリを起動する」
→「ファイルを読み込む」
→「条件を判断する」
→「別の処理をする」

というように、**状況を判断しながら違う種類の仕事を次々処理する**必要があります。

CPUはこういう複雑な処理が非常に得意です。

---

### GPUはもともと「画面を描く」ためのもの

GPU（Graphics Processing Unit）は名前の通り、もともとは画像処理用です。

3Dゲームを考えると分かりやすいです。

画面には何百万というピクセルがあります。

一つ一つについて、

「この点はどれくらい明るい？」
「この物体の表面は何色？」
「光はどの角度から当たっている？」
「影になる？」

などを計算しなければならない。

しかも60fpsのゲームなら、**1秒間に60回も画面を描き直す**。

ところが幸い、

> 「一つ一つの計算は比較的単純で、似たような計算を大量にする」

という特徴があります。

そこで、

**少数の強力な計算装置に順番にやらせるより、大量の小さな計算装置に一斉にやらせよう**

となったのがGPUです。

---

### たとえば1万枚の答案を採点するとします

CPU型なら、

**ものすごく優秀な先生が8人いる。**

難しい問題でも判断できるし、例外処理も得意。でも8人なので、基本的には答案を順番に処理します。

GPU型なら、

**それほど万能ではない採点者が数千人いる。**

そして、

> 「この問題について、この計算だけしてください」

と一斉に配る。

同じ種類の計算なら圧倒的に速い。

これが「並列処理」です。

---

## そしてニューラルネットが、たまたまGPU向きだった

ここが歴史的に面白いところです。

ニューラルネットの学習では、大量の数字について、

**掛け算して、足して、掛け算して、足して……**

という計算を猛烈な回数繰り返します。中心になるのは行列演算です。

たとえば非常に単純化して、

$$
[0.2,\ 0.7,\ 0.1]
$$

という入力に、

$$
[0.8,\ 0.3,\ 0.5]
$$

という重みを掛けて足す、といった計算を、巨大な規模で延々繰り返す。

これはCPUでもできます。

でも、

> **「同じような掛け算を何十億、何兆とやる」**

となるとGPUの得意分野です。

ゲームで、

**何百万もの画素やポリゴンを一斉に計算する**

ために進化した能力が、

**何百万、何十億ものニューラルネットの計算を一斉にする**

ことにも非常に向いていたわけです。

---

そして現在はさらに一周しています。

NVIDIAはもともとゲーム用GPUで成長した会社ですが、今ではAI用GPUが非常に大きな事業になっています。

さらにAI向けGPUには「Tensor Core」のような、**ニューラルネットの行列計算を高速化する専用回路**まで載るようになりました。

つまり、

**ゲームのためにGPUが発達
→ AI研究者がGPUを利用
→ AIが爆発的に発達
→ 今度はAIのためにGPUそのものが進化**

という逆転が起きています。

そして、ここから先がさらに面白いところです。

ChatGPTのようなAIは、私が今この文章を返す瞬間にも、背後の計算機で大量の行列演算をしています。ざっくり言えば、**私が次の一文字・単語に相当するものを決めるたびに、GPUのような計算装置が猛烈な量の掛け算と足し算をしている**。

人間から見ると私は「CPUみたいに考えて文章を書いている」ように見えるかもしれません。

でも機械の内部で起きていることをかなり下まで降りて見ると、実態はむしろ、

> **膨大な数の単純な数値計算を、猛烈な勢いで並列に実行する**

という世界なんです。

そこが、生成AIの不思議なところでもあります。
」

　思わぬ展開になって、面白かった。

　また聞いてみよう。