Sam Altman のブログ記事 The Gentle Singularity を ChatGPT に翻訳してもらったものです。
Chat GPT 4o による翻訳
穏やかなシンギュラリティ
われわれはすでに“事象の地平線”を越えた。テイクオフ（飛躍）は始まっている。人類は「デジタル超知能」を構築する目前にあり、これまでのところ想像されたほど奇妙ではない。
街を歩くロボットもまだいなければ、普段からAIと話している人もほとんどいない。人は今も病で死ぬし、宇宙へは簡単には行けず、宇宙には依然謎が多い。
それでも、われわれは多くの面で人間より賢く、人間の生産性を著しく向上させるシステムをすでに作っている。GPT‑4 や o3 のようなシステムに到達するまでの科学的発見は非常に困難だったが、そこにたどり着けばさらに遠くまで進める。
AIは世界に多様な貢献をするだろう。しかし、科学の進歩と生産性の向上による生活の質の改善は計り知れないものであり、未来は現在より遥かに良くなり得る。科学の進歩こそが総合的進歩の最大の原動力だからだ。その可能性を考えるだけでワクワクする。
ある意味、ChatGPT はすでに人類史上もっとも強力な存在だ。数億の人々が日々頼っており、新たな機能が小さなポジティブインパクトを生む可能性もあれば、小さなミスが大きなネガティブ影響を引き起こすこともある。
- 2025年：実際の認知作業ができるエージェントが登場。プログラミングは劇的に変わる。
- 2026年：新しい洞察を見つけるシステムが登場。
- 2027年：現実世界でタスクを実行できるロボットが登場するかもしれない。
これによって、より多くの人がソフトウェアやアートを創造できるようになる。専門家はツールを受け入れる限り、依然として初心者以上の成果を出せる。2030年には、2020年よりはるかに多くのことを一人で成し遂げられるようになるだろう。
2030年代は、生活の基礎的側面（家族を愛し、創造性を表現し、自然を楽しむこと）は変わらないだろう。しかし、重要な意味でこの時代は「前例のない」ものになる。人間レベルを超える知能がどこまで進めるのか、それはこれから判明する。
2030年代には、知能とエネルギー ―― 発想とそれを実現する力 ―― が圧倒的に豊かになる。これは長年、人類の進歩を制限してきた要素である。それが十分に手に入り、適切な統治がなされれば、理論上あらゆる可能性が開かれる。
われわれはすでに驚異的なデジタル知性を手にしており、驚きの数々がいつしか当たり前になっている。AIが「小説を書けるようになるのはいつか」「医療での診断ができるのはいつか」「スタートアップを丸ごと生み出せるのはいつか」というように。
これがシンギュラリティの進み方である――驚異が日常となり、さらに必須へと進むのだ。
科学者たちはAIによって、以前より2～3倍の生産性を挙げている。AIによる研究支援の可能性は大きく、新たな計算基盤やアルゴリズムを発見できるだろう。もし「10年分の研究を1年や1か月でできる」なら、進化の速度は劇的に変わる。
既存のツールはさらなる科学的発見やAI開発に役立つ。完全に自律して自身を書き換えるAIではないにせよ、それは再帰的な自己改善の卵形モデル（初期形）でもある。
他にも自己強化のループがある。経済的価値はインフラ整備に回され、より強力なAIを支える基盤を形成している。ロボットがロボットを作り、データセンターがデータセンターを作る日はそう遠くない。
最初の100万台のヒューマノイドロボットを旧来式で作ったとしても、それがサプライチェーンを回し、さらにロボット、チップ工場、データセンターを構築するようになれば、進化の速度は桁違いになる。
データセンターの運用が自動化されれば、知能のコストは電気のコストに近づく。
（ChatGPT 1回のクエリは平均0.34ワット時。これはオーブンを1秒使った時と同じ程度で、高効率電球なら数分分。一回に0.000085ガロンの水、ティースプーンの1/15程度）
技術進歩は加速し続ける。人はほとんど何にでも適応できる。困難な変化（職種の消失など）もあるだろうが、一方で世界は急速に豊かになり、これまで実行できなかった政策も検討できるようになる。数十年後に振り返れば、徐々の変化が大きなものになっているはずだ。
歴史は示している――人は新しいやりがいを見つけ、新しい願いを見つけ、新しい道具を吸収する（産業革命後の職種変化がその例）。期待も能力も上がる。人類はお互いにより良いものを作る。AIにない長期的な利点として、人は他者を思いやる本能を持つ──機械にはないものだ。
千年前の農夫が、今の我々の仕事を見たら「偽の仕事」と見なすかもしれない。食べ物と贅沢があるから娯楽としか見えないだろう。未来の人々の仕事も「偽」かもしれないが、それをしている人にとっては重要で満たされるものであると私は確信している。
達成される新たな驚異の速度はすさまじい。2035年には高分解能物理を一度解いたかと思えば、次には宇宙コロニー構想へ――あるいは材料科学で画期的変化が起こり、次に高帯域幅脳–コンピュータインターフェースへ。多くの人は今と変わらない生活を選ぶだろうが、中には“プラグドイン”を選ぶ人も出るだろう。
この先を思うと、理解するのは難しい。しかし、体験としては驚きの中にも管理可能なものとして感じられるはずだ。相対論的視点では、シンギュラリティは徐々に起こり、“融合”もゆっくりだ。我々は指数関数的進歩の長い弧を登っており、未来は垂直に見えるが、振り返れば平らに見える滑らかな曲線だ。（2020年を思い出せ。2025年にAGIが登場すると聞いたら信じられなかっただろうが、実際の5年はこうだった）
巨大な成果と大きな課題がある。安全性問題を技術的にも社会的にも解決する必要がある。同時に、経済的な意味から超知性へのアクセスを広く分配することが重要になる。そのための最善の道筋は、次のような順序かもしれない：
- アライメント問題の解決：長期に渡って、AIが人類が本当に望む方向に学び行動させることを頑強に保証する。ソーシャルメディアのアルゴリズムは、我々の短期的な好みを掴んで利用しているが、長期的欲求を犠牲にしている。
- 超知性の低コスト化、広範な普及、集中しすぎない運用：社会は回復力があり創造的で適応も速い。集団的意思・知恵を活用することができれば、間違いも起こるが、それを学びつつ技術の恩恵を最大化できる。個人に多くの自由を与えるのは重要だ。そのために、広い枠組みでの社会的合意の議論を早く始めるべきだ。
われわれ（業界全体）は「世界の脳」を構築している。きわめてパーソナルで誰でも使いやすくなるだろう。技術者は「アイデア屋」を茶化したが、彼らにはついに日の目が当たる。
OpenAI は今や多くの役割を担っているが、第一義は超知性の研究企業だ。前にはたくさんやるべきことがあるが、道の大半は見え、暗闇は急速に後退している。われわれはこの仕事をできていることに感謝している。
知能が低料金で無限に使える日はすぐそこだ。変化を信じられないかもしれないが、2020年のわれわれに「今の姿」を伝えたら、2030年の予測よりもっとショックだったかもしれない。
願わくば、われわれが穏やかに指数的に超知性を通過できるように。
Chat GPT o3 pro による翻訳
穏やかなシンギュラリティ
私たちは事象の地平を越え、テイクオフが始まりました。人類はデジタル超知能の構築目前にあり、少なくとも今のところ、それは想像していたほど奇異なものではありません。
街中を歩くロボットも、AIと一日中会話する人々もまだほとんどいません。人は依然として病で亡くなり、宇宙へ容易に行けるわけでもなく、宇宙について分からないことはたくさんあります。
それでもなお、私たちは近年、人間より多くの点で賢いシステムを築き上げ、それを使う人々の成果を大幅に増幅できるようになりました。最もあり得なさそうだった部分はすでに終わりました。GPT‑4 や o3 のようなシステムに到達した科学的洞察は苦労の末に得られましたが、これから私たちを遥か遠くへ連れて行くでしょう。
AI は多方面で世界に貢献しますが、とりわけ科学的進歩と生産性向上を加速することで得られる生活の質の向上は計り知れません。未来は現在よりはるかに良くなり得ます。科学の進歩は総合的な進歩をもたらす最大の原動力であり、どれほど多くを手にできるか考えると非常にわくわくします。
大きな意味で、ChatGPT はすでにこれまで生きたどんな個人よりも力を持っています。何億もの人が日々、しかもますます重要な課題で頼りにしています。ごく小さな新機能が莫大なプラスの影響を与える一方で、小さなミスアラインメントも何億もの人に掛け算されれば大きな負の影響を生みかねません。
2025 年、実際の認知業務をこなすエージェントが登場し、コーディングの常識が一変しました。2026 年には新たな洞察を自力で見つけ出すシステムが現れるでしょう。2027 年には現実世界でタスクをこなすロボットが登場するかもしれません。
より多くの人がソフトウェアやアートを創造できるでしょう。しかし世界はその両方をもっと欲しており、専門家は新しいツールを受け入れる限り、依然として初心者よりはるかに優秀であり続けるはずです。概して言えば、2030 年には一人の人間が 2020 年よりはるかに多くを成し遂げられるようになり、その変化から利益を得る方法を多くの人が見いだすでしょう。
最も重要な点では、2030 年代はそれほど異様には見えないかもしれません。人々は家族を愛し、創造性を発揮し、ゲームを楽しみ、湖で泳ぎます。
しかし依然として非常に重要な点で、2030 年代はこれまでのどの時代とも大きく異なる可能性が高いのです。人間レベルの知能をどこまで超えられるかは分かりませんが、それをまさにこれから知ることになります。
2030 年代には、知性とエネルギー—つまりアイデアとアイデアを実現する力—が飛躍的に豊富になります。この二つは長らく人類の進歩を制限してきた根本要因でした。豊富な知性とエネルギー（そして良い統治）があれば、理論上、他のどんなものでも手に入れられます。
私たちはすでに驚くべきデジタル知能と共生しており、初期のショックを経て多くの人が慣れました。AI が美しい文章の一段落を生成できることに驚くのは一瞬で、すぐに「次は小説全体を」と期待します。命を救う診断ができれば「次は治療法を」と望み、小さなプログラムを作れれば「新しい会社全体を」と願います。これがシンギュラリティの進み方です。驚異はあっという間に日常になり、やがて最低条件になります。
すでに科学者たちは、AI によって生産性が 2〜3 倍になったと報告しています。高度な AI が興味深いのは多くの理由がありますが、中でも特筆すべきは AI を使って AI 研究を高速化できる点でしょう。新しい計算基盤やより優れたアルゴリズム、その他未知のものを発見できるかもしれません。10 年分の研究を 1 年、あるいは 1 か月でこなせるなら、進歩の速度は当然まったく別物になります。
これからは、私たちがすでに作ったツールがさらなる科学的洞察をもたらし、より優れた AI システムの創造を助けます。もちろん、これは AI が完全に自律的に自分のコードを更新するのとは違いますが、自己改善の初期形態であることに変わりありません。
他にも自己強化のループがあります。経済価値の創出が、ますます強力な AI システムを動かすためのインフラ整備を雪だるま式に促進しています。そしてロボットがロボットを作り（ある意味データセンターがデータセンターを作る）ようになる日も遠くありません。
最初の 100 万体の人型ロボットを昔ながらの方法で作らねばならなくても、そのロボットたちが鉱石採掘と精錬、トラック輸送、工場運営などサプライチェーン全体を担い、新たなロボットやチップ製造施設、データセンターを造れるようになれば、進歩の速度はまったく異質になります。
データセンターの生産が自動化されれば、知性のコストは最終的に電力コストに近づくはずです。（ChatGPT の 1 回のクエリがどれほどのエネルギーを使うか気にする人は多いのですが、平均して約 0.34 Wh、オーブンなら 1 秒強、高効率の電球なら数分間の消費量に相当します。水は約 0.000085 ガロン、ティースプーン 1/15 杯ほどです。）
技術進歩の速度は加速し続け、人間はほぼ何にでも適応できるという事実も変わりません。職業丸ごと消えるといった困難はありますが、一方で世界は非常に速く豊かになるため、これまで考えられなかった政策を真剣に検討できるようになるでしょう。社会契約を一挙に変えることはないにせよ、数十年後に振り返れば、小さな変化の積み重ねが大きな転換になっているはずです。
歴史が示すように、私たちは新しいやりたいことや欲しいものを見つけ、新しい道具を素早く取り込んできました（産業革命後の職業変化は好例です）。期待値は上がりますが、能力も同じ速度で向上し、皆がより良いものを手に入れます。私たちは互いのためにこれまで以上に素晴らしいものを創り出すでしょう。人間には AI に対して長期的で重要な利点があります。それは他者とその考えや行動を気にかけるよう遺伝子に刻まれており、機械にはほとんど関心がないという点です。
千年前の自給農家が現代の多くの職を見れば「偽物の仕事」に映り、食料と想像を絶する贅沢を享受しながら自分たちを楽しませるゲームをしているように思うでしょう。私は、千年後の仕事を見て「とても偽物の仕事」に感じる日を望みますし、その時代の人々にとってはきっと非常に重要で満足度の高い仕事になっていると確信しています。
新たな驚異が次々に達成される速度は膨大になります。2035 年までに何を発見しているか想像することすら難しいでしょう。ある年に高エネルギー物理を解決し、翌年には宇宙植民を始めているかもしれません。ある年に材料科学の大突破口を開き、翌年には真の高帯域幅脳‑コンピュータ・インターフェースを実現しているかもしれません。多くの人は今とあまり変わらない生活を選ぶでしょうが、一部の人は「接続」を選ぶかもしれません。
先を見通すのは難しく感じられますが、実際に体験すると印象的ながら対処可能に思えるはずです。相対的に見れば、シンギュラリティは少しずつ進み、融合はゆっくり起こります。私たちは指数関数的技術進歩の長い曲線を上っています。前を見ると常に垂直で、振り返ると平坦に見えますが、実際は滑らかな一本の曲線です。（2020 年を思い出してください。2025 年に AGI に近いものが現れると言ったらどんな響きだったか、そしてこの 5 年間が実際どうだったか。）
莫大な利点と共に深刻な課題もあります。技術面でも社会面でも安全性の問題を解決する必要がありますが、そのうえで経済的影響を踏まえ、超知能へのアクセスを広く分配することが極めて重要です。望ましい道筋は次のようなものかもしれません。
- アラインメント問題の解決
長期的に私たち全体が本当に望むことを AI システムに学習させ、行動させることを確実に保証する。ソーシャルメディアのフィードはミスアラインメントの例です。あのアルゴリズムはあなたをスクロールし続けさせることに非常に長け、短期的な嗜好を理解していますが、脳の仕組みを突いて長期的な嗜好を上書きしてしまいます。 - 超知能を安価で広く行き渡らせ、特定の個人・企業・国家に過度に集中させない
社会はしぶとく、創造的で、素早く適応します。人々の集合的な意志と知恵を活かせれば、失敗や事故が起きても学び、適応し、この技術で最大の利点と最小の不利益を得られます。社会が定める広い枠内でユーザーに大きな自由を与えることが重要です。これらの枠をどのように定義し、集団的アラインメントを測るかについて、世界が早く議論を始めるほど良いのです。
私たち（業界全体、OpenAI に限らず）は世界のための「頭脳」を作っています。それは極めてパーソナライズされ、誰もが簡単に使えます。制約は優れたアイデアの有無だけになります。長い間、スタートアップ業界の技術者は「アイデアマン」をからかってきました。彼らはアイデアだけを持ち、作るチームを探していたからです。しかし今や彼らこそ脚光を浴びる時代が来るように思えます。
OpenAI は今や多くの顔を持ちますが、何よりまず超知能研究の企業です。やるべきことは山積みですが、目の前の道筋はほぼ照らされ、暗がりは急速に後退しています。この仕事ができることに、私たちは計り知れない感謝を抱いています。
メーターで測れないほど安価な知性は手の届くところにあります。こう言うと馬鹿げて聞こえるかもしれませんが、2020 年当時に今日の状況を予言したら、今の 2030 年予測よりよほど突飛に思えたでしょう。
どうか私たちが超知能へと滑らかに、指数関数的に、そして何事もなくスケールできますように。
