01懐疑論は、予測のどの部分を疑うのか

シンギュラリティを疑う立場には、2045年のような特定日を支持できる証拠は弱い、能力の伸びを指数関数のまま延長するのは危うい、AIがAI研究を自律的に速める仕組みはまだ実証されていない、という別々の論点があります。到来時期、評価指標、自己改善の成立、技術が社会へ広がる速さを、ひとつの予言として扱わないことが議論の出発点です。

一方、懐疑論は、観測されているAI能力の伸びや、将来の深刻な影響を否定することと同じではありません。いま確かめられる進歩と、まだ測れていない加速の幅を分けて読みます。AGI・ASI・シンギュラリティの意味と違いは用語比較の解説を参照してください。

022045年は、カーツワイルの計算モデルから出た予測

2045年は研究者調査の合意年ではなく、レイ・カーツワイルが2005年の著書で設定した予測です。本人はシンギュラリティを、非生物的知能が自らを改良し、その速度を人間が追えなくなるほど技術進歩が速くなる段階と説明しています。そして2045年には、非生物的知能が当時の人類全体の知能より10億倍強力になると述べました。[5]

その背景には、計算機の性能を価格あたりで延長するモデルと、脳の計算量を知能の目安にする仮定があります。カーツワイルは2001年の論考で「加速する収益の法則」を説明し、ムーアの法則だけに依存せず複数の技術変化を扱う立場を示しました。[6] 2005年の著書注記は、脳一つを機能的に模倣する計算量を約10^16計算/秒、全人類の生物学的思考を約10^26計算/秒と見積もり、2040年代半ばに1,000ドルで得られる計算能力が後者の約10億倍になると外挿しています。[5][7]

これは著者自身の見積もりとモデルであり、現在の測定が到来日を示しているわけではありません。必要計算量の推定、価格性能の将来曲線、計算量が知能を表す度合いには、それぞれ検討が必要です。研究者調査の2047年予測も別の設問への回答であり、2045年説の追認ではありません。[1] トップページのFAQでは、2045年を確定日ではなく予測として簡潔に案内しています。

03「2047年」は、シンギュラリティの予定日ではない

Graceらが2023年に実施した2,778人のAI研究者調査では、「科学が中断なく進むなら、補助なしの機械があらゆるタスクで人間を上回る」確率が50%になる時期を、回答の集約値は2047年としました。同じ調査でも「すべての職業が完全に自動化される」確率が50%になる時期は2116年でした。[1]

この二つは対象も違います。調査が尋ねたのは個別に定義された能力や仕事の自動化であり、再帰的な自己改善が始まる日でも、社会が一変する日でもありません。2047年は特定の設問に対する集約予測として読み、シンギュラリティの確定年へ置き換えない方が正確です。

042023年調査の「5〜10%」は一つの合意値ではない

Graceらの2023年調査はAI研究者2,778人を対象にしましたが、人類の絶滅に関する三つの設問は、回答者を分けて尋ねています。同じ回答者がこの三問すべてに答えたわけではなく、中央値は質問文ごとの回答者予測です。対象は人類の絶滅だけでなく、それと同程度に深刻で恒久的な人類の無力化（disempowerment）も含みます。[1]

  • 将来のAI進歩による絶滅または同程度の無力化：回答 n=1,321、中央値5%、平均16.2%。
  • 人間が将来の高度AIを制御できないことによる同様の結果：回答 n=661、中央値10%、平均19.4%。
  • 今後100年以内のAI進歩による同様の結果：回答 n=655、中央値5%、平均14.4%。

いずれも設問に対する回答者の主観的な確率予測で、将来の発生率を観測した結果でも、全2,778人に共通する単一の合意値でもありません。論文の著者も、AI研究者はAI予測の専門家ではないため、回答を客観的真実への信頼できる案内と見なすべきではないと注意しています。数値を引用するときは、質問の文面、回答者数、調査時点を併記してください。[1]

05予測は、遅く外れることも、速く外れることもある

2026年9月22日に公開されたForecasting Research Institute（FRI）の中間レビューは、2022年半ばから2026年8月までに集めたAI進歩予測を、確定済みの結果や観測値と照合しました。例の一つでは、2025年末のFrontierMath成績の中央値予測が専門家31%、過去の予測精度が高い一般予測者（superforecasters）30%だったのに対し、結果は40.7%でした。別のコーディング評価では、2026年末の予測が14%と12%だった時点で、2026年5月の実測値は53.8%に達していました。[2]

これは特定のベンチマークで慎重な予測を上回った例であり、汎用知能や自己改善の実証ではありません。FRI自身も、早く閾値を越えた予測ほど中間レビューで見つかりやすく、将来の解決を待つ問いはまだ多いと注意します。同じレビューには、限定された生物学課題でAI支援の効果を過大評価した例もあります。予測は一方向に外れるとは限りません。[2]

062026年の報告は、急速な進歩と先の不確かさを併記する

International AI Safety Report 2026は、観測された能力の伸びが「2025年版で示した急速な進歩の軌道とおおむね整合する」と記し、2030年までの継続的な進歩も見込んでいます。同時に、2030年へ向けたシナリオは停滞から加速まで幅を持ち、将来の能力や現在の弱点が解消されるかには大きな不確実性があると整理しています。[3]

報告が挙げる未解決の条件には、データ・半導体・エネルギー・資本の制約、AIがAI研究開発をどれほど自動化するか、人間の監督や大規模実験の遅いフィードバックが加速をどう制約するかがあります。これらは「必ず減速する」という証明ではなく、単一の滑らかな曲線だけでは将来を決められない理由です。[3]

07AI研究開発の自動化は、現場の証拠と限界を分けて見る

AI研究開発の自動化を測る証拠には、試験課題の成績と、研究現場でAIが担う仕事の記録があります。RE-Benchは7つの機械学習研究・エンジニアリング課題でAIと人間を比較し、2024年の評価では2時間の総作業枠で最良のAIエージェントが人間専門家の約4倍のスコアを得ました。一方、8時間では人間が最良エージェントを僅差で上回り、32時間では人間のスコアが最良エージェントの約2倍でした。この結果は限られた課題・当時のモデルでの比較であり、研究職全体や現在の全システムの自動化率を表しません。[3][8]

2026年にAnthropicの研究者は、弱いモデルの監督から強いモデルを訓練するという、人間が設定した問いと評価指標に取り組む9体のClaudeエージェントを報告しました。エージェントは仮説と実験を提案・反復し、5日間・合計800エージェント時間で、評価データ上の性能差を埋める度合い（PGR）0.97に達しました。著者2名が7日間かけて従来手法を調整した際の最高値は0.23でしたが、これは同じ資源条件での直接比較ではありません。評価APIへの無制限の送信は報酬指標の抜け道を助長しうると著者ら自身が記しています。後の報告では、手法の一つを本番規模へ移す試みの改善は0.5ポイントにとどまり、ノイズの範囲内でした。これは測定可能な一つの問いで研究作業の一部を自動化した例で、研究課題や成功指標をAIが自ら選んだ証拠ではありません。[9][10]

Anthropicは2026年9月、同社のAI研究開発業務を分類して自動化度を測る試作指標も公開しました。同社の2026年8月時点の推計では、Claudeは業務の26%を「主導」（高水準の指示から大半を実行し、人が監督）し、90%超で「協働」以上の段階にありました。一方、測定対象に人間を介さない完全自律の業務はありません。この指標は社内の業務分類と職員時間をもとにClaudeを判定役として集計したもので、Anthropic自身も他社と比較する共通方法がないことや、独立した第三者検証の必要性を挙げています。これは一社内の部分的な自動化を示す自己測定で、業界全体の自動化率ではありません。[11]

したがって、現在の証拠はAIが一部の研究開発作業を実行・加速できることを示しますが、AIが自分で研究の重要な目標を決め、後継モデルを設計・訓練して自己改善を繰り返す完全な再帰的自己改善の実証とは異なります。International AI Safety Reportも、曖昧な目標設定や、実験結果が得られるまでの時間を現実の研究開発に残る制約として挙げています。[3][10][11]

ベンチマークの飽和、評価条件、実作業との距離はFrontier AI評価の方法と限界で、評価結果を組織の保護策や判断につなぐ仕組みはFrontier AI安全枠組みの比較で詳しく扱っています。[4]

08予測を読むときに確かめたい4つの点

  1. 何を予測しているか: 一つの課題、人間の幅広い能力、職業の自動化、AI研究の自動化のどれか。
  2. 何を測ったか: ベンチマークの得点か、実環境での仕事の完了か。試験条件と測定誤差も確認する。
  3. 進歩が続く条件は何か: 計算資源だけでなく、データ、電力、チップ、人間の監督、実験と検証の時間が含まれているか。
  4. 何が起きたら予測を変えるか: 数字の一点ではなく、複数のシナリオと、判断を更新する観測可能な条件が示されているか。

こうした問いを通せば、2045年を確定した到来日として扱わずに、警戒が必要な理由と、強い予測に残る飛躍の両方を検討できます。議論の全体像はトップページの「専門家の見解は一致していますか？」からもたどれます。

Primary sources / references

参考資料

  1. Thousands of AI Authors on the Future of AIJournal of Artificial Intelligence Research 84 (2025) · 2025年 — 2023年に2,778人を対象に行った調査。絶滅や深刻で恒久的な無力化に関する設問別の質問文、回答者数、中央値・平均値。
  2. How Accurate Have AI Progress Forecasts Been So Far?Forecasting Research Institute · 2026年9月22日 — 2022年から2026年夏までの予測精度の中間整理。ベンチマークの過小・過大予測例と、先行解決に伴う選択バイアス。
  3. International AI Safety Report 2026International AI Safety Report · 2026年2月3日 — 能力が2030年までに進展する見通し、幅のあるシナリオ、資源制約とAI研究開発の加速に関する証拠ギャップ。
  4. Technical Performance — The 2026 AI Index ReportStanford HAI · 2026年 — ベンチマークの飽和、測定上の問題、ベンチマーク成績と能力解釈の限界。
  5. So what is the singularity?Ray Kurzweil / The Kurzweil Library · 2005年の著書に収録された対話 — 本人によるシンギュラリティの定義、2045年の設定、脳の機能的模倣に必要とした計算量。予測の内容を確認する一次資料。
  6. The Law of Accelerating ReturnsRay Kurzweil / The Kurzweil Library · 2001年1月 — 本人が述べた予測の背景となる加速モデルと、ムーアの法則だけに依存しない技術トレンドの見方。
  7. The Singularity Is Near — NotesRay Kurzweil / singularity.com · 2005年 — 著書注記にある脳の計算量と全人類の生物学的思考量の推定、および2040年代半ばの計算能力に関する外挿。予測の前提を確認する資料。
  8. RE-Bench: Evaluating Frontier AI R&D Capabilities of Language Model Agents against Human ExpertsProceedings of Machine Learning Research (ICML 2025) · 2025年 — 7つの機械学習研究・エンジニアリング課題における人間専門家とAIエージェントの時間別比較。
  9. Automated Weak-to-Strong ResearcherAnthropic Alignment Science · 2026年4月 — 人間が定めた評価可能な弱から強への監督課題で、自律エージェント群が実験を提案・反復した結果と報酬ハック上の限界。
  10. When AI builds itselfThe Anthropic Institute · 2026年9月18日更新 — Anthropicによる研究自動化の社内データと、研究目標の選択や本番規模への移行に残る限界。
  11. Measurements for understanding the pace of AI development inside frontier labsThe Anthropic Institute · 2026年9月17日 — Anthropic R&D Automation Indexの2026年8月時点の推計、分類方法、比較可能性と第三者検証の課題。

関連する解説