人間と機械の協働：歴史的起源

01 • オリエンテーション

人間と機械の協働を広い世界から見る

人工汎用知能は、一つの製品や性能指標ではなく、社会全体に関わるシステムとして理解する必要があります。機械知能の文脈では、人間と機械の協働はアルゴリズム、人間、制度、インフラ、物理世界を結びます。歴史的起源から見ると、技術進歩は知識を生み出す主体、意思決定の方法、社会が可能にする協調の形を変えていきます。

現在のフロンティアモデルは言語、画像、ソフトウェア、巨大な知識体系を組み合わせることができます。しかし、ベンチマークでの高い性能と、未知の状況で信頼できる能力は同じではありません。汎用性には転移、記憶、因果理解、不確実性の把握、そして望ましくない副作用を避けながら目標を追求する力が必要です。

02 • システム視点

個別能力から接続された知能へ

真剣な分析には、計算資源とエネルギー、データの出所、学習アーキテクチャ、評価、人間による監督、安全保障、導入方法という全体の層が必要です。どこか一つが弱ければ、知能に見えるものが脆弱な自動化に変わる可能性があります。優れたシステムは根拠を示し、不確実性を保持し、観察から行動までの道筋を人間が検証できるようにします。

03 • 人類への影響

知能の価値は結果によって決まる

AGIの価値はパラメータ数や試験結果だけでは測れません。より良い科学、安全なインフラ、専門知識への広いアクセス、そして人々が自分の生活を形作る自由によって測られます。同じ能力が権力を集中させることも、分散させることもあります。結果は、システムが社会に深く組み込まれる前の設計選択に左右されます。

文字、印刷、電気、航空、インターネットは、発明だけでなく制度と社会的受容の組み合わせによって文明を変えました。AGIはその過程を圧縮する可能性があります。だからこそ、技術者だけでなく、歴史家、哲学者、そして世界各地の市民の視点が不可欠です。

04 • 重要な問い

歴史的起源の研究課題

• 狭い性能と幅広い能力を区別する証拠は何でしょうか。
• どの決定に特定可能な人間と制度の責任を残すべきでしょうか。
• 計算資源や資本が限られた地域にも利益を届けるには何が必要でしょうか。
• 可逆的で、検証可能で、安全な導入とはどのようなものでしょうか。
• 能力が重大な閾値を越える前に、社会は何を監視すべきでしょうか。