※本記事は、Artificial General Intelligence: Casting a Vision for a Better Future の抄訳です。本資料の正式言語は英語であり、その内容および解釈については英語が優先されます。
この記事は、Salesforceに所属する2 人の思想家が執筆したもので、エンターテイメント、人間関係、職場など、 AGI（汎用人工知能）が私たちの生活に与える潜在的な影響について考察しています。また、AGI が人間が持つ価値観と合致し、全人類に利益をもたらすよう、責任ある開発と倫理的枠組みの必要性も強調しています。
記事では、主に次のような質問について考察します。
- AGI（汎用人工知能 ） とは何か?
- 真のAGIを達成するには何が必要か?
- AGI は私たちの生活にどのような影響を与えるか?
- AGI は職場にどのような影響を与えるか?
- 安全な AGI を確保するにはどのような対策が必要か?
AI の力によって形作られた未来に一歩足を踏み入れると、ターミネーター、HAL、そのほか、多数の SF で語られてきたような暗黒の悪夢が広がる世界にいることに気づくでしょう。その未来はしばしば私たちに根深い恐怖を呼び起こします。
実際、この懸念は根拠のないものではありません。 AI の安全性、セキュリティ、信頼性については、プライバシーとコントロールの侵害、前例のない規模での超現実的な偽情報の拡散、新たな法的および心理的課題、雇用剥奪の恐怖、そして暴走する AI が、私たち全員に黙示録のようなシナリオをもたらす可能性など、正当な懸念が数多くあります。
AIを導入する企業は顧客との「信頼の格差」のリスクを抱えている
Recent Salesforce Research finds that as brands Salesforce Researchの最新調査によると、企業が効率性を高め、高まる顧客の期待に応えるためにAI を導入するケースが増えており、顧客の 4 分の 3 近くがテクノロジーの非倫理的な利用について懸念していることが明らかになりました。
統計ライブラリ
顧客の89%は、自分がコミュニケーションをとっているのがAI なのか、人間なのかを知ることが重要であると述べています。
顧客の80%は、人間がAIによる出力を検証することが重要であると述べています。
顧客の63%がAI のバイアスを懸念しています。
汎用人工知能 (AGI) とは何か?
AGIを感覚的に理解するには、人間の認知能力（学習、会話、計画、科学的なものから創造的なもの、哲学的なものから個人的なものまで、さまざまな領域にわたるタスクの実行能力）と、ハイパフォーマンスコンピューティングのスピード、メモリ、信頼性、拡張性と組み合わせたものを想像してみてください。
今日のAIモデルに搭載されているLLM（大規模言語モデル) には、自然言語でオープンエンドな会話を続ける能力と、あらゆる領域における膨大な知識の蓄積へのアクセスを備えた AGI を垣間見ることができます。
すでに、LLMは数学や物理学から法律や医学に至るまで、さまざまな分野の知識や問題解決タスクにおいて、人間の専門家に勝っています。
最善のシナリオでは、適切な安全策を備えたAGI は、文脈を理解する能力、斬新な問題を解決する能力、将来の計画を立てる能力など、私たちが知性に対して大切にしているものを「オンデマンドの知性」に変え、誰もがいつでも使えるリソースになります。人間の日常的な認知活動はいずれ AI の支援を受けるか、AI に取って代わられることになるでしょう。すべての日常業務は AI によって調整され、個人は個人用の AGI を日常生活にシームレスに組み込むようになり、AI なしには存在できなくなるでしょう。
AI出力の有用性がデータに依存する理由
Salesforceのプロダクトマーケティング担当VPのサンジャナ・パルレカー（Sanjna Parulekar）が、エンタープライズAIの出力を改善するEinstein Copilotのアップデートや、顧客がすぐに生成AIを立ち上げて実行する際にすぐに使える機能について解説します。
AGIへの道
しかし、今日の最先進の LLM でさえ、真の AGI に到達するまではかなり遠い道のりがあります。人間の学習には高いハードルが設定されています。一生分の知識を持つ人間は、たった一度の経験や会話だけで、単純な事実から物理的なタスク全体に至るまで、世界に対する理解を永続的に広げることができます。 LLM は依然として学習データの内容が大きく制限されており、その内容を更新したり、修正したりする必要がある場合には、コストと時間のかかる再学習が必要になります。
リアルタイムで学習する能力は AGI の重要な特徴で、そのようなシステムは世界を探索しながら、元々学習させたデータを継続的に補強し、改良することができるようになります。AGI は、人間とのやり取り、周囲の環境からのセンサーデータ、そしてもちろんオンラインやその他のネットワーク ソース経由で見つかる情報など、事実上すべての経験から有意義なデータを抽出できるようになるでしょう。
リアルタイムで学習する能力は AGI の重要な特徴で、そのようなシステムは世界を探索しながら、元々学習させたデータを継続的に補強し、改良することができるようになります。
さらに、これと同様に重要なことですが、AGI は、そもそもどのような新情報を、いつ探し求めるべきかを判断する能力によって定義されます。今日の LLM の学習は、人間の開発者に完全に依存しており、教室で教師の言いなりになる生徒のように情報を浴びせられています。 AGI はより野心的な大人のようになり、間違いや混乱、あるいは本質的に培われた好奇心にさえ反応し、絶えず知識を拡大しようと望むようになるでしょう。そのような AGI は単に回復力があり、機知に富むだけでなく、知識の価値に対する AGI 自身の評価によって、時間とともにその能力と価値を高めていくでしょう。
人間関係やコミュニケーションの重要な側面は、仲間の心の状態を予測し、理解し、さらにはモデル化する能力です。隣の車線を走るドライバーの次の行動を推測する能力であれ、顧客、同僚、友人が望むものであれ、ゲームでの競争相手の戦略であれ、私たちは毎日多くの時間を、自分以外の人の胸の内を考えることに費やしています。
今日の LLM は、まだ偶然的に共感しているに過ぎません。 LLM には学習データに組み込まれている機能として、このレベルの理解力をかすかに垣間見ることができますが、その定義としては明示的なものか、確固としたものであるかのいずれかです。LLMに、人間の最もデリケートで多感な性質を定義するような共感力と理解力を与えようという本格的な試みはまだ行われていません。
AGI は、個人と集団の両方としての人間のニーズと心理、私たちを結び付ける社会的な慣習、そしてもちろん、私たちが交換可能なデジタルな実体ではなく、物理的な死を免れることができない存在であるという単純な事実（そしてそれがもたらすもの全て）への理解を深めることで、より深く、より有意義なレベルで人間とつながることが期待されます。
AGI は、個人と集団の両方としての人間のニーズと心理、私たちを結び付ける社会的な慣習、そしてもちろん、私たちが交換可能なデジタルな実体ではなく、物理的な死を免れることができない存在であるという単純な事実（そしてそれがもたらすもの全て）への理解を深めることで、より深く、より有意義なレベルで人間とつながることが期待されます
AGI が越えなければならないもう 1 つの境界は、 身体性です。最も単純な形では、身体性とは、物理的または仮想世界において、その世界に対する人間の経験的な理解を反映するかたちで関わることを指します。私たちの感覚は、テキストや画像、または音声に似た一種の「データ」を提供し、またそれらをある瞬間から次の瞬間へと結びつけて統合し、特定の詳細情報をはるかに超えた意味合いをそれぞれに持たせます。たとえば、まな板の上で野菜を切るより良い方法など、私たちが何か新しい作業を学ぶとき、私たちは指に触れる野菜の皮や包丁の柄を手にした時の触覚、刃が肌に近づくにつれて気をつけること、目に映るものすべての視覚、さらには野菜の断片が積み重なる音や香りまでもを結びつけて統合しています。
さらに、これらの瞬間を、今日のデータセットでは直接捉えられることがほとんどない概念、つまり因果関係の理解 (プロセスの各段階を完了させなければ、次の段階に進むことができない仕組み)、物理学と材料の理解 (包丁で野菜の皮をむくときにどれくらいの力が必要なのか、あるいは、包丁がまな板に当たった時の衝撃など) 、さらには人間の心理（なぜ料理を極める価値があるのか）さえも統合して処理します。今日の AI は、これらの概念をおぼろげにしか認識していません。身体性は、AGI を実現するために越えなければならない大きな溝なのです。
AGI は私たちの生活にどのような影響を与えるか?
AGI 能力が私たちの生活全体に応用されると想像すると、その応用範囲はおそらく無限に広がります。AGI は、人間がすでに行っている多くのタスクを比類のない効率性をもって実行し、人間の能力をはるかに超えるでしょう。
真のAGIは、そのような会話に生産的に貢献できるだけでなく、十分な時間と情報が与えられれば、おそらく一貫して私たちの問題を解決することさえできるでしょう。さらに、その「思考」の背後にある理由を明確にし、その会話の本質をユーザーの期待に合わせて調整することさえするでしょう。
ユーザーが必要とするあらゆる入力やガイダンスを提供し、生活から摩擦を取り除く、一種の「日常の AGI 副操縦士」を想像してみてください。彼らは買い物をしたり、パーティーを計画したり、経済的な決定を下したり、友人との意見の相違を調停したりします。これらは、家庭、職場、学校、交通機関など、あなたが活動するあらゆる環境に存在します。 AI は局所的なサービスや機能を実現するために、そのような環境から広大な 複数のAI ネットワークと連携することになります。
ユーザーが必要とするあらゆる入力やガイダンスを提供し、生活から摩擦を取り除く、一種の「日常の AGI 副操縦士」を想像してみてください。
AGI は、食事、フィットネス、投薬、一般的な生活習慣に関する専門家レベルの理解を、それにアクセスできるすべての人にもたらすことで、私たちの健康との関係も変革します。将来的にAGI は、病気のメカニズムを包括的に理解し、効果的な診断と治療を提供するようになる可能性があります。最も初期のがん細胞の分裂を感知し、疾患を排除するための特定の遺伝子療法を推奨するといった、リアルタイムの健康状態の観察と病気の検知が実現する世界を想像してみてください。
医師やその他の医療従事者にとっては、事務作業や後方支援作業はすべて AI が行うことになり、すべての労働者が少なくとも週に 1 日分は解放されるようになります。現在は医療ミスがよく起こっていますが、AI は検査データや薬剤投与量の評価、医療従事者の知識の継続的な更新など、医療従事者がミスを回避するための最良のツールの 1 つになる可能性があります。人間と AI が協力してフルタイムで患者の監視や検査を行う集中治療室や、人間と AI が協力して脳外科のような極度のコントロールを必要とする手術作業を行う手術室を想像してみてください。
エンターテインメントの分野では、AGI は単に私たちが楽しめそうな映画や音楽、本を提案するだけでなく、（今日の AIモデルでも非常にうまく機能することもありますが）ユーザーの正確な好みや要望に基づいて、そのような作品を文字通り完全にゼロから創り出すことができるようになるでしょう。テキストとビデオ生成の進歩はすでに驚くべきペースで進んでいますが、ここで明らかな疑問が生じます。未来の AI モデルは、ストーリーライン全体を創作し、それらをキャラクターやセリフ、画面転換などを含む詳細な撮影台本に変換し、長編の超高解像度映像を生成して、その作品に命を吹き込むことができるようになるのでしょうか。お気に入りの映画や本、さらにはビデオゲームの続編が実にうまく作られ、好きなだけ架空の世界に浸って、新しい冒険が待っていることを想像してください。そして、これさえも、野心的に聞こえるかもしれませんが、AI は現在では想像もつかない方法で私たちを楽しませるようになるかもしれません。このような能力が仮想現実や拡張現実と組み合わされば、ビジョンはさらに広がります。
今では想像もつきませんが、AGI エージェントは素晴らしい会話パートナーであり、クリエイティブな協力者となり、時間が経つにつれて、私たちは彼らを同僚、あるいは友人としてさえ見るようになるでしょう。 AGI が発展するにつれ、私たちの世界における AGI の位置は、実用的であると同時に社会的なものになるかもしれません。1960 年代のELIZA チャットボット（想像できる限りシンプルで限定的な会話エージェント）のように、人間が機械と予想外に深い絆を築いてきたことを考えると、超人的な知性が私たちの魅力的な仲間になる可能性があったとしても驚くことではありません。
今では想像もつきませんが、AGI エージェントは素晴らしい会話パートナーであり、クリエイティブな協力者となり、時間が経つにつれて、私たちは彼らを同僚、あるいは友人としてさえ見るようになるでしょう。
AGI は私たちの働き方にとって何を意味するのか?
AGI は、私たちの働き方を再構築し、生産性を再定義するための革新的な能力を提供するでしょう。AGIはその推論能力、データへのアクセス、会話能力によって、ごく自然な協力者となり、ほぼあらゆるタイプのキャリアのメンターにさえなるでしょう。単に意思決定を直感的に確認する場合であれ、あるタスクを達成するための完全な戦略を求める場合であれ、AGI は最終的にはあらゆることを成し遂げるための理想的なパートナーになる可能性があります。もちろん、人間の労働者の能力を増強することは始まりにすぎません。AGI は、次の優れたバスケットボールシューズ、スマートフォン、冷蔵庫などのまったく新しい製品や、まったく新しい製品カテゴリーの開発にまで拡張される可能性があります。
AGI は、私たちが個人として健康を維持するのに役立つのと同様、組織の健全性と安定性も高めることになるでしょう。
AGI は、私たちが個人として健康を維持するのに役立つのと同様、組織の健全性と安定性も高めることになるでしょう。
SalesforceのAIが設計したタンパク質はどのように潜在的な治療法の発見に役立つのか？
Salesforce ProGenは、現行最大のタンパク質データベースを学習させたAI言語モデルで、人間の病気や環境に関する課題解決策に、潜在的に生成AIがどのように役立つかを示します。
専門家レベルの知性が、そしておそらくそれをはるかに超える知性が、ビジネスにおける日常のあらゆる瞬間にもたらされ、問題が可能な限り事前に予測され、行動を起こせるようになった瞬間に対処できるようになることを想像してみてください。 AGI は、都市交通の流れ、グローバルサプライ チェーン、電力網など、大規模で複雑なネットワークを能動的に管理し、実世界にリアルタイムで適応できるようになるでしょう。化学や生物科学の分野では、AGI は膨大な数の分子を制御する能力を持つAIの 錬金術師となり、バイオテクノロジーや医学研究用のタンパク質、まったく新しい合金や材料につながる結晶構造などの新しい材料を設計・生産することになるでしょう。
AGI はまた、より強力で知的なロボットを生み出す技術を加速させるでしょう。それがハリウッドスタイルの二足歩行ロボットであろうと、まったく別ものであろうと、AGI が知的労働を変えるだけでなく、私たちが知っている労働を変えることは間違いないでしょう。
倉庫、工場、農場、その他の施設では、高効率の機械が人間のオペレーターからバトンを受け取り、事故、ミス、欠陥を減らしながら、これまでにない生産性と処理能力を発揮するでしょう。いずれAGI は、視覚、聴覚、嗅覚、味覚、触覚といった哺乳類のの五感をすべてを網羅するようになり、まったく新しいタイプのロボットを生み出すかもしれません。
さらに、脳からの信号を直接読み取ることができる AI システムに人間の脳を接続することで、さまざまなタスクを実行できる大きな可能性が生まれます。神経系の人工装具は記憶喪失や脳卒中による損傷などの脳の機能を改善し、AI 対応の手足は人間とロボット工学の架け橋となるでしょう。ユーザーの神経反応を直接利用することで、VR および AR 体験はより没入的で直感的なものになる可能性があります。そして、いつかは人間の脳とAGIがより共生関係を築き、新しい種を生み出す可能性もあります。
信頼を中心とした AGI 安全対策の構築
歴史を通じて、技術の進歩は常に有益な結果と不利な結果の両方を生み出してきました。これまで私たちは、AGI が人類にもたらす恩恵として予見されるものを紹介してきましたが、一方で悪意のある者が自律型兵器、侵入監視、経済操作、前例のない規模のサイバー攻撃や偽情報キャンペーンなどを利用して、このテクノロジーを悪用して危害を加えようとすることも知っています。AGI は私たちの最高の部分と最悪の部分を反映することになるでしょう。
AGI の将来は、AI システムが誤った判断をせず、与えられたタスクを適切に遂行し、悪意のある者が AI システムをコントロールしたり乗っ取ったりして敵対的な行動を行ったりするサイバー攻撃に対する耐性を高めるための安全策を構築することにかかっています。また、間違いを説明するための法的枠組みも検討されています（自動運転と同様、車が事故に遭った場合、責任の所在が車の所有者かAIを所有する企業かを決める）。
AGI を前進させる方法は、信頼を最優先にすることです。これは、AGI がより少ない人間の監視（理想的にはゼロ）でタスクを実行することを考えると重要な課題です。
AGI を前進させる方法は、信頼を最優先にすることです。これは、AGI がより少ない人間の監視（理想的にはゼロ）でタスクを実行することを考えると重要な課題です。これは極めて重要な瞬間であり、歴史家が振り返った時に、人類がAIを活用して信頼、平等、健康、気候変動といった問題解決を前進させたのか、それともテクノロジーによって危機が深刻化することを許したのかを評価する時です。私たちは人間の監視、倫理的枠組み、グローバルな協力を通じてこの革新的なテクノロジーが人間の価値観に沿ったものであり、その恩恵が全人類に役立つものであることを保証するための措置を講じる必要があります。
詳細情報
- 経営陣のさらなる視点に加え、Salesforce の AI CRM のニュースやストーリーはこちら。
- Salesforce の倫理的利用 AI 担当プリンシパルアーキテクトによる署名記事はこちら。
- Salesforce AI リサーチがどのように社会を形成しているかについての記事はこちら。
- テクノロジーの倫理に関するその他の記事はSalesforce ニュースルームをご覧ください。
著者について
