「互換性。人工知能を制御する方法」

目次:

ビデオ: 「互換性。人工知能を制御する方法」

Отличия серверных жестких дисков от десктопных
ビデオ: 中学数学からはじめるAI(人工知能)のための数学入門 2023, 2月
「互換性。人工知能を制御する方法」
「互換性。人工知能を制御する方法」
Anonim

超知能人工知能と人類の対立は、大衆文化のお気に入りの主題です。しかし、実際に私たちよりも強力なAIを作成するとどうなるでしょうか?本の中で「互換性。人工知能を制御する方法 "(出版社" Alpina non-fiction ")、ナタリアコルパコワによってロシア語に翻訳された、AI研究者のスチュアートラッセルは、人工知能をすでに使用している場所と、それが制御不能になるのを防ぐ方法を説明します。 N + 1は、技術的な制限がなくなった後、AIにタスクを設定するリスクがあり、その実装が悲劇に変わる理由と、それを防ぐために何をする必要があるのか​​を著者が主張する一節を読むように読者を招待します。これ。

Image
Image

「ミダス王の問題」

第1章で出会ったノーバート・ウィーナーは、AI理論、認知科学、制御理論など、多くの分野に多大な影響を与えてきました。彼の同時代人のほとんどとは異なり、彼は現実の世界で動作する複雑なシステムの予測不可能性について真剣に心配していました。 (彼はこのトピックに関する最初の記事を10歳で書いた。)ウィーナーは、軍隊であろうと民間人であろうと、自分たちの創造物を制御する能力に対する科学者とエンジニアの不当な信頼は悲惨なものになる可能性があると確信した。

1950年に、ウィーナーは人間の人間の使用を公開しました。その表紙の注釈には、「機械脳や同様の機械は人間の価値を破壊したり、かつてないほどそれらを実現することができます」と書かれています。彼は徐々に自分の考えを磨き、1960年までに主な問題、つまり人の本当の目的を正しく徹底的に決定することが不可能であることを特定しました。つまり、これは、前述の標準モデル(人々が自分の目標をマシンに与えようとする)が失敗する運命にあることを意味します。

この考えを「ミダス王の問題」と呼ぶことができます。古代ギリシャ神話の登場人物であるミダス王は、文字通り彼が求めていたものを受け取りました。つまり、彼が触れるものはすべて金に変わるということです。彼は、これが彼の食べ物、飲み物、家族にも当てはまることに気づき、完全な絶望の中で空腹で亡くなりました。このテーマは、人類の神話に遍在しています。ウィーナーは、水の上を歩くように強制することでポメロを魅了した魔術師の見習いについてのゲーテの物語からの抜粋を引用していますが、どれだけの水を持ってくるかについては述べておらず、ポメロを止める方法を知りませんでした。

この考えを私たちのテーマとの関連で考えると、値の調整に失敗するリスクがあります-おそらく、私たち自身に反する問題をマシンに不注意に与える可能性があります。最近まで、私たちはインテリジェントマシンの限られた機能と、それらが世界に与える影響の限界によって、起こりうる壊滅的な結果から保護されていました。 (実際、AIに関する作業の多くは、研究所のモデルの問題で行われています。)Norbert Wienerが1964年の著書、God and the Golemで指摘しているように、次のようになります。

過去には、人間の意図の不完全で誤った評価は、これらの意図を正確に定量化することを困難にする技術的制限を伴っていたという理由だけで、比較的無害でした。これは、人間の無力がこれまで人間の愚かさの破壊的な猛攻撃から私たちをどのように保護してきたかを示す多くの例の1つにすぎません。

残念ながら、この保護期間はすぐに終わりに近づいています。

広告の収益を最大化するためにソーシャルメディア上のコンテンツを選択するためのアルゴリズムがどのように社会に大混乱をもたらしたかはすでに見てきました。広告の収益を最大化することが他の誰も追求しない低い目標であると考える場合、癌の治療法を見つけるために将来の超知能システムに高い目標を設定したと想像してみてください-理想的には3.5秒ごとなのでできるだけ早く人は癌で亡くなります。数時間のうちに、AIシステムはすべての生物医学文献を読み、何百万もの潜在的に効果的であるが、以前はテストされていない化合物を調べました。彼女は数週間にわたって、これらの化合物の臨床試験を実施するために、世界中のすべての人にさまざまな種類の腫瘍の発生を引き起こしました。これが治療法を見つけるための最速の方法だからです。到着しました!

環境問題に取り組みたい場合は、二酸化炭素含有量が高いため、海洋の急速な酸性化に対処するように車に依頼することができます。この機械は、海洋と大気の間で信じられないほど速い化学反応を引き起こし、海洋の酸性度を回復する新しい触媒を開発しています。残念ながら、このプロセスは大気中に含まれる酸素の4分の1を消費し、窒息によるゆっくりとした痛みを伴う死に私たちを運命づけます。また到着しました!

そのような終末論的なシナリオは非常に原始的です-おそらく「世界の終わり」からであり、他に何も期待すべきではありません。しかし、多くのシナリオでは、精神的な窒息が「少しずつ、そしていつの間にか」私たちを追い越します。マックス・テグマークによるLife 3.0のプロローグは、超知能マシンが本質的に検出されないまま、世界全体で徐々に経済的および政治的権力を握るシナリオを詳細に説明しています。インターネットとそれに基づくグローバルアクションのマシン(すでに毎日数十億の「ユーザー」と対話している)は、人々に対するマシンのパワーを高めるための理想的な環境です。

そのようなマシンに割り当てられたタスクが「世界を奴隷にする」というカテゴリーからのものになるとは思いません。より可能性が高いのは、利益またはエンゲージメントを最大化することであり、おそらく、定期的なユーザーの幸福評価の指標を増やしたり、エネルギー使用量を減らしたりするなど、一見無害な目標ですらあります。さらに、私たちの行動が私たちの目標を達成することを目的としていると私たちが信じる場合、私たちの行動を変えるには2つの方法があります。まず、古き良き方法で-期待や目標を変えたり、状況を変えたりすることなく、たとえばお金を提供したり、銃を向けたり、飢えさせたりします。これは、コンピューターにとって高価で困難な道です。 2番目の方法は、期待と目標を変更することです。車の方がはるかに簡単です。それは、あなたが何時間も毎日あなたと連絡を取り合い、情報へのアクセスを制御し、ゲーム、テレビ番組、映画、社会的交流の形であなたの娯楽のかなりの部分を提供することです。

ソーシャルメディアのクリックを最適化する強化学習アルゴリズムは、人間の行動を理解することができません。実際、彼らは人々が存在するという言葉の合理的な意味でさえ「知りません」。人間の心理、信念、動機を理解している機械にとって、機械の目標の満足度を高める方法で私たちの方向を変えることは比較的簡単です。たとえば、子供を少なくするように説得することでエネルギー消費を削減し、自然界への人類の悪影響を完全に排除することを夢見ている反出生哲学者の夢を徐々に(そして必然的に)実現することができます。

少し練習するだけで、多かれ少なかれ固定された目標を達成することが任意の望ましくない結果をもたらす可能性がある方法を理解することを学びます。典型的な道の1つは、あなたが本当に興味を持っている目標の一部を逃すことです。このような場合(上記の例のように)、AIシステムは、あなたにとって重要なことを極限まで追求する最適なソリューションを見つけることがよくありますが、あなたは言及するのを忘れていました。たとえば、自動運転車に「できるだけ早く空港に連れて行ってください」と言ったとします。 -そして彼はそれを文字通り受け取り、時速300 kmまで加速し、あなたは刑務所にいることに気付くでしょう。 (幸い、現在、車はそのようなリクエストを受け付けていません。)「制限速度を超えずにできるだけ早く空港に着いてください」と言うと、加速とブレーキが非常に速くなり、その間の最高速度で移動します。空港ターミナルの入り口で群衆の中で数秒勝つために他の車を押し戻します。 NS。徐々に、十分な警告を追加します。車の動きは、遅れることを恐れて乗客を空港に連れて行く経験豊富なドライバーの行動とほぼ同じになります。

車両の運転は、ローカルな結果のみを伴う単純なタスクであり、今日そのために作成されているAIシステムは特にインテリジェントではありません。したがって、多くの潜在的な故障モードが予測できます。他のモードは、自動車シミュレーターまたは全長数百万キロメートルのテストドライブに表示され、障害が発生した場合にプロのドライバーが制御できるようになります。さらに、他のモードは後で発生します。車はすでに道路上にあり、何かが起こります。

残念ながら、グローバルな影響力を持つ超知能システムの場合、モデル化または複製することはできません。もちろん、一般の人々が機械がその目標に向かって移動することを決定できるすべての破壊的な方法を事前に予測して除外することは非常に困難であり、おそらく不可能です。一般に、1つの目標があり、超知能マシンにあなたの目標と矛盾する別の目標がある場合、マシンは必要なものを取得しますが、取得しません。

トピックによって人気があります