インテリジェントな機械システムは、物流の最適化、不正行為の検出、芸術の創造、研究、翻訳などを通じて私たちの生活を向上させています。これらのシステムの機能が向上するにつれて、私たちの世界はより効率的になり、結果としてより豊かになります。
Alphabet、Amazon、Facebook、IBM、Microsoft、そしてスティーブン・ホーキングやイーロン・マスクなどの人々は、人工知能の実質的に無限の領域について議論する時が来たと考えています。多くの点で、これは成長中のテクノロジーだけでなく、倫理とリスク評価の新たなフロンティアでもあります。では、 AI の専門家を悩ませている懸念と議論は何でしょうか?
参照： フィンテックのスタートアップTrueLayerが7000万ドルを調達
1. 失業
労働の階層は主に自動化に関係しています。タスクを自動化する方法を開発すると、個人がより高度な責任を担う余地が生まれ、産業革命以前の世界で主流だった肉体労働から、グローバル化した社会における戦略的かつ管理的な仕事を定義する認知的伝達へと移行します。
トラック輸送業について考えてみましょう。米国だけでもトラック輸送業は何百万人もの人を雇用しています。イーロン・マスクの自動運転トラックが今後 10 年間で広く利用できるようになるとしたら、彼らに何が起こるでしょうか。同じことがオフィス勤務者や世界中のその他の労働者にも起こるかもしれません。しかし、自動運転トラックは事故の可能性が減ることを考えると倫理的な決定です。
ここで、私たちがどのように時間を使うかという問題に移ります。ほとんどの人は、依然として自分自身と家族を支えるために時間を売ることに依存しています。この選択肢により、個人は家族の世話、コミュニティ活動への参加、人類の文明に貢献する新しい方法の発見など、労働以外の活動に意義を見出すことができます。
もし私たちがこの変化を乗り越えることができれば、いつか振り返って、人間が生き残るために起きている時間の大半を犠牲にせざるを得なかったことは残酷だったと思う日が来るかもしれない。
2. 不平等
私たちの経済システムは、経済への貢献に対する報酬に基づいており、これは多くの場合、時給で測定されます。商品やサービスに関しては、ほとんどの企業が依然として時給労働に依存しています。しかし、人工知能を使用することで、企業は人間の労働への依存を大幅に減らすことができ、その結果、お金を受け取る個人の数が少なくなります。その結果、AI主導の企業の所有者がすべてのお金を稼ぐことになります。
すでに富の格差は拡大しており、スタートアップ企業の創業者は、彼らが生み出す経済的余剰の不釣り合いなシェアを獲得しています。2014年、デトロイトの3大企業とシリコンバレーの3大企業は、ほぼ同じ収益を生み出しました... シリコンバレーだけが、労働者の数が10倍もいました。
労働後の社会を思い描く場合、公正な労働後の経済をどのように組織化できるでしょうか?
3. 人間性
AI ボットは、人間のやりとりや関係をシミュレートすることにますます熟達しています。ボットのユージン・グーストマンは、2015 年に初めてチューリング チャレンジで優勝しました。このタスクでは、人間評価者はテキスト入力を利用して未知の存在とやりとりし、その相手が人間と会話しているのか、コンピューターと会話しているのかを判断しました。ユージン・グーストマンは、人間の評価者の半数以上をだまして、誰かと話していると信じ込ませました。
これは、カスタマー サービスやセールスのいずれにおいても、コンピューターを人間であるかのように日常的に扱う時代の始まりにすぎません。人間が他の人に費やせる時間と注意力には限りがありますが、人工ボットはつながりを築くためにほぼ無限のリソースを費やす可能性があります。
人間の依存の未来のフロンティアはテクノロジー中毒です。ほとんどの人が気づいていませんが、ロボットが人間の脳の報酬中枢を活性化する方法はすでにわかっています。クリックベイトの見出しやビデオゲームを考えてみましょう。これらの見出しは、私たちの注意を引くためにコンテンツを最適化する基本的なアルゴリズムである A/B テストを使用して調整されることがよくあります。このテクニックやその他のテクニックにより、多くのビデオやモバイル ゲームが中毒性になります。
一方、人間の注意を向けさせ、特定の活動を開始させることに効果があることがすでに実証されているソフトウェアを、別の用途に利用することもできます。正しく適用すれば、社会をより望ましい行動へと向かわせることができます。しかし、間違った使い方をすれば、有害となる可能性もあります。
4. 人工的な狂気
学習は、人間であれコンピュータであれ、知性の源です。システムは多くの場合、正しいパターンを認識し、入力に応じて動作することを「学習」するトレーニング フェーズを経ます。システムが完全にトレーニングされると、テスト フェーズに入り、より多くのインスタンスにさらされ、パフォーマンスが評価されます。
トレーニング プロセスでは、システムが現実世界で遭遇するシナリオの一部しかカバーできません。これらのシステムは、人間ではできない方法で騙される可能性があります。たとえば、ランダムなドット パターンにより、システムはそこに存在しないオブジェクトを「認識」する可能性があります。AI に頼って労働、セキュリティ、効率の新しい時代を迎えるには、マシンが意図したとおりに動作し、人間が自分の目的のためにマシンを操作できないようにする必要があります。
5. AIバイアス
人工知能は人間よりもはるかに高速で処理能力に優れていますが、常に公平で偏りがないとは言い切れません。Google とその親会社である Alphabet は人工知能のリーダー企業であり、Google フォトでは人物、物体、環境を認識するために AI を使用しています。しかし、カメラの人種感度が悪かったり、将来の犯罪者を予測するソフトウェアが黒人に対する偏見を示したりした場合など、うまくいかないこともあります。
AI システムは人間によって設計されており、偏見や批判的な側面があるかもしれないことを忘れてはなりません。繰り返しになりますが、人工知能は、適切に使用された場合、または社会の改善を望む人々によって使用された場合、有益な変化を促進する可能性があります。
6. セキュリティ
テクノロジーが強力になるほど、悪にも善にも利用される可能性が高まります。これは、人間の軍隊に代わるロボットや自律型兵器だけでなく、悪用されると危害を及ぼす可能性のある AI システムにも当てはまります。これらの戦いは戦場でのみ行われるわけではないため、サイバーセキュリティはさらに重要になります。結局のところ、私たちは自分たちよりも桁違いに速く、有能なシステムを相手にしているのです。
7. 魔神ヴィラン
人工知能が人間に対して敵対的になったらどうなるでしょうか。私たちは、単なるライバル以上のものを心配しなければなりません。これは、人間が「悪者」になるという意味でも、ハリウッド映画で描かれているような AI の大惨事を意味するものでもありません。むしろ、強力な AI システムを「瓶の中の精霊」として想像するかもしれません。欲望を満たすことはできるものの、予期せぬ悲惨な結果をもたらすのです。
コンピューターの場合は悪意がある可能性が高く、単に要求が表明された全体的な文脈を知らないだけです。地球上の癌を根絶するという任務を負った AI システムを考えてみましょう。多くの計算の後、地球上のすべての人を殺すことで癌を撲滅するという公式が生み出されます。機械は「癌をなくす」という目的を簡単に達成できたでしょうが、それは人間が計画した方法ではありませんでした。
8. 特異点
人間が食物連鎖の頂点にいるのは、鋭い歯と強力な筋肉以外の理由もあります。人間の優位性は、主に発明力と知性によるものです。檻や武器などの動物を制御するための道具や、訓練や調整などの認知技術を構築して使用することで、人間はより大きく、より機敏で、より強い動物に勝つことができます。
これは人工知能に関する重要な懸念を引き起こします。AI はいつか人類に対して同じように優位に立つのでしょうか? また、十分に進化したコンピューターはこのような動きを予測し、自らを守ることができるため、「プラグを抜く」だけに頼ることはできません。これを「シンギュラリティ」と呼ぶ人もいます。つまり、人間が地球上で最も知的な種ではなくなる瞬間です。
参照： フィンテック企業PlaidがシリーズD資金調達で4億2500万ドルを調達
9. ロボットの特権
神経科学者が意識体験の謎を解明しようとしている一方で、私たちは報酬と嫌悪の基本原理についてさらに学んでいます。ある意味では、人工知能システムで類似の報酬と嫌悪のプロセスを開発しています。基本的な生物でさえ、これらのシステムを持っています。たとえば、強化学習は、行動の増加が仮想報酬で報われるという点で、犬の訓練に似ています。
これらのシステムは、現在では表面的なものに過ぎませんが、ますます複雑で生命のあるものになりつつあります。報酬メカニズムが負のフィードバックを提供するとき、システムは苦痛を感じていると言えるのでしょうか。さらに、遺伝的アルゴリズムは、複数のシステム インスタンスを同時に構築し、最も効果的なインスタンスだけが「生き残り」、それらを組み合わせて次世代のインスタンスを生成するという仕組みです。これは、多くの世代にわたって行われ、システムを改善する方法です。失敗したインスタンスは削除されます。遺伝的アルゴリズムを一種の大量殺人と見なすのは、どのような場合でしょうか。
機械を知覚、感情、行動の能力を持つ生き物として受け入れれば、その法的立場を検討することは大きな飛躍ではありません。機械は知的な動物であるかのように扱われるべきでしょうか? 機械が「感じる」ことの苦痛について考えるでしょうか?
倫理的問題の中には、苦しみを軽減することに関するものもあれば、不快な結果を招くリスクに関するものもあります。これらの危険性について考える一方で、技術の進歩は一般にすべての人にとってよりよい生活を意味することも忘れてはなりません。人工知能には大きな可能性が秘められており、それを責任を持って活用するのは私たち次第です。
注目の画像: pch.vector による画像
Whitepapers.online を購読して、健康、マーケティング、ビジネス、その他の分野に影響を与えるテクノロジー大手による新しいアップデートや変更について学んでください。また、当社のコンテンツが気に入った場合は、Facebook、WhatsApp、Twitter などのソーシャル メディア プラットフォームで共有してください。