今日のシステムと、一般的な想像力を支配する SF 的なシステムとの間のギャップは依然として大きいのですが、素人と専門家を問わず、多くの人がそれを過小評価することに成功しています。
Watson は、何人世紀にもわたる知的設計による非常に大きな R&D プロセスの結果で、人間の脳の数千倍のエネルギーが使われているそうです。 ジョパディ！での勝利は、ジョパディ！のルールの定型的な制限によって可能となった真の勝利でしたが、競争するためには、このルールさえも改訂しなければなりませんでした（トレードオフの1つ：少しの汎用性と少しの人間性をあきらめ、観客を喜ばせるショーを手に入れること）。
一般的な会話能力を示唆する IBM の誤解を招く広告にもかかわらず、Watson は良い仲間ではなく、Watson をもっともらしい多次元エージェントに変えることは、手計算機を Watson に変えるようなものでしょう。 Watson は、そのようなエージェントにとって有用な中核機能ではありますが、心というよりは小脳や扁桃体のようなもので、せいぜい大きな補助的役割を果たす特別な目的のサブシステムですが、目的や計画を立て、会話経験を基に洞察的に構築する作業には到底及びません。
なぜ、Watson から思考し、創造するエージェントを作成したいのでしょうか? おそらく、有名なチューリング テストというチューリングの素晴らしいアイデアは、私たちを罠に誘い込んだのでしょう。「
ここでの危険は、チューリングが課題を提起して以来、結局は審査員を騙すための課題でしたが、AI クリエーターが、未経験者を魅了し萎縮させる、かわいい人型のタッチ、ディズニー化効果によって谷を覆おうとすることです。 ジョセフ・ワイゼンバウム (Joseph Weizenbaum) の ELIZA は、非常に初期のチャットボットで、このような表面的な錯覚のパイオニア的な例でした。
毎年のローブナー賞の制限付きチューリングテスト競技から学んだことが1つあるとすれば、コンピュータプログラミングの可能性や近道に通じていない非常に知的な人々でさえ、簡単なトリックに簡単に引き込まれるということです。
「ユーザーインターフェース」でごまかすこれらの方法に対する AI 関係者の姿勢は、トリックは深くありませんが強力であることを一般的に理解し、軽蔑から賞賛まで様々です。 非常に歓迎すべき態度の変化は、ヒューマノイドの装飾は虚偽の広告であり、賞賛するのではなく、非難すべきものであるということを率直に認めることです。
それはどのようにして達成されるのでしょうか。いったん私たちが、人々が、実際には内部動作が理解できないAIシステムからの「アドバイス」に基づいて、生死を分ける決断をし始めたことを認識すれば、これらのシステムに保証以上の信頼を置くよう人々を何らかの形で奨励する人々が、道徳的および法的責任を負うべき正当な理由が見えてくるでしょう。
AI システムは非常に強力なツールであり、専門家でさえ、ツールによる「判断」よりも自身の判断を信用しない十分な理由があるほど強力なものです。 しかし、これらのツールのユーザーが、金銭的またはその他の方法で、これらのツールをテラ・インコグニタに走らせることで利益を得ようとするなら、最大限のコントロールと正当性をもって、責任を持ってこれを行う方法を知っていることを確認する必要があります。
薬剤師、クレーン技師、および誤りや判断ミスが悲惨な結果を招く可能性のあるその他の専門家にライセンスを与えるのと同様に、これらのシステムのオペレーターにライセンスと保証を与えることにより、保険会社やその他の保険業者からの圧力で、AI システムの作成者に、製品の弱点やギャップを検索して明らかにすること、およびそれらを注意深く操作する権利がある人々を訓練することに並外れた労力をかける義務を負わせることができるのです。
一種の逆チューリング テストのようなものを想像してみてください。 審査員の資格取得に必要な精神的トレーニングは厳しいものになるだろう。
実際、明らかに人を人として扱うことの魅力に抵抗する能力は、人種主義や種差別のにおいがする醜い才能と言えます。 多くの人は、このような冷酷な懐疑的アプローチの育成に道徳的嫌悪感を抱くでしょうし、最も熟練したシステム ユーザーでさえ、自分の職務の遂行に対する不快感を和らげるためだけであれば、ツールを「仲良く」する誘惑に負けることがあると予想されます。
AI の設計者がいかに細心の注意を払って偽の「人間」タッチを製品から洗い出したとしても、システムとそのオペレーターの両方の実際の「理解」の近道、回避策、許容される歪みが盛んになることが予想されます。 テレビで宣伝される新薬の既知の副作用の滑稽なほど長いリストは、特定のシステムでは責任を持って答えることができない種類の質問の義務的な暴露によって、製品の欠陥を「見逃す」メーカーに対する重い罰則によって、矮小化されるでしょう。 (今日の世界で拡大している経済的不平等のかなりの部分は、デジタル企業家が蓄積した富によるものだと広く指摘されています。)
私たちは、彼らの深い懐を公共の利益のために預かる法律を制定すべきです。