本ブログは、本社で発表された「The Pursuit of Unbiased AI: Ethics in the Fourth Industrial Revolution」の抄訳です。

 

Rana El Kaliouby氏は、コンピューターサイエンティストであり、起業家、研究者、そして世界経済フォーラムのヤング・グローバル・リーダーでもあります。 彼女は、コンピュータービジョン、機械学習、データサイエンスを応用して人々の感情と行動を把握する、「感情コンピューティング」分野を主導する企業、Affectiva社のCEOです。

私たちは同氏とともに、AI(人工知能)の未来と、第4次産業革命におけるリーダーシップの課題やその機会について語り合いました。

 

ーー Q. あなたはAffectiva社のCEOとして、第4次産業革命の激動をくぐりぬけ、ビジネスを先導してきました。そしてAIのTrailblazerとして、その激動を推し進めた要因の1つ、人間と機械の変わりゆく関係を独自に洞察していますが、 この関係性はビジネスが変化する速度にも影響を与えていますか?

 

Kaliouby氏:もちろんです。 特にここ3年ほどは、かつてないほどの切迫感があります。

例えばAffectiva社は今、自動車業界に進出しています。1年半ほど前に交渉を始めたときは、壮大なスケールのオペレーションを考えると、どんな変更も、小規模な会社で行ったときよりも長い期間が必要になると想定していました。

しかし、これはまったくの見当違いでした。私たちは半年の間に、あらゆる自動車メーカーやティア1(一次請け)サプライヤーとコンタクトを取り、 半自動運転車と自動運転車の両分野において、既存の概念を打ち破っている人たちと話をしています。全員が全力疾走している状態です。

新たなバージョンができるスピード、そして業界の既存概念を破壊するスピードに、圧倒されています。既存企業は、今すぐやらなければ取り残されると感じているようです。

当社にとって、この状況は好都合です。需要を促進し、企業としての成長を加速させるからです。しかし同時に、すばやく順応するための準備が必要であるとも言えます。

例えば、自動車業界に参入するにあたり、この業界のデータを大量に集める必要があったため、私たちはボストンと東京で車にカメラを設置し、短時間で自動車業界参入に必要なデータセットを収集しました。これは、今日のビジネスを運営する上での、主なメリットの1つです。より良い意思決定とビジネスを行うためには、データが必要です。そして、そのデータは比較的簡単に収集できるのです。私はこのメリットを享受していますが、データを収集すればおしまいというわけにはいきません。適切なカルチャーとチームも必要です。そしてそのチームには、積極的かつすばやい決断が求められます。

 

ーーあなたは世界経済フォーラムのヤング・グローバル・リーダーとして、第4次産業革命の影響について語り合うディスカッションに参加しています。私たちがSalesforceでCEOたちとこのトピックについて議論し、非常にクリアになったことは、企業が社会で果たす役割に劇的な変化が生まれているということです。企業は株主のニーズだけでなく、すべての利害関係者のニーズに責任を負うことが期待されるようになっています。あなたはCEOとして、その劇的な変化を生み出す上でのビジネスリーダーの役割をどのように捉えていますか?

 

Kaliouby氏:去年の9月、私たちは初めてのEmotion AI Summit(感情認識AIサミット)を開催しました。スタートアップ、研究者、クライアント、倫理学者のAIを結集し、この業界の未来について語ることが目的でした。

私は、この業界の未来、つまり、人間/コンピューター・インターフェースの未来を形作るのは私たちであると深く信じています。私たちがここで構築しているテクノロジーは、人類の未来に大きな影響を与えることでしょう。

私たちがソートリーダーのコミュニティとして団結し、倫理的な問題や、モラルに関する重大な意味が含まれたAIの適用について話し合わなければ、果たすべき責任を放棄したことになります。この対話は重要です。私たちが今行う意思決定は、これから数年先の世界に並外れた影響を与える可能性が高いからです。

サミットを企画したとき、Affectiva社の役員の何人かは、パートナーシップの構築と売り上げの促進に集中した方が、時間効率的に良いのではないかと少し懸念していました。

しかし私は、会社の収益増大と成長を促すだけでなく、この分野全体を前進させることが、今日のビジネスリーダーとして自分が果たすべき役割であると主張しました。AIに関わる人々を結集し、AIとそれが持つ大きな意味について、困難でもやりがいのある対話をすることに意義を見出し、 サミットを開催したのです。

 

「会社の収益増大と成長を促すだけでなく、AIに関わる人々を結集し、この分野全体を前進させることが、今日のビジネスリーダーとして私が果たすべき役割なのです。」

 

サミットでは、330人の出席者と30人の素晴らしい講演者を迎えました。最初に製品を簡単に紹介した以外、Affectiva社に関する話題は一切していません。私がこの決断をしたのは、ビジネスリーダーとして、そしてAI企業のCEOとして、私には果たすべき責任があると信じていたからです。その責任を無視するのは、まったく道義に反することだと思いました。

 

ーー 先ほどあなたが示唆したように、AIは、人々の日常生活のあらゆる側面に影響を与える可能性があります。その影響の度合いが明らかになれば、問題の焦点は、システムに生じる偏りの危険性に絞られていきます。故意ではなくても、偏ったデータセットは偏ったAIを生み出します。そして、コンピューターサイエンスの学位を持つ人々が、主に白人男性やアジア系の男性であるという現状を考えると、AIを画一化すれば偏りも画一化されるという、真のリスクが迫ってきます。

そうなることを防ぎ、AIを通じて確実に、人間の可能性を最大限引き出し、あらゆる人々により多くの機会を与えるためには、どうしたらよいのでしょうか?

 

Kaliouby氏:従来、AIシステムを設計する人々は、倫理や偏見に関する教育をほとんど受けていませんでした。 私はケンブリッジ大学で博士課程を修了したとき、倫理に関するクラスを1つも受講していませんでした。1つもです。

こうしたことは、コンピューターサイエンス、エンジニアリング、ロボット工学、AIを扱う多くの課程に当てはまる可能性があります。倫理はカリキュラムの核心部分ではないのです。実際はそうあるべきですが。

AIと倫理について考えるとき、私はよく環境保護運動に関連付けて考えます。

Walmartが何年も前に、「エコ精神」を構想として掲げました。正しい行動であるだけでなく、スマートな行動だったからです。それがビジネスとして意味を成しました。同社はプロセスを最適化してコストを削減し、新しいエコ製品を導入して成功したのです。

AI業界についても同じことが言えます。道徳規範を受け入れて優先する企業が、社会に対して正しい行動を取っていることは間違いありません。しかも、そのような企業が、より正確で、より堅牢で、より拡張性の高いAIシステムを構築する可能性は、そうではない企業と比べてはるかに高くなります。だからこそ、企業が誠実さを受け入れることが重要なのです。それは、従業員にも、データセットにも、AIの適用にも必要なことなのです。

 

「道徳規範を受け入れて優先する企業は、社会に対して正しい行動を取っているのです。」

 

ーーそれは興味深いポイントですね。 AIにおける偏見と平等の問題にフォーカスすることは、どのようにビジネスとして明確な意味を成すのか、もう少し詳しく教えてください。

 

Kaliouby氏:偏りと正確さというのは、相関するものですよね。アルゴリズムに偏りがあれば、それは正確さに欠けるということになります。

Affectiva社では、人間の感情を認識できるようにアルゴリズムをトレーニングしています。

例えば、白人の中年男性のデータのみにもとづいてアルゴリズムをトレーニングし、そのアルゴリズムを中国で試そうとしても、まったく意味がありません。 無駄なことです。

対象の大半が白人のデータにもとづいてアルゴリズムをトレーニングし、それをアフリカでテストしても、同じ感情のサインを識別するのは困難でしょう。

偏りのあるデータセットは、最初から正確性に欠けたAIを構築してしまいます。

そのため、当社はサンプリング戦略に多くの時間を費やし、6百万人以上の顔が含まれたトレーニングデータが、できるだけ偏りのないものになるよう努めています。 男性、女性、さまざまな民族、さまざまな地域(現時点では合計87ヵ国)が偏りなく含まれるようにしているのです。

この深層学習ネットワークでトレーニングを積めば、プロットはより正確なものになります。

会社全体として、これは大きな意味を持ちます。 個人に焦点を合わせれば、偏りのないAIはさらに大きな影響力を発揮する可能性があります。

最近、ハッカーソンを行ったときに、トランスジェンダーのエイミーに出会いました。

エイミーの話では、両親は彼女を女性として受け入れようと努力しているものの、簡単にはいかないということでした。当社の開発した顔認識アルゴリズムには性識別機能があることを話すと、 彼女は試してみたいと言いました。

私は、もちろん構わないけれど、そのアルゴリズムはトランスジェンダーの人物について学習したことがないと伝えました。 当社のトレーニングデータにはトランスジェンダーの情報が含まれていなかったため、アルゴリズムがどんな反応を示すかまったく見当がつきませんでした。

とにかく、エイミーは試してみました。すると、女性と認識されたのです。彼女はすぐに母親に電話をかけ、こう言いました。「ママ、聞いて。コンピューターでさえ、私を女性と認めているのよ!」

当社のトレーニングデータでは、どちらの結果にもなり得たと思います。しかしエイミーは、当社のアルゴリズムに一定の客観性があると考え、試してみなければ生まれなかったであろう真剣さで、アルゴリズムによる評価を受け止めました。AIが日常生活にかつてないほど密接に関連している今、私たちはTrailblazerとしての責任を真摯に受け止める必要があります。人々に力を与え、平等性を育む公平なAIを構築することに尽力すべきではないでしょうか。

 

この記事は、第4次産業革命に関するTrailblazerスポットライトシリーズに掲載されています。第4次産業革命とは、世界経済フォーラムでKlaus Schwab氏が提唱した概念です。同氏は、さまざまなテクノロジーが融合し、物理、デジタル、生物学の各領域の境が曖昧になってきた結果、経済体系と社会構造に根本的な変化が起きているとしています。 このシリーズでは、第4次産業革命がビジネス界に与える影響について、さまざまな最高責任者やソートリーダーに話を聞いています。 このシリーズの他の記事もぜひお読みください。