Google（グーグル）が米国防総省と契約を結ぶことに抗議して、社員十数名が5月14日、辞表を提出しました。発端となったのは、軍事ドローンの運営にAI技術を供与する｢Project Maven｣事業。
Project Mavenは、軍用ドローンで撮影する人物と物体を自動分類することで分析の高速化をめざす事業です。Googleが自社のAIを提供する方針であることが明るみになって3カ月。 社内では軍事利用に抗議する署名運動が巻き起こっていました。
辞任する社員は、ドローン兵器にAIを使うことへの倫理的懸念、社の政治的な動きを警戒する声、信用を失うことへの不安など、それぞれの思いを社内でシェアしており、米Gizmodoは複数のソースからその内容を取材することができました。
抗議辞任する社員のうち取材に応じた数名は、経営陣が本件について前ほど社内でオープンに語らなくなり、社員からの抗議に耳を傾けなくなってきたとこぼしています。Project Mavenは、ドローンが撮る映像の分類にAI技術を応用する計画ですが、こんな人の命に関わる重要マターはアルゴリズムではなく人力で処理するのが筋であり、そもそもGoogleは軍の仕事なんかに首を突っ込むべきではないのだ、という考える方もいました。
創業以来Googleはオープンな社風を大切にし、開発の方向性を決めるときにも、社員が賛否含めて自由に語れる風通しのよい会社を目指してきました。でも今のトップは聞く耳持たずで、異を唱える社員はただ脱落していくほかないのだと感じているようで、ある方などは｢ここ数か月見てきたけど、会社側の対応には失望が増すばかりだった｣と、次のように辞めるに至った心境を語っています。
人に入社をすすめる気にもならない。だったらなんで自分がまだそこで働いてるんだろう？と思ったんです
2015年にGoogleがBloggerで性的コンテンツの掲載を禁じたときにも内外で抗議運動が起こって、Google側が折れて禁止を撤回したケースはありますが、社員が集団で抗議辞任というのは今回が初めて。社員がそれだけ危機感を持っていることの表れといえそうです。
Project Mavenの契約即時撤回と軍事に一切関与しないことを定めた新しいポリシーの策定を求める署名運動（原文はこちら）には、けっきょく4,000人近くのGoogle社員から署名が集まりました。
しかし会社の方針には目立った変化はなく、｢Mavenは軍事協力ではない｣という弁明を繰り返すばかり。国防総省が対露中防衛強化のため入札を募っているもうひとつの超機密クラウドシステム構築の大型事業｢共同エンタープライズ防衛インフラ（Joint Enterprise Defense Infrastructure、略してジェダイ）｣にも入札する気満々です。
Project Mavenに提供するソフトウェアはオープンソースなので、Googleがいくら金銭の受け取りや技術的サポートの提供を拒んでも、軍がその気になればいつだって自由に使うことができてしまいます。これにより反対運動がやりにくい面もありますが、Googleを辞める方々は、Marvenへの積極関与と｢悪をなさない｣というGoogleの社是とはまったく相容れず、看過できるものではないと受け止めており、このように語っています。
いろんな産業にあたってクライアントを探さなければならない機械学習のちいさなスタートアップならいざ知らず、Googleは違う。危うきには近寄らずが賢明だ
Maven関与の噂が社内に広まって騒ぎになった2月下旬に取材した段階では、広報から機械学習の使用に関する｢ポリシーと安全対策｣を策定中という説明を受けたのですが、そちらはサッパリなんだそう。数週間で倫理規定を改定すると約束したきりなしのつぶてらしく、社員のひとりは｢倫理的方針を固めてから契約するのが本来の順序ではないのか｣と言ってました。
｢自社製AIが殺戮に使われることはない｣とGoogleは強調しているものの、国防総省のドローン開発事業でAIを使用することについては、機械学習分野の研究者や開発者の間でもまだ未解決のややこしい倫理道徳の問題がいろいろと残っています。
4月には、テックワーカー連合（Tech Worker Coalition）も反対署名運動に乗り出しました。｢われわれの産業とテクノロジーには人に害を与えるバイアス、大規模な背信行為、倫理的セーフガードの不在という問題があり、もはや無視できないところまできている。いずれも人の生死にかかわる問題だ｣というのが反対署名の趣旨です。GoogleにMaven関与停止を求め、IBMやAmazon（アマゾン）をはじめとする大手テクノロジー各社にも米国防省の事業を拒否するよう要求しています。
さらに90名以上の人工知能、倫理、コンピュータの学識経験者たちも、先日GoogleにProject Maven協力打ち切りを求める公開書簡を発表しました。こちらは自律兵器を禁ずる国際条約の制定を求めており、著者には国連で自律兵器の危うさについて訴えたPeter AsaroさんとLucy Suchmanさん、そして、Google元社員のLilly Irani教授が名を連ねています。
Suchmanさんに取材してみたところ、GoogleがProject Mavenに技術を供与すれば完全自律兵器の開発が一気に加速すると語り、｢Googleは米国企業ですけど、ユーザーは世界全域にまたがり、その一人ひとりに対してGoogleは企業としての責任をもっています。そちらが一国家の軍への責任より比重が上でなければなりません｣と話していました。公開書簡には次のように書かれています。
技術で得する人と損する人への配慮がテクノロジー企業に求められるとするならば、アルゴリズムで攻撃対象の人間を特定して、遠隔から殺戮し、その責任を公に問われることなくこれが執り行なわれることの是非ほど、いま真剣に問われなければならないテーマはないはずだ。Googleは、公の論議や審議を問うことなく軍の事業に参入した。世に問うことなくGoogleテクノロジーの未来を決めることが常態化すれば、 同社の軍事技術参入は、情報インフラを民間がコントロールすることの危うさを浮き彫りにする結果になるだろう
Google経営陣も社員の説得に懸命です。契約が明るみになった直後のミーティングでは、Google Cloudのダイアン・グリーンCEOがProject Mavenを一生懸命擁護していたと、内部の複数名が教えてくれました。その後もグリーンCEOと社員が何回かセッションを開き、Mavenに賛成する人と反対する人が意見を述べ、機械学習の倫理的活用のガイドライン策定がいかに難しいかについて説明したそうです。
辞める社員の中には、今回のことと保守政治行動協議会にGoogleが出資したことやダイバーシティ対策のことなどで不満を貯めこんだことを理由として挙げる方もいました。｢人に入社をすすめられない自分がいるのに気づいて辞めることを決意した｣という上述の方です。さらに、次のような声もありました。
Googleが決めることであって自分が決めることではない。会社がやることすべてに責任を感じる必要はない。そう自分に言い聞かせてきました。でもやっぱり納得できないことがあると、どうしても自分を責めてしまう
ちなみにGoogle広報は4月の声明で次のように語っていました。
Googleは社員が自分のする仕事に積極的に関わる社風をとても大事にしています。新しいテクノロジーの使用に関してはいろいろな疑問もあると思いますので、このように社員や社外の専門家と議論を尽くすことは重要でありプラスになります。こと今回のテクノロジーに関しては、人力の審査に回すイメージにフラグを立てる部分で活用されるものであり、人命を救い、人が面倒な作業を行わなくてもいいようにするものです。機械学習の軍事利用は問題視されて当然です。これは重要なトピックですので、全社および社外の専門家のみなさまと積極的に議論を尽くし、機械学習の自社技術の開発と利用に関するポリシーの策定を引き続き進めてまいります
一斉辞任についてもコメントを求めましたが、まだ答えをいただいていません。でもまあ、社員が求めているのは声明ではなく行動ですよね。つまり倫理規定策定か契約破棄、またはその両方です。
最後に、辞める社員さんがこう言っているのが印象的でした。
論より行動。自分もそうありたいと思ってます。今回のことも社内でわあわあ言ってるだけでは埒が明かないと思って、自分なりに最強のステートメントを考えました。で、辞めることに決めました
Image: turtix/Shutterstock.comSource: U.S. Department of Defense, Buisiness Insider Japan, The New York Times, Tech Worker CoalitionKate Conger - Gizmodo US［原文］（satomi）
