前回は、内部通報と内部告発を、事例を交えながら解説しました。今回は、新しい科学技術に関する倫理について説明します。科学技術が飛躍的に進化すると、倫理的な懸念も同時に生まれることがあります。現在、話題となっている新技術をトピックスに、倫理面からはどのような懸念や配慮すべき点があるのか、一緒に考えていきましょう。
第6回「新技術と倫理」を解説していきます。
1. ビッグデータ・人工知能と倫理
最近は、あらゆる分野でAI（人工知能、Artificial Intelligence）という言葉が聞かれます。現在、AI 技術の進化には、第3 の波が押し寄せています。第1 の波は1950 年代で、ヒューリスティック（発見的）アプローチによる探索を柱とするAI でした。人間とチェッカー（ボードゲーム）やチェスで対戦するプログラムが代表的なものでした。次の波は1970年代で、知識に基づいた推論を行うAI が登場し、医療診断システムなど、エキスパートシステムが注目されました。
そして、現在の第3 の波におけるAI の特徴は、ネットやセンサを介して収集した大量のデータから、ディープラーニングという機械学習手法でパターンを学習し、物事を判断したり予測するなど、より人間の脳内判断に近い処理を行うことです。例えば、家の中での人の行動パターンを学習し、それに対応してエアコンなどの家電を操作する、自動車を運転中の人間が眠くなるとアラートで知らせる、もしくは自動で運転する技術、声で尋ねると希望の音楽を流したり、ウェブでの検索結果を教えてくれるAIスピーカーなど、既に製品化されているものもあります。バッテリーの充電が少なくなると、ロボット自身がコンセントを探して充電に行くという研究も行われています。AI は、人間のプログラムに従って動作する段階から、自己学習し自律性を持つ段階へと移行しつつあります。
消費者は、PC やスマートフォン、さらにはクラウド（サーバ）上などにさまざまなデータを蓄積します。インターネット上に公開されているテキスト、写真、動画、音声、音楽データ、社内文書、メール、プレゼン資料、顧客データ、コールセンターの通話記録、ウェブサイト利用状況、さらにIC 乗車券や防犯カメラにより集められたデータなど、現代は通常の生活を送っているだけでも、極めて大量のデータが日々生成されています。これがビッグデータです。ビッグデータは、少なくとも4 つのリスクを内包しています（図1）。
第1 に、不正アクセスなどにより、個人情報や行動情報（ライフログ）が多く含まれるパーソナルデータが漏えいするリスクです。第2 に、クラウドにシステム障害が生じた場合、蓄積されていた重要データが消滅する可能性です。第3 に、SNS や投稿サイトなどで、著作権や肖像権を侵害、もしくは侵害される可能性です。最後のリスクは、SNS や投稿サイトなどを通じて主張を拡散させることにより、プロパガンダに利用される可能性です。技術者としては、個人情報・プライバシー情報・機密情報漏えいの可能性はないか、重要なデータの消滅・改ざんの恐れはないか、複数のデータが関連付けられて個人が特定される可能性はないか、個人の好みへの過干渉の可能性はないか、必要以上の情報を個人からセンシングしていないかなど、倫理的な面からの注意が必要となります。
AI に関する倫理を議論する際には、入力された特徴から判断結果に至る経路を学習し、回路を形成するディープラーニングなどの仕組みをある程度理解した上で、AI にできること、できないことを踏まえて考えることが重要です。AI の発展で起こりうるリスクを、図2 にまとめました。
人間の労働場所の多くがAI に奪われる、人間が自ら思考したり行動することが少なくなる（思考や行動の省略）、こうしたAI による意思決定支援が一般化すると、人間の判断に関する自主性が弱体化する可能性が考えられます。また、自動意思決定システムや自律ロボットでは、結果に対する責任の所在が不明確になること、AI が搭載されたロボットが自律的に行動する大量兵器となる可能性もゼロではありません。AIによる自動運転にも、想定されるリスクがあります。例えば、自動運転中の車がサイバー攻撃される可能性、運転制御を人間とAI で役割分担する場合に、双方の譲り合いで空白状態が生じる可能性、また、車両前方の歩行者か運転者のどちらかが犠牲になるような突発的状況が生じ、即断を迫られた場合の処理を、どのようにプログラミングするかなどが、今後生じてくる倫理問題として考えられます。
現在では、就職活動の面談をAI で行う会社まで出てきています。このようにAI が人間を選別したり、人生を決めることに対し、皆さんはどう思いますか？ AI の倫理は、結局、人間の倫理姿勢に帰着するのです。
2. バイオテクノロジー・脳科学と倫理
実は現在、バイオテクノロジーの分野にも、AI 同様に第3 の波が訪れています。バイオテクノロジーの第1 の波は、1950 年代、イギリスでDNA の構造が明らかにされたことにより始まりました。第2 の波は、遺伝子情報であるゲノム解析や、ES 細胞の発見、遺伝子操作が盛んに行われた1970～80年代です。その結果として、1990年代半ばには、スコットランドの研究所がクローン技術により体細胞から羊のドリーを誕生させ、世界を驚かせました。そして、2006 年。京都大学の山中伸弥教授の手により、万能細胞であるiPS 細胞が作られたことで、第3 の波が大きく動き始めました。
これらバイオテクノロジーに関する最大の倫理的側面が、生命倫理です。生命倫理は、各人や国・地域によって死生観や宗教観、文化、法律などの背景が異なることもあり、常にさまざまな議論を巻き起こしています。その論点には、代表的なものが3 つあります。第1 に、生命に対する価値の捉え方です。例えば、大切な命とそうでない命があるのか、また実験で扱われる動物の命をどう捉えるのかという問題です。第2に、命の始まりと終わりの捉え方です。命の始まりは、受精卵、胎児、乳児のどの段階なのか、命の終わりは脳死と心臓死のどちらなのかといった議論には、皆さんも報道などで触れたことがあるでしょう。そして第3に、生命操作の決定権を本人・家族・医師の誰が持つべきか、そもそも人間が操作を行ってよいのかという本質的問題があります。
再生医療への適用が期待されているクローン技術については、現在、ES 細胞を用いる方法と、iPS 細胞を用いる方法があります（図3）。
ES 細胞とは、受精卵（5 ～ 7 日ほど成長した胚盤胞）から胚の一部を取り出し、その中の細胞を培養して作られる万能細胞です。この方法は、生命の芽である胚を摘み取る、すなわち生命を滅する行為だという見方もでき、隠れたところに倫理的な問題が存在するのではないかと指摘されています。一方、iPS 細胞は、皮膚などの体細胞に、数種類の転写因子（DNA）を導入したものを培養して作られる万能細胞です。この方法では、胚を摘み取ることはないものの、精子や卵子を作って受精卵を作れば、命を作り出すことも可能です。そうしたプロセスで子供が生まれた場合には、自己とは何なのかという問題が突き付けられることでしょう。
こういった可能性も視野に入れ、文部科学省などがヒトES 細胞研究・生殖細胞作成研究に関する倫理指針を示しています。個人による遺伝子チェックも簡単にできるようになった今日、命の選別さえ始まる危うさが生じつつあります。また、つい最近、あるゲノム編集方法を使った場合、DNA の一部が消失してしまう恐れがあるとの研究発表もありました。バイオテクノロジーは、研究者や医療関係者、そして最終的には一般市民の倫理意識が特に問われる分野です。
昨今、脳科学の研究も盛んになってきました。現在は血流や脳波などによる間接的な脳活動計測が主流です。将来の技術発展を見据え、倫理的な側面について今から議論しておくことが重要です。脳科学における倫理問題には、大きく分けて、脳内の情報取得に関する問題と、脳活動の操作に関する問題があります。前者では、究極のプライバシー情報である脳内情報の計測や管理、脳の反応を見て商品を売るなど商業利用の是非、脳情報による操作だけで生活に必要な行動を済ませてしまうなどの健常者の行動省略などが挙げられます。後者では、思考や行動の他人による制御、本来の力を超えさせる能力エンハンスメントなどの問題があります。脳科学の倫理的側面については、文科省や日本学協会で徐々に議論が始まっています。
3. 新技術の将来への影響を推し量る重要性
全8回で下記の内容を解説しています。
- 第1回 技術者倫理とは？
- 第2回 説明責任とは
- 第3回 研究倫理とは
- 第4回 製造物責任とは
- 第5回 内部告発とは
- 第6回 新技術と倫理
- 第7回 知的財産の保護と営業秘密
- 第8回 環境保全と倫理
