オックスフォード大学哲学科およびAI倫理研究所の准教授であるカリッサ・ヴェリツ（Carissa Véliz ）氏が、デジタル化によって個人の自由に生じるリスクを分析します。

プライバシーは力です。データが溢れる世界においても、プライバシーを取り戻すことは可能ですが、それは制度やテクノロジーの設計次第です。今日のデジタル技術の多くは、根本的に倫理上の問題を抱えています。インターネットの基本的なビジネスモデルは、データの収集と売買を基盤として成り立っています。たとえ私たちがデータの提供を望まなくても、本人の同意なくデータが収集・送信されるケースは少なくありません。これは「同意」という概念そのものを形骸化させるものです。本来あるべき姿は、利用者がオプトアウトを迫られることではなく、明確なオプトインによってのみデータの収集が行われる仕組みです。

バイアスの問題は、プライバシーと密接に結びついています。データが少なければ、バイアスも生じにくくなります。アルゴリズムの学習に利用されている過去のデータには、本質的に欠陥があり、性差別や人種差別をはじめとするさまざまな偏見が織り込まれています。たとえば、女性が銀行口座を開設できなかった時代はそれほど遠い過去のことではなく、そのような歴史的な不平等はデータにも反映されています。プライバシーの問題を解決することで、バイアスの問題のかなりの部分にも対処できるようになるでしょう。

データを記録するか否かという選択が、ときに人の生死を左右することがあります。第二次世界大戦中、侵攻したナチスは、ユダヤ人を特定するため、真っ先に地域の住民登録簿へと向かいました。オランダではIDカードの携帯義務が、すべてのユダヤ人に事実上の死刑宣告を下す結果となりました。一方フランスでは、ナチスが探し求めたデータそのものが収集されていなかったため、多くの命が救われました。この歴史的教訓は、プライバシーの力と、データ収集を制限することの重要性を改めて示しています。今日、私たちは同じ過ちをかつてない規模で繰り返しており、それは極めて危険な状況と言わざるを得ません。

私たちの周囲では、あらゆるものがアナログからデジタルへと移行しています。そして、アナログなものがデジタル化されると、それは監視の対象となります。追跡できなかったものは追跡可能となり、検索できなかったものは検索可能となります。この変容は決して中立的なものではありません。そもそも中立なツールなど存在しません。あらゆる技術は、特定の目的のために設計されているからです。そして現在のデジタル世界は、データを収集し、追跡し、それを収益化することを目的として設計されているのです。

だからこそ、常に警戒を怠らないことが重要です。少し注意を払うことは、それほど難しいことではありません。カードではなく現金を使い、子供たちにはタブレットではなく本を与え、クラウドではなくノートを活用することもできます。外出時にはWi-FiやBluetoothをオフにし、VPNを利用せずに公衆Wi-Fiへ接続することを避けるべきです。また、家族との時間にはスマートフォンを脇に置き、教室での討論ではカメラやマイクをオフにし、最も私的な人間関係の中にまでスマートフォンを持ち込まないという選択も可能です。

これは単なる懐古主義の話ではありません。人生そのものに関わる問題です。人間の営みは本質的にアナログです。私たちは本を通じて、先人たちと対話しています。書くという行為は単なる成果物を生み出す手段ではなく、思考するための方法そのものです。ChatGPTのようなツールに過度に依存すれば、私たちは批判的思考力を失う恐れがあります。その結果、市民ではなく従属的な存在を育てることになりかねません。これは、とりわけ自由民主主義社会にとって深刻な懸念です。なぜなら、自由民主主義は批判的思考力を備え、主体的に社会へ関与する市民によって支えられているからです。

倫理やAIを巡る環境は、規制当局が追随できないほどの速度で変化しています。もっとも、これはテクノロジー分野に特有の現象ではありません。多くの産業においても、規制はしばしばイノベーションの後を追う形となっています。しかし、だからといって手をこまねいているべきではありません。重要なのは、個別の技術そのものではなく、その技術が果たす機能に着目して規制を設計することです。技術は変化しても、その機能は多くの場合変わらないからです。

自由民主主義国家は連携し、現代版ブレトンウッズ体制や世界人権宣言にも比肩するような、新たな国際的枠組みを構築しなければなりません。

また、企業にも自ら基準を引き上げる努力が求められます。この分野では、競争がイノベーションを促進する力となり得ます。暗号化された電子メールサービスやVPN、パスワード保護といった技術こそ、私たちに必要なものです。求められているのは、第三者の利益のためではなく、私たち自身のために機能するテクノロジーです。ある企業が基準を引き上げれば、多くの場合、他社もそれに追随せざるを得なくなります。

効率性は重要ですが、それ自体が最終的な目標ではありません。独裁体制は効率的かもしれませんが、その代償として自由と民主主義が失われます。私たちは利便性のために、そのような代償を支払う覚悟があるのかを問い直さなければなりません。事態の重大性はこれ以上ないほど高まっています。個人データは個別に最適化されたプロパガンダに利用されており、選挙の公正性、ひいては民主主義そのものの健全性を脅かしています。

人生の豊かさはアナログの世界にあります。互いの目を見つめながら、直接顔を合わせて語り合うことには、かけがえのない価値があります。それこそが人生の本質です。あらゆるバーチャルなものは、最終的にはアナログな現実に支えられています。そのことを忘れてはなりません。プライバシーの力は個人の枠を超えて及びます。プライバシーを守ることは、社会全体で担うべき責任なのです。

市民として、顧客として、そして投資家として、私たちにはより良いテクノロジーを求める力があります。私たちは主流の選択肢に代わる手段を選ぶことができます。また、利用者を搾取するのではなく、倫理を重視し、利用者のために機能するテクノロジーを支持することもできます。需要が設計を方向付けるのです。イームズチェアのようなデザインの名作が偶然生まれたのではないのと同様に、倫理的なテクノロジーも意図的な努力なしには実現しません。

課題は極めて大きいものの、解決策は私たちの手の届くところにあります。日常生活の中で小さな変化を積み重ね、企業により高い水準を求めるとともに、より実効性の高い規制の整備を後押しすることで、私たちはプライバシーを取り戻し、民主主義を守ることができます。未来はあらかじめ決められているわけではありません。その未来を形作るのは、私たち自身なのです。