今週、中国南東部の安徽省にある蘇州市の当局者は、パジャマを着て街を歩き回っていた人々を叱った後、謝罪を余儀なくされた。顔認識テクノロジーを使用して、個人を名前で識別するだけでなく、本人達に関する他の個人情報も公開したためだ。

また昨年11月、中国のある教授は、私有野生動物公園が入場を許可するためにすべての訪問者に顔認識や指紋などの極めて個人的なデータの提供を強制したため、同公園を訴えた。同月、英国の警察が試験的に使用していた顔認識テクノロジーが81％の確率で誤った反応をしたことを認めた。

12月、米国政府による研究は、顔認識システムが非常に不正確な結果を、特に白人ではない人々に対してもたらす可能性があると結論付けた。多数の顔認識ソフトウェアシステムの研究により、アジア人とアフリカ系アメリカ人における誤検知（不一致）率は白人の100倍も高いことがわかった。また、一部のアルゴリズムでは、ほぼ35％の割合で黒人女性に間違った性別が割り当てられていることがわかった。

この研究は、このようなテクノロジーが米国やその他多くの国で法執行機関だけでなく、空港や銀行、小売店、学校、家庭でもますます展開されている中で行われた。また、この技術はスマートフォンのセキュリティなどの個人用デバイスにも見られる。

このテクノロジーの批評家は、エラーの可能性が大きすぎて罪のない人々に有罪をもたらしたり、情報を保持するデータベースがハッキング、誤用、さらには悪用に対して脆弱になる可能性があると言う。

これらのレポートや、この技術の実装が急速に進んでいるにもかかわらず基本的なルールを設定する法的または規制の枠組みがないという実態を考慮して、EUは顔認識の公的展開を最長で５年間禁止したいと述べた。規制当局が技術の改善をする時間を提供すると同時に、顔認識テクノロジーとそれに基づくアプリケーションの開発を安定させるためである。

ただし、これまでのところ、EUは世界の機関の中でもひどく目立っている。EUは大部分においてこの技術の使用を、また多くの場合乱用をセキュリティ機関の裁量に任せている。また企業にも自由を与えている。それは規制なしで20年以上ソーシャルメディア企業にそうしてきたのと同じであるが、過去数年にわたるフェイスブックの苦難から明らかなように、それは大規模な乱用につながった。

顔認識が政府や企業によって無制限に使用されている国の1つが中国で、この展開は過去数年でますます積極的になっている。2017年、中国には1億7000万台のCCTVカメラがあった。今年の終わりまでには、6億台近くになると予想されており、その大部分には顔認識に必要な人工知能ツールが搭載される予定だ。

しかし、顔認識テクノロジーの使用の増加、特に民間企業や機関による使用は、激しい怒りを呼んでいる。

また、インドも顔の認識にひそかに取り組んでおり、政府や法執行機関がこの技術をコントロールする法的枠組みや規制なしでこの技術を使用している。

インドの市民権への迅速なアクセスを提供する差別的な法律に反対する全国で進行中のデモの間、警察が抗議者を特定し後で追跡するためにカメラとドローンを使用して市民の怒りを巻き起こした。

インドの法執行機関は、渓谷地帯の抗議活動の若いリーダーを特定、隔離し逮捕する試みとして、ジャンムーとカシミールで顔認識技術を数年間使用している。

過去6年間、右翼のモディ政権が統治して以来、インドの法執行機関は反対意見を鎮圧するために、平和的で憲法上の権利が保証されている場合でも、強力な戦術を使用する自由裁量を与えられた。その結果、モディ政権下のインドは習近平政権下の中国にますます似てきた。

セキュリティ機関がこれらのテクノロジーを規制なしに広く使用できるようにすることは、人権をさらに脅かすだけだ。

しかし、ありがたいことに、インドの企業は、準備が整っていないためか、この問題を取り巻くプライバシー法が明確でないために、まだ顔認識には進出していない。

米国では、このテクノロジーに対する態度は均等に分かれている。連邦政府は、企業、民間人、または法執行機関による使用を問わず、顔認識の使用を管理するルールをまだ策定していないが、一部の都市は率先して、容認できないプライバシーの侵害であるという理由でその使用を禁止している。サンフランシスコが昨年5月に米国で最初の一歩を踏み出し、バークレーとオークランド他、3つの都市がそれに続いた。

政府は、ビジネスの拡張ではなく市民権の保護者として行動しなければならない。ビジネスは常に収益を問題にしている。

ランビル・S・ナヤール

世界、または少なくとも世界の民主主義国がEUの例に倣い、市民の権利の保護が最も重要なベンチマークとなることを保証し、これらのプライバシーをひどく侵害する技術の使用を抑制する時である。これらのほとんどは人工学習の副産物だ。

テクノロジー企業はこれらの製品の開発とテストを続けても良いだろうが、公に展開するのは技術が完璧になったときにのみ許可されるべきだ。たとえそれが事の進展をすさまじくスローダウンさせることになってもだ。

政府は、ビジネスの拡張ではなく市民権の保護者として行動しなければならない。ビジネスは常に収益を問題にしている。

• ランビル・ナヤールは、ヨーロッパとインドに拠点を置き、出版、コミュニケーション、コンサルティングサービスを含むグローバルプラットフォーム、メディア・インディア・グループ（MediaIndia Group）の編集者。