「『AI詐欺』が横行」…ヒューマニティ・プロトコル、出会い系アプリの危険性に警鐘

分散型の本人確認プロジェクト「ヒューマニティ・プロトコル（Humanity Protocol）」が、Tinderなど出会い系アプリにおける人工知能（AI）詐欺のリスクについて警告に乗り出した。

ヒューマニティ・プロトコルは3日、出会い系アプリのTinderで昨年10月から12月にかけてAIベースの社会実験を行ったと明らかにした。AIがどのように偽プロフィールを生成し、主要な出会い系プラットフォームの本人確認（KYC）を回避して実在ユーザーを操作し得るのかを示すことが実験の核心だ。同プロトコル側は「実験結果は、生成AI時代に既存の本人確認システムの脆弱性がどのように悪用され得るかを明確に示した」と述べた。

実験にはヒューマニティ・プロトコルのチームメンバー6人が参加した。まず実験チームはChatGPT、ナノバナナ、Reve AI（Reve AI）など公開AIを活用し、Tinder上で計4つの偽プロフィールを作成した。これらのプロフィールには写真と自己紹介文がいずれも含まれていた。

実験チームはチャットもAIで行った。具体的には、オープンソースプラットフォームのGitHubに公開されているTinderGPTを活用し、出会い系アプリ内で実在ユーザーと100件超の会話を同時に自動で継続した。実験用アカウントはタイ、スペイン、ポルトガルなど複数の国で作成されたが、位置情報はすべて「Tinder Gold」を通じてポルトガルに変更された。

実験期間中、偽アカウントは合計296人の実在するTinder利用者と相互作用した。このうち40人は、偽アカウントと実際に会ってデートすることで合意した。

偽アカウントとやり取りした利用者は、ポルトガル・リスボンのあるレストランで実験チームと会った。利用者は店内で実験に関する説明を受け、チームから夕食をごちそうになった。ヒューマニティ・プロトコルの関係者は「（現場で）実験を通じて金銭的・情緒的な被害を与える意図は一切なく、システム全般の構造的な脆弱性に光を当てることが目的だったと説明した」と語った。

テレンス・クォック（Terence Kwok）ヒューマニティ・プロトコル創業者は「今回の実験は人々をだますための悪ふざけではなかった」と強調した。さらに「（実験は）私たちが日常的に依存しているシステムに対するストレステストを行い、AIが介在した場合に信頼がどれほど容易に形成され得るかを示すためのものだ」と説明した。続けて「小規模チームでもこうした実験ができるなら、悪意を持つ組織化された勢力が何をし得るか想像してほしい」と付け加えた。

ヒューマニティ・プロトコルは、今回の実験が出会い系アプリにとどまらず、既存の本人確認システムを改善する必要性を示しているとの立場だ。とりわけ、既存の本人確認システムは生成AIのない時代を前提に設計されているため、限界が明確になってきているという。同プロトコル側は「写真認証や身分証のアップロードだけでは、超現実的な画像や音声、行動を作り出すAIの時代に本人性を認証するには限界がある」と述べた。

ロマンス詐欺（恋愛を装った詐欺）被害は増え続けている。米連邦取引委員会（FTC）によると、4年前の2022年にはすでに米国内のロマンス詐欺の被害額は13億ドル（約1兆9000億ウォン）を超えた。消費者詐欺の類型の中で最大規模だ。

同プロトコル側は「AIの能力が加速するにつれ、無害な実験と大規模詐欺の境界が急速に曖昧になっている」と指摘した。その上で「単なる本人確認を超えて『人間性』を証明できる、より強力なフレームワークがなければ、デジタルプラットフォームは次世代のAIベース詐欺の温床となる可能性が高い」と述べた。