生成AI「Stabel Diffusion」を使った画像で銀行などの実名認証システムを突破できてしまったことの詳細

「Stabel Diffusion」を使った画像で実名認証システムを突破できてしまう

【驚愕：生成AIを使った画像で実名認証を突破】

銀行などの実名認証システムを欺くことができるID写真と人間の画像を「Stabel Diffusion」を使って生成する投稿が海外で激バズり。（630万インプ以上）

生成AI時代において、『実在する人間である証明』は思ったより難しいことかもしれない。

↓方法 pic.twitter.com/GwtMvjQEHF

— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) January 5, 2024

かなり高度な技術ですので、画像生成AI初心者の方には難しそうなのと、すぐに各プラットフォームの対策を講じるかと思います。

■具体的な手法

①二つのLoraモデルを組み合わせる

例えば、<lora1:x><lora2:y><lora3:z>（ここでx+y+z=1）を通じて、一貫性とクオリティが上がるまで何度も試す。…

— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) January 5, 2024

ホームページ制作はAIではなくプロにお任せ

ChatGPTのようなAI技術は急速に進歩しています。

しかし、ホームページ制作においてAIをプロレベルで実用化できるまでは時間がかかそうです。

AIを使用した制作物は著作権の問題もクリアになっておらず訴訟のリスクもあります。

現時点でのホームページ制作は信頼ができるプロの制作会社に依頼しましょう！

ホームページ製作0円から！【サクペジ】

忙しい時間帯の顧客対応を効率化【ホームページDX】

「Stabel Diffusion」を使った画像で実名認証システムを突破できてしまうことへの反応

まあ、どんだけ長く見ても2030年には野良AGIが普及してて、こう言うのは作りたい放題になってるだろうから、今のうち、というか出来たらこの１年くらいで対策は考えとかないといけない。

これはすごい、、悪用できるようになりそうですね。stable diffusion 僕も勉強し始めます。

このクオリティはマジで騙される。早急なAI認証対策が必要。

SDのLoraとControlNetで作りこめば顔認証を突破できてしまう時代が到来。

ディープフェイク技術が進展している現状を見て、最初に虹彩認証が頭に浮かぶが、いずれそれをも突破するAI（アンドロイド）が登場するかもしれない。そうなったら、どう対処するのだろうか。

生成AIにより嘘であることが見えづらいデマ情報が拡散して、オンライン上は無法地帯になり得る状況。AI革命の流れを止めることは出来ないことは明白で、いかに倫理的観点で秩序を守る制度や運用を整えられるかが論点になる。

銀行は既に偽造免許証などで偽造口座を沢山作られているので信用できません。近いうちにマイナンバーカードによる本人確認をしていない銀行口座には大幅な制限がかかると予想しています。

これ一周回って店舗でしか受け付けできなくなる可能性出てきたな。

これは洒落にならんな。陰謀論者達の妄想と違ってリアルなリスクなので、政府はどう対応するんだろうか。

本当に虹彩認証が必要な世界だな。

引用元：X（Twitter）