ニューラルネットワークを欺く技術はオフラインになりました

ビデオ: ニューラルネットワークを欺く技術はオフラインになりました

ビデオ: 【DQ3】唸る痛恨の一撃!素の僧侶1人で中盤最強のボス・ボストロール、やまたのおろち戦を突破せよ!2章 2022, 12月
ニューラルネットワークを欺く技術はオフラインになりました
ニューラルネットワークを欺く技術はオフラインになりました
Anonim
Image
Image

元の画像と2つのトリック:反復的で単純な方法で作成

グーグルブレインと調査会社OpenAIの従業員は、オフラインでも機能する画像認識ニューラルネットワークを欺く方法を作成しました。受信した画像は、ニューラルネットワークから直接「供給」されたときだけでなく、印刷され、写真に撮られてから、認識しようとしました。新しい方法の説明とその適用性の研究は、プレプリントarXive.orgのアーカイブに公開されています。

これらは、任意のソース画像から作成できる敵対的な例です。人にとって、そのような画像は元の画像とほとんど区別がつきませんが、いくつかの変更が加えられており、ニューラルネットワークによる認識が大幅に複雑になっています。潜在的に、そのような画像は、自動スパムフィルターや顔認識システムをバイパスしたり、生体認証を偽造したりするために使用できます。

さまざまなタイプのニューラルネットワーク(画像だけでなく、たとえば音も認識する)のトリックを作成する方法は、少なくとも2004年から研究されてきました。従来、これには競合するニューラルネットワークが使用され、その1つはトリックを作成する傾向があり、もう1つはそれを正しく識別するために使用されます(したがって、敵対的な例の用語、つまり競合する例)。しかし、この分野での重要な実用的な結果は、ここ数年でしか得られていません。たとえば、ある研究では、科学者は、スマートフォンのニューラルネットワークがそれらを識別して音声コマンドとして実行できるように音楽の音声録音を変更することができましたが、人は音楽の外部干渉に気づきませんでした。全て。

画像認識の分野では、すでに同様の実験が行われていますが、これまでは主にインシリコのままでした。つまり、偽の画像がニューラルネットワークに直接送信されて認識されていました。ただし、トリックを作成するテクノロジーには、カメラを通して撮影するときに必然的に現れるスケーリング、シェーディング、変色、およびその他の歪みによって失われる可能性のある非常に微妙で微妙な変更を導入することが含まれます。したがって、実際のニューラルネットワークにとってトリックの作成がどれほど危険であるかは不明です。新しい研究では、科学者は、そのような歪みに対するトリックを作成する既存の方法の耐性を調査し、既知の対応物よりもトリックをはるかに効果的にする新しいアルゴリズムを開発しました。

この作業は、科学者が3つのアルゴリズムのいずれかで変更してGoogleのInceptionv3の認識のために送信した標準のImageNetデータベースからの画像に基づいていました。ニューラルネットワークは、画像の一部を直接受け取り、記事の著者の一部を紙に印刷し、最新のスマートフォンのカメラで撮影しました。この研究では、科学者はアルゴリズムの種類だけでなく、画像のコントラスト、明るさ、「ぼやけ」の程度がニューラルネットワークのエラーレベルにどのように影響するかを確認しました。

Image
Image

欺瞞をオフラインでチェックする:画像、プリントアウト、およびその断片

カメラを通過したブレンドは、ニューラルネットワークを直接送信する場合よりも実際には「欺瞞的」ではないことが判明しました。それにもかかわらず、トロンプ・ルイユに基づくニューラルネットワークのエラーのレベルは非常に高いままです。 Inception v3が通常95%を超える精度を示す場合、トリックでは、トリックを準備するための特定のアルゴリズムに応じて、この数値は正解の36〜69%に低下します。比較のために、ニューラルネットワークの画像を直接送信する場合、使用される最良のアルゴリズムは精度をほぼゼロにノックダウンします。

トリックを作成するさまざまな方法の有効性については、単純で高速なアルゴリズムと複雑で低速なアルゴリズムでは非常に異なることが判明しました。最も効果的なトリックは、画像のエントロピーを増加させるだけでなく、小さな変更を導入することによって、ニューラルネットワークを元のオブジェクトから最も遠いオブジェクトに向ける方法によって生成されました。 「(トリックを作る)従来の方法では、ある品種のそり犬を別の品種のそり犬として識別するなど、面白くないエラーが発生します。 [私たちの新しい最も類似していないクラスメソッド]は、犬を飛行機として認識するなど、はるかに興味深いエラーを生成します」と著者は記事に書いています。

トピックによって人気があります

人気の投稿