Adobeの画像生成AI「Firefly」の学習用データセットにMidjourneyなど別の画像生成AIが生成した画像が全体の約5％ほど混入していることが判明

Adobeの画像生成AI「Firefly」は、Adobe Stockという写真や映像のライブラリでトレーニングされていることが特徴で、インターネット上の画像をスクレイピングして学習した他の画像生成AIと異なり、商業的にも安全なAIだとAdobeは主張しています。しかし、実際はFireflyの学習したデータセットにMidjourneyなどによって生成された画像が含まれていると、アメリカ経済紙のBloombergが報じています。

Adobe’s AI Firefly Used AI-Generated Images From Rivals for Training - Bloomberg
https://www.bloomberg.com/news/articles/2024-04-12/adobe-s-ai-firefly-used-ai-generated-images-from-rivals-for-training

画像生成AIを学習するには膨大なデータが必要となります。MidjourneyやDALL-E、Stable Diffusionなどの画像生成AIはインターネット上で収集した画像で構成されたデータセットで学習していますが、クリエイターの著作権を侵害しているとして集団訴訟が提起されています。

画像生成AI「Stable Diffusion」と「Midjourney」に対して集団訴訟が提起される - GIGAZINE

一方、AdobeのFireflyは、Adobeが権利を保有する画像やパブリックドメインの画像など著作権の問題がクリアな画像のみでトレーニングされているとのこと。AdobeはFireflyの商業的な安全性と透明性に自信を示しており、もしFireflyで生成した画像で訴訟された場合は法的補償も行うと宣言しています。

Adobeが画像生成AI「Firefly エンタープライズ版」で作った画像で訴訟された場合は全額補償すると発表、自社AIは権利侵害していないという自信の表れ - GIGAZINE

Adobeは「Adobe Stock」と呼ばれる素材ストックを運営しており、このAdobe Stockに登録されている画像や映像がFireflyの学習に使われています。一方で、Adobe Stockは2022年末にAIコンテンツの受け入れを開始しており、記事作成時点で全体の14％がAI生成画像としてタグ付けされています。

画像生成AIを含むデータセットで学習を行うことについては開発初期段階からAdobe社内でも意見が分かれていたと、Bloombergは報じています。

2023年3月にAdobe Fireflyがベータ版として公開された際に、Adobe Stockコミュニティ担当のラウル・セロン氏は「ベータ版ではなく正式版を公開する際には、新しいトレーニングデータベースを用意し、生成AIコンテンツを除外する予定です」と語っていました。しかし、Bloombergによると、Firefly初の商用モデルであるエンタープライズ版の学習に使われた画像のうち、約5％が他の画像生成AIによって生成された画像だったとのこと。

Adobe StockにMidjourneyで生成した作品を登録しているブライアン・ペニー氏は、Adobeから報奨金が支払われて驚いたと語っています。AdobeはFireflyの商用モデルのトレーニングに使用されたコンテンツを提供したAdobe Stockのクリエイター報奨金を支払っており、ペニー氏に報奨金が支払われたということはペニー氏の作品も学習に使われたとのこと。しかし、ペニー氏は「Adobeは倫理的でなければならず、もっと透明性を高め、もっと多くのことをする必要があります」と述べ、画像生成AIで生成した自身のコンテンツでFireflyをトレーニングするのは間違っていると主張しました。

ハーバード大学の法学者で著作権や商標に詳しいレベッカ・タシュネット教授は「画像生成AIコンテンツで学習していたとしても、AdobeのFireflyが著作権や商標において安全性が低下することはおそらくありませんし、消費者を誤解させない限り、トレーニングの内容を明らかにする必要はありません」と述べています。しかし、Midjourneyで生成した画像で学習しているという点は、Fireflyが他の画像生成AIとは違うという思想に矛盾するものだとタシュネット教授は指摘しました。