** 本記事は、“FleeceGPT” mobile apps target AI-curious to rake in cash
の翻訳です。最新の情報は英語記事をご覧ください。**
OpenAI の大規模言語モデルを元にした人工知能アプリケーション「ChatGPT」は、IT メディアの話題を独占し、大衆文化に浸透しています。ユーザーの好奇心の高まりに便乗して、ChatGPT との連携を謳うモバイルアプリ (フリースウェア) が急増しています。フリースウェアとは、以下のような特徴を持つアプリケーションを指します。
- モバイル OS やオンライン上の他のソースから無料で機能が利用できる。
- まずユーザーを短期の無料トライアルに登録させた後、高額なサブスクリプションに切り替えて、無防備なユーザーから金銭を騙しとる。
- わずらわしい広告やその他の機能を使って無料版の使い勝手を悪化させ、ユーザーをサブスクリプションに加入させようとする。
Apple と Google はいずれも、アプリを利用した詐欺の防止を目的としたストアガイドラインを設けており、これらのガイドラインは、過去に出現したフリースウェアに対応して改訂されてきました。2020 年に初めてフリースウェアについての記事を公開した時には、月 200 ドル以上を請求するものも確認されていました。最新のアプリストアのポリシーは、このようなアプリを防止することを目的として設計されています。たとえば、アプリ開発者はサブスクリプション料について明確に説明しなければならず、料金が発生する前にユーザーが無料トライアルをキャンセルできる必要があります。
最近は、このポリシーを回避するようにフリースウェアが進化しています。最近のフリースウェアは 9.99 ドルから 69.99 ドルのサブスクリプションへの加入をくり返しユーザーに促すほか、加入しない限りアプリの使用や機能を厳しく制限するなどの手法を用いています。
フリースウェアのアプリケーションは Apple や Google による利用規約のギリギリを狙い、個人情報にアクセスしたり、プラットフォームのセキュリティを回避したりしないように設計されているため、審査で却下されることは稀で、アプリストアでの配信を許可されています。これらのアプリは、悪意のある開発者に利益をもたらすだけでなく、アプリの売上の一部を徴収するプラットフォーム企業にも利益をもたらします。Apple の場合、初年度は売上の 30%、2 年目以降は 15% を徴収します。そのため、Apple や Google には、機能性がほとんどなく、ストアのレビューシステムを悪用して人為的に高評価を維持するアプリを削除する金銭的インセンティブがほとんどありません。
これらの悪意のあるアプリの開発者は、アプリストア内外の広告とアプリストアの評価システムを悪用した偽レビューを組み合わせて、無防備なデバイスユーザーをおびき寄せ、ダウンロードさせます。多くの場合、ユーザーが気づかないうちに自動的にサブスクリプション料金が発生する「無料トライアル」版を搭載していたり、より高機能を謳いながらも実際には存在しない「プロ」版の購読を促されたりします。
「フリースウェア」アプリの主な特徴として、他のアプリでは無料で提供されている機能に課金することや、ソーシャルエンジニアリングや紛らわしい機能を使用して、ユーザーにサブスクリプションにサインアップさせ、一回限りの課金ではなく、定期的なキャッシュフローを生み出すことが挙げられます。OpenAI は GPT と ChatGPT の API を、750 語の出力ごとに約 0.06 ドル相当のレートで開発者に提供し、最新の ChatGPT の「プロ」バージョン (ピーク時の利用を保証し、新機能への早期アクセスを実施) を月額 20 ドルで販売していますが、ChatGPT の基本機能は OpenAI の Web サイトを通じてユーザーに無償で提供されています。すべてのフリースウェアはアプリストア上で無料で提供されますが、(基本的な機能を開放するために必要なサブスクリプションについてはほとんど言及されていません。また、収益化を積極的に目指しており、多くの場合、提供する機能に見合わない高額なサブスクリプション料金が設定されています。
ソフォスは今回発見したアプリを、Google と Apple に報告しました。ソフォスが調査していたアプリのうちのいくつかは、報告する前にストアから削除されました。Google は、私たちが報告したアプリの一部を削除しました。Apple は、現時点では何の措置も取っていないものの、アプリに関する私たちの意見を認めています。また、これらのアプリの広告を発見したプラットフォームでは、その広告を報告しました。
限られた機能
チャットボットを装ったフリースウェア (「FleeceGPT」) に関する調査は、Sophos X-Ops の主任研究員 Andrew Brandt が最近、「Chat GBT」という Android アプリケーションの広告をモバイルニュースアプリで発見したことから始まりました。Google Play ストアのリストには、ChatGPT の開発元である OpenAI のロゴに類似した画像が表示され、アプリの開発者はこのアプリを「ChatGPT の代替品」で、「Chat GPT というモデルをトレーニングしたもの」だと主張しています。
しかし、このアプリをダウンロードしてみると、以前、他の種類の「フリースウェア」で確認された手法を踏襲していることがわかりました。この「無料」アプリは広告が多く、わずか 3 回の使用でロックされてしまうため、ユーザーは使用を継続するために有料のソフトウェアアップグレードを強いられます。このアプリでは、3 日間の無料トライアルの後に、デフォルトで月額 10 ドルのサブスクリプションが自動で開始されるようになっています。また、30 ドルで「年間プラン」にも加入できるようになっています。ユーザーが年間購読を選択した場合、サブスクリプションを中止するまでに毎年 30 ドルを払い続けることになるため、フリースウェアの開発者にとってより有益なオプションになっています。
有料で提供される「プロ」機能は、たとえ機能したとしても、ChatGPT の登録ユーザーが無料で利用できるものと基本的に同じです。数千件の短い 4 つ星レビューの中には、アプリをダウンロードしても広告が表示されるだけだとか、ロックを解除しても AI が質問に回答しなかったというようなコメントが混じっています。あるユーザーは、「どんな質問に対する返信も「すみません、よく理解できませんでした」だった」と報告しています。
iOS の Apple App Store で、同じデベロッパーによる、名前が異なるだけでほぼ同一のアプリを発見しました。
GAI Assistant という名前のこのアプリは、前述の Android 版と同様の動作をします。送信できるクエリは 1 日 3 回に限定され、機能がロックされる前に、3 日間の無料トライアルに登録するよう促されますが、その後は自動的に毎週 6 ドル (英国のユーザーに対しては 6 ポンド) の週間サブスクリプションに切り替わります。
最近のアップデート後は、すべてのプロンプトに対して返信を省略し、最後に「続きを読む」リンクを表示するという、少し変わった動作をするようになりました。実際に OpenAI の ChatGPT API を使用してはいるようですが、有用な回答は返ってきません。
「続きを読む」リンクをタップすると、3 日間の無料トライアルに参加するか、月額または年額サブスクリプションの前払いを要求するプロンプトが表示されます。また、1 日あたり 10 件のクエリ制限を設け、制限に達した場合は「プレミアム版」の購入を促します。
アプリトラッカーの Sensor Tower 社によると、このアプリの Android 版の 3 月の売上は 5,000 ドル弱、iOS 版の売上は 10,000 ドルを超えているとのことです。数十件の偽の 5 つ星レビューでは足りないほどの否定的レビューの山にもかかわらず、です。
ストアに投稿されたレビューの中では、あるユーザーが「アプリ全体が一つの大きな広告ハブに過ぎない。アプリは実質的に存在しない。」と指摘しています。アプリの開発者は、開発資金のために広告が必要だと回答し、さらに「広告を見たくない場合は、ChatGPT の Pro バージョンをご購入いただけます。応援のために星 5 の評価をお願いします！お客様のご理解に感謝いたします！」と付け加えました。
ユーザーが 3 日間の無料トライアルに同意すると、広告が消え、アプリはほぼ広告通りに機能するようになります。しかし、無機質な合成音声による回答の読み上げを除けば、モバイルの Web ブラウザを通じてユーザーが無料で利用できる機能はほぼ同一です。
増加する便乗アプリ
ChatGPT の話題性 (と潜在的な混乱) を利用しようとしているのは、上述の開発者だけではありません。また、Play ストアと Apple App Store の両方で、疑わしいアプリを多数発見しました。中には、検索で上位に表示されるために、「ChatGPT」に近い名前を使用したアプリもありました。
Google Play ストアでは、最初に確認したフリースウェア AI アプリとほぼ同じ広告を使用している別のアプリを発見しました。
この「チャットボット」にも、上述のフリースウェアと同様の機能があります。「無料」版では、クエリが 1 日 4 回に制限されており、この回数を超過すると機能がロックされ、定期購入や月額課金へと変わる無料トライアルへのサインアップを促します。
Play ストアには他にも怪しい名前のアプリがいくつかありましたが、調査中に数本がストアから削除されました。また、バグだらけで、広告を表示しているにもかかわらず、典型的なフリースウェアの収益化手法を用いていないものもありました。
Apple App Store でも、ChatGPT に便乗して詐欺まがいの行為を行うアプリがいくつか確認されました。AIChatChatbot (アプリのウィンドウでは「Pocket AI Chat」と表示されます) は、ストアのアプリ一覧では OpenAI のロゴを模倣しています。
インターフェイス自体は基本的にモバイルサイトを再パッケージしたもので、Google が提供する広告を含め、すべてのコンテンツはリモートで生成されています。このアプリには、以前からフリースウェアとして分類してきたアプリと共通する動作が他にもいくつかあります。まず、アプリが要求する権限の種類です。
このアプリはインストール時に、他のアプリや Web サイトでユーザーの活動を追跡する許可を要求します。実際に開発元が運営するバックエンドサーバーを通じて ChatGPT に接続し、入力に対する応答を提供する一方で、「機能向上のためのクラッシュデータ収集」に使用しているとするテレメトリを送り返しています。
他のアプリと同様に、アプリ名は不明瞭です。広告では「AI Chat – Chatbot AI Assistant」、インストール画面やユーザーインターフェイスでは「Writing BOT Pocket AI」という名称になっています。このアプリをインストールすると、他のアプリと同様に、無料トライアル (週 8 ドルのサブスクリプションへの自動切り替え付き) へのサインアップを促すウィンドウが時々表示され、アプリケーションの使用が中断されます。ウィンドウを閉じるには、[x] が表示されるまで数分間待つ必要があります。App Store のポリシー (「インタースティシャル広告や、ユーザーエクスペリエンスを中断させたり妨害したりする広告では、広告であることをはっきり明示する必要があります。また、広告をタップするようユーザーの行動を操ったり、だましたりすることはできません。ユーザーが広告を簡単に閉じられるよう、操作しやすく見やすい、十分な大きさの「閉じる」ボタンや「スキップ」ボタンを用意する必要があります。」) に完全には違反していないとしても、疑わしい動作です。
また、アプリの評価を要求する画面で返信が中断されることも多く、これも Apple のポリシー (「ユーザーがAppの機能やコンテンツにアクセスしたり使用したりする際に、Appの評価やレビュー、他のAppのダウンロード、同様のその他アクションをユーザーに求めることはできません。」) に違反した動作と言えます。
広告が表示されるのを待つのであれば、送信できるメッセージの制限はありませんが、応答には文字数の制限があります。バックエンドサーバーが使用する OpenAI API のバージョンに依存するものだと考えられます。1 回のリクエストで使用する GPT トークンの数を最小限に抑えるため、回答は約 1000 文字で切り捨てられているようです。
Apple App Store で提供されている ChatGPT アプリの中には、フリースウェアのような動作をするものが他にもあります。「Genie AI Chatbot」です。このアプリは「ナンバーワンの AI チャットボット」を自称しており、ChatGPT に関連する通常のテキスト生成機能だけでなく、画像認識などの機能をアピールしています。
しかし、Genie にはフリースウェア的な要素がいくつかあります。まず、インストール時に、他のアプリや Web サイトでの活動の追跡を許可し、完全に起動する前にアプリを評価するよう求めるプロンプトが表示されます。また、Genie は通知を送信する許可を要求します。その後に、無料トライアルの申し込みや、週間 7 ドル (年間 364 ドル)、あるいは年間 70 ドルの長期サブスクリプションへの加入を促すメッセージが表示されます。
他のアプリとは異なり、Genie はトライアル版やサブスクリプションなしでも、宣伝文句に近い機能で実際に動作しますが、1 日に 4 件のクエリしか受け付けません。その後、再度無料トライアルを促すプロンプトを表示します。
図 16：1 日 4 件までは、正常に機能します。
このモデルは、Genie の開発者に大きな利益をもたらしたようです。Sensor Tower によると、Genie は先月だけで 70 万ドル以上の収益を上げたとのことです。
Apple App Store で確認した 3 つ目のフリースウェアアプリは、ストアでは「AI Chatbot-Open Chat Writer」を名乗っていましたが、インストールすると「AI Smith」と表示されました。
アプリストアのスクリーンショットは、実際にインストールされるアプリとは全く異なります。
「AI Smith」には、サブスクリプションなしの場合 1 日 5 通のメッセージ制限があります。その上、メッセージは広告やサブスクリプション画面で中断され、アプリの評価も絶えず要求されます。
他のアプリと同様に、AI Smith も GPT-3 API を使用してコンテンツを生成していますが、長すぎる場合には回答を途中で切り捨てています。
正規のアプリ名で検索するユーザーをおびき寄せるために似たような名前が付けられた、 ChatGPT への関心の高まりに便乗した他のアプリを数多く発見しました。しかし、すべてのアプリがフリースウェアの特徴に完全に合致するわけではありません。多くは、通常のフリースウェアの例に当てはまらない粗雑なアプリや、いい加減に実装されたアプリに過ぎません。
サブスクリプション契約はそのまま残る
その他、いくつかの疑わしいアプリは調査するうちに Google Play ストアから削除されました。Google はその後、私たちが報告したアプリも削除しました。しかし、類似のアプリは未だにストアに残っています。
フリースウェアの開発者は、ストアのガイドラインに建前上は準拠しています。しかし、実際の中身はそうではありません。アプリの開発者は、さまざまな方法でユーザーにサブスクリプション料を支払わせようとしますが、ほとんどの場合は、ユーザーが無料トライアル期間を忘れ、週や月のサブスクリプション料が発生したのに気づかないことを見込んでいます。
プラットフォームの所有者は、これらのアプリケーションからも大きな利益を得ており、明らかな基準違反でない限り、アプリケーションを削除するインセンティブはほとんどありません。このため、モバイル機器のユーザーは、アプリ内課金や「無料トライアル」ソフトウェアに紐付けられているサブスクリプションに引き続き細心の注意を払う必要があります。Apple デバイスの場合、アプリのサブスクリプションは Apple ID の下の設定メニューに表示されます。Android デバイスの場合、Google Play のサブスクリプションは Google Play ストアアプリ内、ポップアウトメニューの「サブスクリプション」から管理します。
私たちは、「プレミアム版」へのアプリ内課金が実際に価値を提供しているかどうかを、デバイスユーザーに委ねるのではなく、Apple が App Store のレビューから直接精査することを推奨しています。App Store は、信頼できるプラットフォームであることをウリにしていながらも、誤解を招くアプリから大きな利益を得ているためです。
さらに、これらのアプリの一部は、基本的にリモートプラットフォームに依存する Web アプリを再ラッピングしたものであるため、ローカルコードを変更することなく、開発者が悪意をもって機能を改変する可能性があるという長期的なリスクをもたらします。 上述のような手口は、過去に 「ShaZhuPan」グループが用いるものとして登場したことがあります。
現在のところ、有効な唯一の防御策はユーザー教育です。ユーザーは、インストールボタンを押す前に無料アプリのアプリ内課金を確認し、アプリの要求する料金が他のアプリケーションと同等かどうかを判断する必要があります。 また、アプリケーションが非倫理的な手段を用いて利益を得ている場合、ユーザーはそのことを Apple や Google に報告する必要があります。
サブスクリプションを停止する方法n
フリースウェアをインストールしていることが判明した場合、注意したいのは、アプリを削除しただけではサブスクリプションは停止しないことです。フリースウェアの被害者の中には、トライアル版をインストールし、試用期間の終了後にアプリを削除する方もいますが、この場合。アプリストアのアカウントにサブスクリプションが残っており、トライアル版の期限が切れた後もアカウントに請求が来ていることに気が付かないことがしばしばあります。これらのサブスクリプションを停止する方法は以下の通りです。
iPhone
Apple によるこちらの説明通り、以下の手順に従ってください。
- 「設定」アプリを開く。
- ユーザー名をタップする。
- 「サブスクリプション」をタップする。
- 「サブスクリプションをキャンセルする」をタップする。「サブスクリプションをキャンセルする」ボタンが見当たらない場合は、下にスクロールしてください。キャンセルボタンがない場合、または赤文字で期限切れのメッセージが表示されている場合は、すでにサブスクリプションが解約されています。
その他の画面が表示された場合は、Apple のドキュメントに従ってください。
Android
1. Android デバイスの場合は、まず Google Play の「サブスクリプション」をタップします。
2. 解約したいサブスクリプションを選択します。
3. 「サブスクリプションをキャンセルする」をタップします。
4. 画面の指示に従います。
本件に関連するセキュリティ侵害の痕跡 (IoC) はソフォスの GitHub リポジトリで公開されています。