はじめに
新年早々またなにやらXのAI（Grok）関連が荒れていますね。
2025年12月、Xに「画像を編集」機能が追加され自分の投稿だけじゃなく、他人の投稿画像も編集できてしまうようになったり、 年が明けた現在はコスプレイヤーや一般女性の投稿した写真を、第三者が勝手にGrokを使ってビキニ姿に変換する行為が流行ってきています。
いやまあXならさもありなん、という気がしないでもないですが、当然当人たちにとっても、見てる僕にとっても気持ちいいものではないですね。
じゃあXを離れたらAI利用については安全か？と言われると決してそんなことはないでしょう。
でも、まずは現実を知ったうえで各々自分の進む道を考えてほしいと思います。
インターネットとAI学習・利用の現実
結論から言えば、原理的にインターネット上に「安全で快適な場所」は存在し得ないです。
まず根本的な話として、インターネットの設計思想そのものが「情報共有」を前提にしています。
ざっくり言うとインターネット（HTTP通信）は「クライアントがリクエストしたデータをサーバーが送信する」仕組みです。 これは「見せる」と「コピーさせない」を同時に実現することが原理的に矛盾しています。
画像などのダウンロードを防ぐことも現実的には不可能です。 あらゆるデータはブラウザに表示された時点で、ユーザーのPC内に既に存在しています。
右クリック禁止やJavaScriptでのコンテキストメニュー無効化は「UIレベルの障壁」に過ぎなくて、開発者ツールを開けばネットワークタブからURLを取得できるし、そもそもスクリーンショットという手段もあります。
これはDRM（デジタル著作権管理）を実装しているNetflixなどですら完全には防げていない問題で、HDCP回避やキャプチャボード経由での録画は技術的に可能だったりします。
さらにAIボットを含むクローラ遮断も現実的には不可能です。
昔からあるクローラへの対応として robots.txt という仕組みがあります。
Webサイトに「robots.txt」というテキストファイルを置き、その中に「このクローラーはこのページにアクセスしないでね」というルールを書いておくやつです。自分でホームページを作ったりしたことがある人なら知っているかもしれないですね。
しかし残念なことに、robots.txtはあくまで「紳士協定」であり、以下のページが示すように技術的な強制力は一切ありません。
Respecting robots.txt is voluntary. (...) Some crawler operators may disregard your robots.txt preferences and crawl your content regardless of what your robots.txt file says. （robots.txtを尊重するかどうかは任意です。一部のクローラー運営者は、robots.txtの設定を無視してコンテンツを収集する場合があります。）
そしていくつもの分析によって「多数のAIエージェントがrobots.txtを迂回している」ことが確認されている。
IP制限やレート制限は実装可能だけど、分散クローラ（複数IPからの並列アクセス）やプロキシ経由で回避できるし、CAPTCHAも最近はAIで突破可能になってきています。
結局、現状ではユーザーは「表示できるものは機械にも読み取れる」という原則から逃れられないということを受け入れる以外にないのです。
まあ中には対策が取れないこともない問題もあったりはするけど、技術的に相当頑張って高度な保護を実装しようとすると、継続的なセキュリティ対策、DRM的な仕組みの維持、不正アクセス検知システムの運用 etc. といったコストがかかります。
しかし一般ユーザー向けSNSでこれをやっても、多くのユーザーは追加料金を払わないでしょう。 むしろ「右クリックできない」「スクリーンショット撮れない」みたいな制限は利便性を下げるので、ユーザー離脱の原因になって、まあ端的に言うとサ終が近くなるわけです。
では法的保護で対処できないだろうか？と考えてみても、少なくとも今のところこれも期待できないように見えます。
例えば、2025年5月に米国著作権局が発表した報告書では、AI学習における著作物利用について以下のように結論づけています。
it is not possible to prejudge litigation outcomes (...) some uses of copyrighted works for generative AI training will qualify as fair use, and some will not. （訴訟の結果を予断することはできない。生成AI学習のための著作物利用の一部はフェアユースに該当し、一部は該当しない。）
https://www.congress.gov/crs-product/LSB10922
つまり、ケースバイケースであり、統一的な保護は存在しません。
また日本では、AI学習目的の著作物利用は原則として著作権侵害にならないとされています。
この現実を踏まえて
さて、ではこういう現実を踏まえて、我々一般のユーザーが取れる選択肢には何があるか考えてみると、概ね以下のどれかに収束する気がしています。
- 現状のまま文句を言いつつXを使い続ける
- Xから別のSNSに移行する
- インターネットにコンテンツをアップロードしない
- インターネットを使わない
まあ下2つはあまり現実的ではないので、1か2のどちらかになると思うけど、別に1つしかSNSを使ったらダメということはないので、2を目指しつつ当面は2つ以上を並行で運用するといいんじゃないかなと思います。
Blueskyという選択肢
BlueskyはよくXの代替SNSとして上がる選択肢だけど、どういう仕様で各種制限（モデレーション）などはどのように運用されているのか をはっきり理解しているひとは意外と少ないのではないかなと思ったので、 これを期に一度まとめてみたいと思います。
なお以下、割と淡々と書いていくので、興味ない人は「Blueskyに対して聞く評判について」まで読み飛ばしてください。
Blueskyの特徴
モデレーション
Blueskyのモデレーションは「ラベル」を中心に設計されています。 ラベルとは、コンテンツに付与されるメタデータで、そのコンテンツをどのように表示するか（隠す、ぼかす、警告を表示するなど）を決定するために使用されます。
ラベルには以下の種類があり、ユーザーはこれらを駆使して自分のタイムラインを制御することができます。
- グローバルラベル: プロトコルレベルで定義されたラベル
- セルフラベル（自己申告）: 自分のコンテンツに対して付与するラベル
- Labeler（ラベラー）: ラベルを発行するサービスで最大19個の追加Labelerを購読可能（Bluesky公式は強制的に含まれるため、合計最大20個）
コミュニティガイドラインにおける4つの原則
Blueskyのコミュニティガイドラインは4つの原則に基づいています。
1. Safety First（安全第一）
暴力、危害、搾取、犯罪行為について以下を禁止する。
- 犯罪組織、テロ組織のコンテンツ
- 未成年者を性的に描写するコンテンツ（AI生成、イラスト、アニメーションを含む）
- 同意のない性的コンテンツの共有（ディープフェイクを含む）
- 自傷、自殺、摂食障害を助長するコンテンツ
2. Respect Others（他者への敬意）
ハラスメント、いじめ、ヘイトスピーチ、差別を禁止する。
3. Be Authentic（誠実であれ）
スパム、フィッシング、なりすまし、選挙プロセスへの干渉を禁止する。
4. Follow the Rules（ルールを守れ）
違法薬物・武器の取引、著作権侵害、BAN回避を禁止する。
成人向けコンテンツについて
コミュニティガイドラインでは以下のように規定されています。
We allow consensual adult sexual content, including fictional depictions, when appropriately labeled and subject to appropriate age restrictions. （私たちは、適切にラベル付けされ、適切な年齢制限が適用されている場合、フィクションの描写を含む、同意に基づく成人の性的コンテンツを許可します。）
つまり、成人キャラクターの性的コンテンツ（イラスト含む）は、適切なセルフラベル（porn、sexual等）を付ければ投稿可能だ。
一方、未成年の性的描写については明確に禁止されています。 AI生成やイラスト、アニメーションを含むすべての形態が対象となります。
BANとストライクシステム
2025年11月19日、Blueskyはモデレーションプロセスを大幅にアップデートしました。
報告カテゴリが6種類から39種類に拡大され、違反には重大度レベル（Critical / High / Moderate / Low）が割り当てられるようになった。
- Critical Risk（致命的リスク）：即座に永久BAN
- High Risk（高リスク）：高いペナルティ
- Moderate Risk（中程度のリスク）：中程度のペナルティ
- Low Risk（低リスク）：教育と行動変容が優先
低リスクの違反では段階的な執行が優先されるが、累積すると一時停止から永久BANへとエスカレートしていく。
異議申し立て
すべての執行アクションに対して異議申し立てが可能です。期限は2週間以内。
- 投稿のテイクダウンの場合：
moderation@blueskyweb.xyzにメール - アカウント停止の場合：アプリ内の異議申し立て機能を使用
AI学習とクリエイターの懸念
Bluesky公式の方針
2024年11月、BlueskyはAI学習に関するコメントを発表しました。
A number of artists and creators have made their home on Bluesky, and we hear their concerns with other platforms training on their data. We do not use any of your content to train generative AI, and have no intention of doing so. （多くのアーティストやクリエイターがBlueskyを拠点としており、他のプラットフォームがデータを学習に使用することへの懸念を聞いています。私たちはあなたのコンテンツを生成AIの学習に使用しておらず、そうするつもりもありません。）
しかし、Blueskyは "AT Protocol" という分散型プロトコル上に構築されており、「Firehose API」と呼ばれるAPIが公開されています。 これはBlueskyの全投稿をリアルタイムでストリーミングするAPIで、誰でもアクセス可能なものです。
つまり、Bluesky自体がAI学習にデータを使用しなくても、第三者がFirehose APIを通じてデータを収集し、AI学習に使用することは技術的に可能です。
Blueskyに対して聞く評判について
以上Blueskyの特徴でした。 では、ここからは読んでみてください。
これまでもSNS民族大移動の機運が高まることは何度かなりました。その移行先には当然Blueskyも含まれたわけですが、実際に移住してみての感想には以下のようなものが多かったので、現実はどうなのか考えてみました。
「BlueskyならAI学習されない」
Bluesky公式は使用しないと明言しているが、Firehose APIが公開されているため、第三者によるスクレイピングは防げません。
「分散型だから検閲されない」
Blueskyアプリには強制的なモデレーションが存在し、分散型とはいえBlueskyアプリを使用する限りはBluesky社のルールに従う必要があります。
「センシティブラベルを付ければ何でもOK」
セルフラベルは表示制御のための仕組みであり、コミュニティガイドラインの免罪符ではありません。 未成年者を性的に描写するコンテンツは、ラベルの有無に関わらず禁止されています（AI生成やイラストを含む）。
「Xで普通に投稿してたイラストがセンシティブ扱いされる」
これについては、コミュニティガイドラインを見る限り、Xよりも厳しいとは一概に言えないように見えます。 成人向けコンテンツは適切なラベルを付ければ許可されています。
ただし、「未成年」の定義が明記されていない点には注意が必要です。
コミュニティガイドラインには「minors or minor-aged characters」という表現はあるが、具体的な定義はありません。 何歳未満が「minor」なのか、「見た目が幼いが設定上は成人」のキャラクターはどう扱われるのか、デフォルメされた絵柄はどう判定されるのか…これらについて明確な基準は見当たりません。
実際のモデレーション判断は、運営側の文化的背景（米国的な基準）、自動判定、報告者の主観、人間のモデレーターの判断などが複雑に絡み合うため、正直に言えば「運次第」としか言いようがない部分があります。
ただし、この不確実性はBluesky固有の問題ではなく、XやInstagram、Threads、Tumblrなど、米国・欧州系のプラットフォームであればどこでも同様の問題を抱えています。Xで大丈夫だったから他でも大丈夫であるべきだは通用しません。
「BANされたら終わり」
先に書いたようにすべての執行アクションに対して異議申し立てが可能です。 期限は2週間以内で、成功すればアカウントは復元されます。
蛇足：「低解像度で公開すればAI学習を防げる」
技術的に意味がありません。
現在の画像生成AI（Stable Diffusion等）の学習では、画像は固定サイズ（512x512や1024x1024）にリサイズされます。
また学習されるのはピクセルデータではなく（よく誤解している人がいるが「画像」そのものではない）、「特徴量」という概念であり、低解像度でもこれは十分に抽出できます。
まとめ的ななにか
インターネットに公開するということ
インターネットに何かを公開した時点で、以下のリスクは常に存在することは理解しておく必要があります。
- 現状では技術的にはどのプラットフォームに投稿しても、何らかの方法で収集されAI学習に使用される可能性がある
- 画像を保存され、別の場所で悪用される可能性は常にある
- 今日許可されているコンテンツが、明日BANされる可能性もある
これらのリスクを完全にゼロにする方法は「公開しない」以外に存在しないでしょう。
取りうる自衛策
現状で取れる対策には限りがありますが、以下のような対策をすることは可能です（もちろんそれなりにコストはかかるけど）。
- 感情的に「あそこは危ない」「ここなら安全」と判断するのではなく各プラットフォームのルールや運営哲学を理解する
- 誤ってBANされた場合の異議申し立ての権利を事前に把握しておく
- 一つのプラットフォームに依存しない
- 可能であれば、自分のWebサイトを「母艦」として持ち、SNSは告知用と割り切る
おわりに
というわけで、新年なのでインターネットの仕組み的にSNSに安全安心を求めるのは間違っている。という話を書きました。
「安心して使えるSNS」を探している人は、そもそもそういうものが存在するという前提が間違っているので冷静になってください。
インターネットに作品を公開するという行為には常にリスクが伴い、そのリスクから「プラットフォームが守ってくれる」と期待するのは認知を歪めます。
X、Bluesky、Threads、Misskey、個人サイト。どこを選んでもそれぞれにメリットとデメリットがあります。
完璧な選択肢など存在しません。
インターネットになにかを公開するということが何を意味するか、よく考え、他人に安全の保証を求めず、自ら情報を集め、自分の責任で投稿しましょう。
ではまた。
