メインコンテンツへスキップ
見出し画像

投稿を出すと、AIの分類が動き出す。副業のX収益化で知っておきたい「Grox」と画像の照合

    「余裕でセンシティブ判定喰らいました」。健全な内容のイラストを投稿した人の、Xでのひと言です。本人が健全だと思った1枚でも、判定を受けることはあるようです。ネットで見つけた画像を添えるときも、同じことが起きないかと心配になります。副業でXの収益化を目指しているなら、XのAIが投稿のどこを見ているのかは、なおさら気になるところです。

    Xがおすすめ欄のコードと一緒に出している説明には、投稿の公開にあわせて、文と画像を分類する仕組みが動くと書かれています。画像を調べるモデルには、既に知られている画像と照らし合わせる働きもあります。分類の結果はラベルとして残り、投稿を誰にどう見せるかの判断で読まれます。だから、画像の出どころと言葉の選び方は、出す前に決めておくのがよいと考えています。やることは次の3つです。

    ・画像は、自分で撮った写真か、自分で作った図にする

    ・ほかから持ってきた画像は、出どころと使ってよい条件を確かめてから添える

    ・暴力や成人向けと読まれかねない言い回しは、出す前に言い換える

    理由は3つです。

    1 Groxは投稿の公開にあわせて動き、スパムや成人向け、暴力を分類する

    2 画像と動画のモデルには、既に知られている画像との照合も入っている

    3 分類の結果はラベルとして残り、見る人ごとの表示の判断で読まれる

    Groxは投稿の公開にあわせて動き、スパムや成人向け、暴力を分類する

    Xは、おすすめ欄を動かすコードをGitHubで公開しています(xai-org/x-algorithm)。説明のページ(README、2026年10月31日確認)には、投稿や画像の中身を読み取る部品がいくつか並んでいます。その一つがGroxです。

    Groxの説明は短く、投稿が公開されるのにあわせて動くとあります。分類する種類の例は、スパム、成人向けの内容、暴力的な画像や動画です。投稿の文と画像を、数値の形に置き換える働きも書かれています。

    こうした中身の読み取りは、見る人がおすすめ欄を開く流れとは別に、常に続けている作業だと説明されています。誰かの画面に並ぶより先に、機械が投稿を読んでいると受け取れます。

    READMEの「公開していないもの」の欄には、Groxで使う大規模言語モデル(LLM)への指示文が挙がっています。仕組みの裏をかかれるおそれを減らすため、という理由も添えてあります。Groxの分類がすべてLLMで動いている、とまでは書かれていません。それでも、文章を読むAIがGroxの中で使われていることは、READMEから読み取れます。

    名前は対話AIのGrokと1文字違いなので、読み違えないようにしておきたいところです。並べ順を決めるモデルの名前がPhoenixであることは、以前の記事で触れました。

    どの言葉で分類が動くのかは、指示文が伏せてある以上、外からは分かりません。冗談のつもりの物騒なたとえも、文字だけを読む側には、本気かどうか見分けにくいはずです。人より先に機械が読む、と思って言葉を選んでおけば、あとで悔やむことは減らせます。

    画像と動画のモデルには、既に知られている画像との照合も入っている

    画像と動画は、別の部品(media-model-proxy)の受け持ちです。READMEには、成人向けの内容、暴力や流血、憎悪を表す記号、写っている題材を見分けるモデルと並んで、既に知られている画像との照合が挙がっています。2026年8月13日の更新の説明でも、この部品は画像と動画を調べるモデルの一つに数えられています。分類のモデルが受け取る画像の特徴は、画像と文をあわせて学んだ別のモデル(clip)で作る、という説明です。

    照合が何のためのものかは、READMEにも、この部品の説明のページにも書かれていませんでした(2026年10月31日確認)。著作権を確かめるためか、有害な画像を見つけるためかは、公開された範囲からは読み取れません。一致した画像がどう扱われるかも、分かりません。

    ここで気になるのは、ネットで見つけた画像です。拾った1枚は、どこかで誰かが先に出したものです。照合の目的も、一致したあとの扱いも見えない以上、それを添えた投稿がどう判断されるかは、外から読みようがありません。読めないものを抱えて出すより、自分で撮った写真を添えるほうが迷わずにすみます。

    自分で撮った写真が、新しい報酬の制度でいうオリジナルの範囲に入ることは、前にも書いたとおりです。表示の面から見ても、報酬の面から見ても、手元の1枚から選ぶのがいちばん無理のないやり方だと思います。

    分類の結果はラベルとして残り、見る人ごとの表示の判断で読まれる

    READMEによると、表示の判断は、こうした読み取りが出した点数とラベルを読みます。ラベルは保存され、おすすめ欄が開かれるときに読み戻されます。その点数とラベルをもとに、投稿と見る人の組ごとに答えが1つ出ます。普通に表示する、注記を付ける、警告の画面を挟む、表示しない、の4つから選ぶことは、以前の記事でも書きました。

    画像の話で目を向けたいのは、警告の画面に添えられた例です。READMEは、成人向けや生々しい画像を例に挙げています。4つの答えの中でも、画像の分類がそのまま表に出やすい場面だと見ています。ただ、警告の画面を描く部分は、公開されたコードには含まれていない、とも添えてあります。

    冒頭のひと言の主は、表示の範囲が絞られた影響がまだ続いているようだ、とも書いています。アカウントごと消されるおそれがあるので、しばらく画像は上げられないみたいだ、という言葉も続きます。判定には画像だけでなく、投稿の文やアカウントの履歴も加味されている、という見方もあります。

    公開されたコードの説明にも、この見立てと重なる記述があります。成人向けの画像を見分ける分類器の一つ(pnsfwmedia)は、画像の特徴に、アカウント単位の点数を組み合わせると書かれています。その点数には、ほかの人の反応をもとにアカウントへラベルを付ける仕組み(agatha)の値も入ります。1枚の画像を見分けるときにも、そのアカウントがこれまでに受けた反応が加わる作りだと読めます。

    あのイラストが判定された理由は、公開された範囲からはたどれません。それでも、画像も言葉もアカウントの記録も読まれるなら、1本ごとに出すものを選ぶことが、その先の投稿の見え方にもつながるはずです。

    出す前に画像と言葉を選ぶ、やること3つ

    1 画像は、自分で撮った写真か、自分で作った図にする

    画像を添えたくなったら、まず自分のスマホの写真から探します。手元の物、出かけた先の景色、その日の食事などです。説明に図が要るときは、自分で描くか、表計算で作った表やグラフを画像にして使います。

    2 ほかから持ってきた画像は、出どころと使ってよい条件を確かめてから添える

    自分の写真で足りないときは、使いたい画像が最初に出た場所までたどります。配っているサイトの利用条件を読み、SNSでの利用や加工が許されているかを確かめます。出どころまでたどれなかったときは、その画像は使わずに、別の1枚にします。

    3 暴力や成人向けと読まれかねない言い回しは、出す前に言い換える

    下書きを読み返し、物騒なたとえや、体を連想させる冗談がないかを探します。「腹が立って殴りたくなった」と書きかけたら、「腹が立って、しばらく画面を閉じた」のように、実際に起きたことに置き換えます。

    XのAIは公開とともに読み始める。だから出す前に選ぶ

    公開されたコードの説明では、Groxは投稿の公開にあわせて、スパムや成人向け、暴力を分類します。画像と動画のモデルは、既に知られている画像との照合も受け持っています。その結果はラベルとして残り、見る人ごとに表示を決める場面で読まれます。

    だから、画像は自分で撮った写真か自分で作った図にし、ほかから持ってきた画像は出どころと条件を確かめ、物騒な言い回しは出す前に言い換えます。

    分類の指示文は伏せてあり、照合の目的も書かれていません。そのため、これで警告の画面や表示の制限を防げる、という約束はできません。ただ、1枚と言葉を自分で選んで出していれば、どんな結果になっても、何を出したのかだけは自分で説明できます。

    いま下書きに入っている画像は、どこから来たものですか。

    最後まで目を通していただき、ありがとうございました。

     
     
    収益化アカウント保持。凍結経験あり。累計20万フォロワー。年間100万収益。新アルゴリズムでこれまでの常識が非常識に。X上では書けないことをnoteに。

    あなたへのおすすめ