投稿から2秒で自動ブロック、「不適切画像」を検知するAIシステムを自社開発

ウェザーニューズには1日20万通もの天気報告「ウェザーリポート」が届きます。日々寄せられるリポートは、気象予報の精度を高め、安心な暮らしを支える大切なデータです。

しかし、膨大なリポートの中には、ごく一部ですが天気とは無関係な画像や、不適切なコンテンツが含まれることがあります。これまで、こうした不適切画像を除去する作業はスタッフが目視で1つずつ確認しており、「時間がかかる」「スタッフへの心理的負荷が大きい」といった大きな運用課題を抱えていました。

「ユーザーの皆さんやクライアント企業へ、常に安全で高品質な情報をお届けしたい」——ブランドと信頼を守るため、ウェザーニューズはAIを活用した「不適切画像」の自動検知システムを自社開発。画像が投稿されてから“たった数秒”で自動検知・ブロックが可能になった、その開発の裏側に迫りました。

累計1億通の気象データ「ウェザーリポート」、ブランドを守るために日々行う画像の品質チェックとは

「ウェザーリポート」とは、ユーザーの皆さんから現地の天気情報を報告していただくウェザーニューズ独自の取り組みです。1999年のサービス開始以来、累計報告数は1億通を突破。現在でも、写真や動画を含むリポートが全国から1日約3〜4万通届いています。

これらのリポートは、気象観測機だけでは捉えきれない「今、現地で起きていること」を把握するための極めて重要な観測データです。ウェザーニューズの予報精度向上に欠かせない存在であるほか、24時間生放送の気象情報番組「ウェザーニュースLiVE」でも、全国の“今の様子”を伝える映像として幅広く活用されています。

しかし、膨大な投稿の中には、天気とは無関係な不適切画像が一定数紛れ込んでしまうという課題がありました。誤った情報や不適切なコンテンツがそのまま掲載・使用されれば、予報精度に影響が出るだけでなく、サービスの信頼やブランド価値を大きく傷つけるリスクがあります。

加えて、これまでは運営スタッフが手作業で不適切な投稿をチェックしていたため、 「不快な画像を直接目にしなければならない」 という精神的な負担も大きな問題となっていました。 「大切な気象データとブランド価値を守り、スタッフが不適切な画像を目にすることなく自動でブロックできる仕組みを作りたい」——そんな強い思いから、AIを活用したシステム開発が動き出しました。

投稿からわずか2秒！ AIで実現した「不適切画像」の自動検知

一言に「不適切な画像」と言っても、その種類は多岐にわたります。成人向けコンテンツはもちろん、個人情報保護の観点から問題となる「人物や子どもの顔の写り込み」、著作権に抵触する「アニメ・ゲームの画像」、さらには「実際に発生していない気象災害を模した生成AI画像」まで、リスクの形態は様々です。

従来は、画像管理スタッフが1枚1枚目視で確認し、手動で掲載を取り下げたり、ユーザーからの通報を受けてから個別に判断せざるを得ず、運用の限界を迎えていました。

そこで開発チームは、社内の「AIワークショップ」をきっかけに、投稿から数秒で不適切画像を取り下げるAIシステムの自社開発に着手しました。 新たに構築したシステムでは、画像が投稿されると同時にAIが起動し、わずか2秒ほどで以下の3つに自動分類します。

❌️掲載不可（自動ブロック）： 明らかな不適切画像を即座に非表示 🔺掲載可否を検討： 境界線上の画像を抽出し、人間の判断へ回す ⭕️検討対象外（正常）： そのまま通常通り掲載

さらに、「掲載可否を検討」と判断された投稿は、AIが以下の4つのカテゴリに自動整理してくれます。

👤人物がメインの被写体 👶子どもが被写体 🎮アニメ・ゲーム画像 🤖AI生成画像

これにより、スタッフは人の判断が必要な投稿だけに集中できるようになりました。AIの圧倒的なスピードと、人間の細やかな判断力を組み合わせることで、安全かつスピーディな運用フローが完成したのです。

約40%のコスト削減でついに運用開始へ

システムのベースは完成したものの、次に立ちはだかったのが「判定の精度」と「運用コスト」の壁でした。特にクラウドAIを利用するコストが高額になると、どれほど優れたシステムであっても継続的な運用が難しくなってしまいます。そのため、しばらくは試験運用を続けながら改善策を模索する日々が続きました。

そこで開発チームは数か月をかけて、利用するAIモデルの選定をゼロから見直し、処理フローの最適化などを推進。その結果、導入初期と比べて約40%のコスト削減に成功しました。

現在では、全国から届く1日約3〜4万通もの画像に対して、迅速かつ正確な自動判定を行う体制が整い、無事に運用へと移行しています。

開発担当者コメント（開発チーム 小田島）

ウェザーリポートは、未成年を含む幅広い世代の皆様に安心・安全にご利用いただくためのプラットフォームです。

従来、不適切な写真の投稿は人の目による監視を中心に行ってまいりました。しかし、昨今の異常気象に伴い投稿数が急増し、人力のみによる運用の限界が課題となっていました。 そうした中、社内のAIワークショップを機に開発が一気に加速。多様なAIモデルの特性や得意分野を組み合わせることで、高精度な不適切画像の自動検知システムを導入するに至りました。

まだまだ改善の余地はあるものの、「不適切な画像をユーザーに見せない」という今回の取り組みは、リポートの品質と安全性を維持するための極めて有効なソリューションとなっております。

今後も最新のAIモデルの検証・導入をすすめ、ユーザーの皆様やパートナー企業の皆様が、、より一層安心して活用できるプラットフォームづくりに努めてまいります。

「NG画像のブロック」から「防災・ビジネス活用」へ。AIで広がるウェザーリポートの可能性

このAIによる画像検知システムは、これで完成ではありません。 いざシステムを動かし始めると、AIならではのユニークな課題も見えてきました。

例えば、遠くに小さく子どもが写っているだけの風景写真でも、AIが過敏に反応して「子どもの写り込み」として検知してしまうケースがありました。さらに、時には「猫や犬の顔を人間の顔として判定してしまう」という、微笑ましくも現場としては少し頭を抱えてしまうような誤判定も発生しました。

インストラクションのチューニングによる精度向上に継続して取り組むことで、人手による確認作業を減らし、運用のさらなる自動化を進めていきます。また今後は、静止画だけでなく「動画リポート」へも適用できるよう開発を進めていく予定です。

また、今回は不適切画像をブロックする「守り」のAIシステムでしたが、今後は投稿された画像をさらに有効活用できるよう、写っている内容（冠水や積雪、特定の気象現象など）を自動で判定するAI技術への挑戦も本格的に進めていく予定です。

現在「ウェザーリポート」は、テレビ局の天気コーナーや法人向けサービス「ウェザーニュース for business」など、非常に多くの場面で活用されています。 写真の内容を自動判定できるようになれば、災害時にコメントを打つ余裕がないユーザーの写真から危険をいち早く検知したり、生放送やビジネスのお客さまへ「いま欲しい写真」をリアルタイムにおすすめする仕組みも可能になると考えています。

単にリスクを防ぐだけでなく、AIの力で気象データの可能性をさらに広げていくこと。ウェザーニューズはこれからも最新技術を積極的に取り入れ、ユーザーの皆さんが投稿した1通のリポートが、より多くの人や社会の役に立つ未来を目指していきます。