AIが危険な内容や非倫理的な出力を生成しないよう、LLMの学習段階で特定の知識のみを削除する新手法「SGTM」を開発しました。

従来のデータフィルタリングよりも優れた効果を示しています。
Anthropicの研究者らによる研究です。

日々、LLMの性能は飛躍的に向上していますが、同時にサイバー攻撃に悪用されるコードを生成したり、生物化学兵器の製造法をユーザーに教えてしまうといったリスクも増大しています。

しかし、こうした可能性を排除するために学習データを単純に削除しようとすると、モデル全体の性能まで低下してしまうという課題がありました。

今回開発された「SGTM」は、学習中にモデルのパラメータを「一般的な知識を担う部分」と「有害な情報を担う部分」に区分する手法です。危険な情報は特定の領域にのみ書き込まれるよう勾配を制御し、学習完了後にその「有害な情報」を含むパラメータ部分を削除します。
これにより、機能を損なうことなく特定の知識のみを消去することが可能になりました。

さらに、削除後に悪意のあるデータを再学習させても、既存のアンラーニング手法に比べて、知識が復元しにくいという高い堅牢性も確認されています。
これは、SGTMが単に出力を抑制しているのではなく、知識そのものをモデルから排除できていることを示唆しています。

本手法は、LLMの出力制御における有効な安全対策となることが期待されています。 December 12, 2025

AIを業務に導入した瞬間、企業は「言葉」によって内側から崩壊するリスクを負った。 従業員が何気なくChatGPTに入力する一行。AIエージェントが処理する外部データ。これら全てが、攻撃者にとっての新たなバックドアとなる。2025年12月、CrowdStrikeが提示した新たな解「Falcon AIDR」は、この不可視の脅威に対する宣戦布告である。AIセキュリティという緊急課題の本質を深掘りする。

市場の構造変化は劇的だ。
Menlo Venturesの調査によれば、金融やヘルスケアなどの主要産業における生成AI支出は数億ドル規模に達している。組織の85%がクラウドAIを利用し、急速な実装が進む。しかし、この熱狂の裏で、攻撃対象領域（アタック・サーフェス）は完全に書き換えられた。もはやファイアウォールだけでは守れない領域に、敵は既に侵入している。

CrowdStrikeのジョージ・カーツCEOの指摘は鋭い。
「各プロンプトが敵対者のエントリーポイントになる」。 従来のサイバー攻撃はネットワーク境界の突破を必要とした。だがAI時代において、攻撃者はネットワークに侵入する必要すらない。従業員やAIエージェントが日常的に使う「プロンプト」を操作するだけで、システムを内側から掌握できるからだ。

OWASPが発表した2025年版Top 10リスクにおいて、「プロンプトインジェクション」が堂々の1位であり続けている事実は重い。これは従来のSQLインジェクションとは決定的に異なる。攻撃に高度なコードは不要。自然言語、つまり我々が普段使う言葉そのものが武器になる。システムプロンプトを開示させる指令ひとつで、AIの防御壁は無効化される。

特に警戒すべきは「間接的プロンプトインジェクション」である。直接的な入力操作（ジェイルブレイク等）とは異なり、攻撃者はWebページや文書に悪意ある指示を埋め込む。AIがその情報を読み込んだ瞬間、隠された指令が発動する。人間には見えないテキストが、AIの判断を密かに、しかし確実に歪めていくのである。

具体的な被害シナリオを想像してほしい。
採用AIが「履歴書の隠しテキスト」を読み込み、不適格な候補者を最高評価で推薦する。あるいはRAGシステムが参照するデータベースが改ざんされ、誤った経営判断を導く回答が生成される。これらはSFの話ではない。CrowdStrikeは既に180以上の攻撃技術を特定し、追跡している。

敵対者の手口は日々進化している。マルチモーダルAIの普及に伴い、画像の中に指示を隠蔽する手法や、特殊なエンコーディングで検知を回避する技術も確認されている。この「いたちごっこ」に対し、CrowdStrikeのFalcon AIDRは統合的な検知と対応を提示した。AIをブラックボックスとして扱う時代は終わり、その挙動をリアルタイムで監視・保護するフェーズに入ったと言える。

続きはnoteを読んで。https://t.co/wmVff8j8Ho December 12, 2025

約2カ月停止って、改めてサイバー攻撃の影響力の大きさを実感しますね…。物流が止まる＝社会の血流が止まるのと同じで、アスクルを日常的に使っている企業や現場は相当大変だったはず。まずは物流システムが再開したこと自体は本当に大きな一歩だと思います。

一方で、個人向けのロハコがまだ未定というのも気になります。BtoBを優先する判断は理解できるけど、生活インフラとして使っている人も多いだけに、完全復旧までの道のりはまだ長そうですね。今回の件で「サイバー攻撃は他人事じゃない」という現実が突きつけられた感じがしますし、再開と同時に、どれだけ強固な再発防止策を積み上げられるかが本当の勝負になりそうです。 December 12, 2025

#後で読む 用メモです→ Cloudflareを“自爆”させた、サイバー攻撃よりも恐ろしい「修正ミス」
https://t.co/DdscvtzISY December 12, 2025

@Rinka_A_262PD_P 収益化は人によってはニコニコの方が入りますよ
後youtubeのカスタムサムネは電話番号認証だので解放でハードルがあります
私はサイバー攻撃前にニコニコでフォロワー稼いだのでユーザーレベルは30でしたが新規には厳しそう
時間指定できる分youtubeより優しいと思います
動画内に入れとけはいいですよ December 12, 2025

【ニュース】アスクルが約2カ月ぶりに物流システムを再開しました。サイバー攻撃の影響で停止していましたが、法人向け通販は復旧。個人向け「ロハコ」の再開は未定です。

✅ポイント
・物流システム再開は10月のサイバー攻撃から
・法人向け通販「アスクル」は復旧
・個人向け「ロハコ」の再開時期は未定
・段階的な復旧を計画中
　
📰 ライブドアニュース
アスクルが物流システムを再開 サイバー攻撃による停止から2カ月ぶり December 12, 2025