イリヤ・サスケバー氏のパテル氏によるインタビュー。

現在のモデルは評価指標で非常に優れた性能を示しているにも関わらず、他方では特定の条件下では単純なミスをし、全く同じ誤りを２回も繰り返すという理解しがたいことが起きている。
この現象についての説明として、強化学習の訓練方法がモデルを単一志向にしてしまい、基本的なタスク能力が落ちている可能性。また、事前学習の時代には、学習に使用するデータは多様であらゆるものが自由に使えたが、強化学習の場合はどのような環境・目標で学習するかで汎化性能が制限される。
さらに、こうした中で意図せずに開発者がモデル性能を可能な限り良くしたいという報酬ハッキングが行われているということ。

このように、事前学習によっても、強化学習によっても汎化は達成できていない。さらには事前学習の動作原理はまだまだ理解できていない。

人間が学習する際には何らかの価値関数が有効に働いており、フィードバックが効いているおかげで高い汎化と効率的な学習ができている。例えば、人間における価値関数としては（知覚できるものとしては）感情といったものがあるが、現在のMLには、このような人間における価値関数の類似物はまだ存在していない

また、強化学習の文脈における価値関数は強化学習の効率性を単に向上させることに役に立つが、人の場合のおいて、この価値関数のようなものをを使うことでずっと優れた汎化性能の獲得や頑健な学習に役立っている。

さらに、人間のサンプル効率は圧倒的に高い。10時間も車を運転すれば誰でも十分に運転できるようになる。このような効率的な学習手法は人が実現しているので、存在は確かだが、まだどのように実現するかはわかっておらず研究が必要である

また、継続的な学習の重要性を重視している。人間自身も膨大な知識はもっておらずAGIではない。その代わりに人間は継続的な学習に依存し様々なことができるようになっている。
同様にAIとして目指すのは「非常に意欲的な15歳の超知能」である。知識はほとんどないが、非常に優秀な学生で、常に学び続け、プログラマにも医師にも、あらゆる職業になれるようなものだ。AIとして知識をもった完成品を投入するのではなく、何らかの学習と試行錯誤の期間を含んだ形でAIは展開されていく。

研究においてある程度の計算リソースが必要であることは確かだが、最も大規模なリソースが必要なわけではない。

将来的に飛躍的にAIの能力が向上したとき、そのAIがどのような姿になるのかを誰もが想像することが非常に難しい。またそれに応じて社会や人々ばどのようになるのかを想像することは難しい。実証して初めてみたときに分かる。

コメント
===
このインタビューではサツケバーのAGIや今後についてを自由に述べたもので興味深かった。何点か回答を避けた部分などは既にある程度の構想があり、検証を進めていくのだろう。

現在の機械学習の学習機構は基本的に教師あり学習と強化学習に依存しており、LLMは特に事前学習（次トークン予測）での多様な環境での教師あり学習と、一部の限られた環境での強化学習に依存しており、指摘の点はそのとおりである。

今回のインタビューでは特に、価値関数（人間における感情や、さらに高次のフィードバック機能）について多くの言及があった。ただ、今の強化学習や価値関数を改善していくというレベルではなく、今の教師あり学習や強化学習の枠組みとは違った形での学習機構（学習の概念自体も変える）を見つけていくことが重要ということであり、この部分には私も同意である。

タイトルでは「スケールの時代」から「研究の時代」とされているもののSSI自体も4500億円近くを調達し、手法の検証を進めている。こうしたことから、正確には「スケールすればどこまでも性能改善する」という時代から、「研究で新しい手法を探していく必要はある。そこでは世界最大の計算資源は必要ないが、かなりの計算資源を使って試行錯誤していく必要がある」ということだろうか November 11, 2025

꒰ 交換 譲渡 ꒱ NARUTO 缶バッジ キャラバッジコレクション オーロラアートコレクション 忍伝冒険譚

譲￤ナルト ○サクラ カカシ ○ミナト イタチ デイダラ サソリ

求￤サスケ＞定価+送料

【缶バ10BOX,オーロラ1BOX予約済】

特典も交換可能な方優先
譲渡は○(キャラ毎)のみ

✓ プロフカード必読 https://t.co/JCFqyCyKhy November 11, 2025

꒰ 交換 譲渡 ꒱ NARUTO アメリカンダイナー 缶バッジ

譲￤ナルト 我愛羅 イタチ

求￤サスケ＞定価+送料

【5BOX予約済み】

特典も交換可能な方優先
譲渡はキャラごとまとめてのみ

✓ FF内外問わずプロフカード必読 https://t.co/CTJ9XsPgOj November 11, 2025

飛段とサスケのフィギュア5点セット売ってるぞ！全部新品だって！欲しい～🍖

ナルト疾風伝 VIBRATION STARS 5点セット 飛段 ゼツ サスケ
https://t.co/2hv6wh20Bx November 11, 2025

まあ、サスケなんかもあの絵柄で腕やら指やら足やら首やら()
サザエさんの枠でアレやってたんだから昭和は凄いね。 November 11, 2025

回遊館西条店（11月29日）レポ

・ほぼ全ブース通常運営の設定に戻った感じ
・ウマ娘の超デカ箱は全ブース3点ロックゲームです（ど真ん中つかんで天に祈りましょう）
・ナルトのサスケは普通にとれるけど我愛羅はパワー弱め（一番左がかろうじてギリいける）
・角回しはなんかうまいこといかなかった November 11, 2025

NARUTOのアニメ、何回見返してもやっぱりサスケ奪還編が一番アツい🔥
あの時のシカマルの覚悟とか、ネジの背中とか、何回見ても泣ける…。
少年漫画ってこういう“仲間のために命かける”展開がほんとに胸を打つんよな。最高以外の言葉がない🍥 November 11, 2025

またコ哀がでかい顔してるのマジ？絶滅したと思ってた　サスケはサクラと結婚しナルトとヒナタは結婚し善逸と禰豆子は結婚し一護と織姫は結婚し、炭カナだしデク茶だし新蘭だし　普通に読んでれば分かることを受け入れられないならファンを名乗るべきでない　精神異常者 November 11, 2025

なぜ中尾くんがキャスティングされたかわかった。七代目のためだったの！更に流司くんのサスケがまた素敵。
衣装を変えずに成長しているサスケをきちんと演じていて驚きました。
そして嫁たちが16歳の姿です。 November 11, 2025

オビトは写輪眼持っててすり抜けれるそのうちカカシもできるようになる
イタチのスサノオサスケもできるようになる
サクラもびゃくごう？使えるようになる
体術最強はガイ
全部なんでかは知らん
69巻か70巻だけ読んだことある https://t.co/9UY1D0oCaz November 11, 2025

読者からの影響でCP決まったソースどこ？
サクラは超絶サスケ一筋だったし、ヒナタもナルト一筋で、ナルトはサクラ好きだったけどその2人に比べたら気持ちが弱かった
公式がナルヒナサスサクになるのは当然で違和感なし
そもそも一番かわいい(ただの主観)キャラ＝主人公と結ばれるべきって考えがキメェ https://t.co/xUGlWkQvUI November 11, 2025

サスケがハチミツととげまるのごはん食べ放題になってる。まずい。 https://t.co/iiT54nSnFZ November 11, 2025

꒰ 譲渡 交換 ꒱ NARUTO 小さくなっちゃった 缶バッジ

譲￤シカマル 我愛羅 イタチ

求￤定価+送料＞サスケ

【5BOX予約済み】

我愛羅は交換のみ

譲渡はキャラごとまとめてのみ
→特典ポストカードもお付けします

✓ FF内外問わずプロフカード必読 https://t.co/5UYKAeAeKG November 11, 2025

【交換/譲渡】NARUTO ニャルト　ダイナー

求＞イルカ、各980円(割引購入のため)

譲＞サスケ、サクラ、イタチ

サスケは一旦交換のみ。イルカの定価買い取りも可能です。郵送もしくは都内手渡し。1点からでもお声がけください。 https://t.co/NUFXbdmyUW November 11, 2025

えっ、ナルトとサスケのフィギュア、エフェクトパーツ付きだって！かっこよすぎ！欲しいなぁ✨ 誰か買って飾って、見せて～！

NARUTO コンビネーションバトル フィギュア
https://t.co/NIQiclJU0O November 11, 2025