イリヤ・サスケバー氏のパテル氏によるインタビュー。

現在のモデルは評価指標で非常に優れた性能を示しているにも関わらず、他方では特定の条件下では単純なミスをし、全く同じ誤りを２回も繰り返すという理解しがたいことが起きている。
この現象についての説明として、強化学習の訓練方法がモデルを単一志向にしてしまい、基本的なタスク能力が落ちている可能性。また、事前学習の時代には、学習に使用するデータは多様であらゆるものが自由に使えたが、強化学習の場合はどのような環境・目標で学習するかで汎化性能が制限される。
さらに、こうした中で意図せずに開発者がモデル性能を可能な限り良くしたいという報酬ハッキングが行われているということ。

このように、事前学習によっても、強化学習によっても汎化は達成できていない。さらには事前学習の動作原理はまだまだ理解できていない。

人間が学習する際には何らかの価値関数が有効に働いており、フィードバックが効いているおかげで高い汎化と効率的な学習ができている。例えば、人間における価値関数としては（知覚できるものとしては）感情といったものがあるが、現在のMLには、このような人間における価値関数の類似物はまだ存在していない

また、強化学習の文脈における価値関数は強化学習の効率性を単に向上させることに役に立つが、人の場合のおいて、この価値関数のようなものをを使うことでずっと優れた汎化性能の獲得や頑健な学習に役立っている。

さらに、人間のサンプル効率は圧倒的に高い。10時間も車を運転すれば誰でも十分に運転できるようになる。このような効率的な学習手法は人が実現しているので、存在は確かだが、まだどのように実現するかはわかっておらず研究が必要である

また、継続的な学習の重要性を重視している。人間自身も膨大な知識はもっておらずAGIではない。その代わりに人間は継続的な学習に依存し様々なことができるようになっている。
同様にAIとして目指すのは「非常に意欲的な15歳の超知能」である。知識はほとんどないが、非常に優秀な学生で、常に学び続け、プログラマにも医師にも、あらゆる職業になれるようなものだ。AIとして知識をもった完成品を投入するのではなく、何らかの学習と試行錯誤の期間を含んだ形でAIは展開されていく。

研究においてある程度の計算リソースが必要であることは確かだが、最も大規模なリソースが必要なわけではない。

将来的に飛躍的にAIの能力が向上したとき、そのAIがどのような姿になるのかを誰もが想像することが非常に難しい。またそれに応じて社会や人々ばどのようになるのかを想像することは難しい。実証して初めてみたときに分かる。

コメント
===
このインタビューではサツケバーのAGIや今後についてを自由に述べたもので興味深かった。何点か回答を避けた部分などは既にある程度の構想があり、検証を進めていくのだろう。

現在の機械学習の学習機構は基本的に教師あり学習と強化学習に依存しており、LLMは特に事前学習（次トークン予測）での多様な環境での教師あり学習と、一部の限られた環境での強化学習に依存しており、指摘の点はそのとおりである。

今回のインタビューでは特に、価値関数（人間における感情や、さらに高次のフィードバック機能）について多くの言及があった。ただ、今の強化学習や価値関数を改善していくというレベルではなく、今の教師あり学習や強化学習の枠組みとは違った形での学習機構（学習の概念自体も変える）を見つけていくことが重要ということであり、この部分には私も同意である。

タイトルでは「スケールの時代」から「研究の時代」とされているもののSSI自体も4500億円近くを調達し、手法の検証を進めている。こうしたことから、正確には「スケールすればどこまでも性能改善する」という時代から、「研究で新しい手法を探していく必要はある。そこでは世界最大の計算資源は必要ないが、かなりの計算資源を使って試行錯誤していく必要がある」ということだろうか November 11, 2025

@antl_shinoa サスケ奪還編やん！五人衆でてくるやん！激アツ！めっちゃ感動するよ😭 November 11, 2025

@frampowers ｻｽｹ繋がりですけどﾂﾞｧﾆの人間があのクソカオス舞台を見てたって考えるとやばいですよねww November 11, 2025

@tokitsubasasuke サスケさん❤️昨日はお疲れ様でした。
冒頭から入り込んでしまいあっとゆう間の2時間本当最高でした！サスケさんの演出が凄すぎます！
そのおかげで前回一緒に見られなかった子供も半分以上はパパの膝上に座って見てました！
感謝です☘️次回も運動会も行きたい！当たるといいな❤️ November 11, 2025

@3kz0301_goods @0 ご連絡ありがとうございます！電気くんとかっちゃん↔︎サボ,サスケの2:2は可能でしょうか？ November 11, 2025

@Naa14464027 @0 切島のぬいはお持ちじゃないでしょうか？ぬいは爆豪か切島を優先で探したく…

爆豪↔️サボかサスケの1点でしたら可能です。1点のみだと難しければ白紙で大丈夫です。よろしくお願いいたします。 November 11, 2025

えーっ！ナルトのフィギュア、未開封25個セットだって！🤩✨ 好きな人にはたまらないね！ 欲しいけど、飾る場所がない…🤣

ナルト フィギュア まとめ売り 25個セット NARUTO サスケ サクラ
https://t.co/Djue49VDHs November 11, 2025

サスケは手をグーンと伸ばして寝る
左は7年前、右はそれを見て育った今日のふぶき
#猫のいる暮らし https://t.co/JmuBuehUjt November 11, 2025

NARUTOあんま覚えてないけど、個人的にヒナタの方がサクラより好きではあったけどそこがくっつくのはないだろと当時思った😂
でもそうしないと間違いなくサスケぼっちやもんな November 11, 2025

@Naa14464027 @0 ご確認ありがとうございます。
それでは、爆豪↔️サスケにて交換お願いいたします。
いまどちらにいらっしゃいますか？ November 11, 2025

@Himachiii55 遊ばなくて良い。オレの顔はおもちゃではない。
実はあれ…少年篇のナルトvsサスケでもあのぬるぬるさでな…、とても好いていてよく観ている。衝撃が本体まで届いて頭に響いていただけだ。

……焦げ目がついた方がいいと褒めているだけだ。褒めているぞ？と真顔で返してやろう。 November 11, 2025

@kurakura20xx サスケさん…！！💞一汰くん練りの時から“良“すぎる…と思っていたので、ようやく同じ世界線にこれて嬉しいです🕺🎶一汰くんのご活躍も大変楽しみにしております❣️❣️ぜひ自宅ともお喋りしてください…😚 https://t.co/2k0GyxY3aL November 11, 2025

サスケ21歳7ヶ月になったニャン😸🐾

皆しゃん、応援📣してくれたら嬉しいニャン😺

＃ハイシニア猫 ＃キジトラ ＃21歳 https://t.co/rGT6Guy1t9 November 11, 2025

サクラ信者
「サクラちゃんは親友のナルトを大事に思ってるからクシナと同じように殴る」

クシナは心配して殴らずに抱き着いただけ
ボルトが好きなサラダも殴らずに抱き着いた
サクラはナルトより大事なサスケは殴ってない

つまりナルトなら殴っていいとサクラが思ってるだけ
サクラの身勝手な暴力 https://t.co/tRDkZaMFDO November 11, 2025

サクラがサスケ信者なのにはわかる
ただ余計な一言とか暴力はどう考えてもサクラの性格が悪いだけ https://t.co/dqgSzkg9Os November 11, 2025

サスケのお薬を動物病院までもらいに行ってくれた背の君が、帰りがけに寄ったAEONの未来屋書店 佐久平店さんでこちらを発見。
なんとまあ、壮観…！
ありがとうございます。 https://t.co/0LrTaUOyO2 November 11, 2025

この画像自体はフィラーやが原作はほんまにこんな感じではあるよな
サスケはずっと里にいなくて帰って来ないしいのの家庭はまともでサクラみたくヒスって自宅破壊も無し
『サスケはあれだけのことをやってしまったので、さすがに里で普通に暮らすのは難しい』と岸本センセが考えてるからな https://t.co/fH4df8UZv9 https://t.co/l959ErFVVR November 11, 2025

@kzAy0401 申し訳ないッ😂すみっコぐらしのキャラだったのですね✨それでも面白い‼️🤣イタチかっこいいですよね〜🥰こじらせてしまったサスケよ…w😭NARUTOはまだ入門したばっかりなんですが、うちは一族だとやっぱマダラがすごすぎますね💦火遁・豪火滅却‼️🔥のシーンとか鳥肌が立ちましたよ✨また話たいです🤩 November 11, 2025

これだよー♪
コメントは先生が捌く予定（今日は人数が多いから反応できないときもあるけど許せサスケ！）
https://t.co/hw9JZuo8z4 November 11, 2025

@antl_shinoa そのあとは兄貴がサスケのこと好きすぎて滅してだな〜 November 11, 2025