イリヤサツケバーの最新インタビュー。
・AI開発の主要なパラダイムが「スケーリングの時代」から「研究の時代」へと回帰している。
・2012年から2020年頃までは研究の時代、2020年から2025年頃まではスケーリングの時代、現在は計算資源が非常に大きくなっているため、再び研究の時代に戻っている。
・今後は、「行っていることが最も生産的なことか？」という観点から、計算資源のより生産的な使用方法を見つけるべき段階にある。
・SSIはまさに研究の時代の企業。
・既存のスケーリングのアプローチが「停滞（stalling out）」した場合でも、これらの企業が驚異的な収益を上げる可能性はある。
・現在のモデルが実世界で抱える問題の根本原因は人間と比べて汎化能力が劇的に劣っていること
・ モデルは難しい評価（evals）で非常に優れているにもかかわらず、経済的な影響が「劇的に遅れている」という、非常に混乱する状況が見られる。
・SSIが目指す超知能は経済のあらゆる仕事をこなす知識を持つ「完成された心」ではなく、あらゆる仕事を迅速に学ぶことができる「学習する心」。
・徹底的に訓練を積み重ねた学生（10,000時間）よりも、少ない訓練時間（100時間）でも才能を発揮する学生の方が、その後のキャリアで成功する可能性が高い。成功した二番目の学生は、「It」を持っている。
・この課題を解決するためには、人間の感情が学習を導くのと同様に、強化学習（RL）における価値関数の利用など、新しい機械学習の基本原理を発見することが必要。
・人間の感情は、この価値関数と類似していると見なされている。感情の中枢に損傷を負った人は、テストでは問題なくても、どの靴下を履くか決めるのに何時間もかかるなど、意思決定能力が極端に低下した。
・人間のような学習能力を持ち、結果的に超人的になるシステムが登場するまでの予測期間は5年から20年。
・同時に、超知能の力が抽象的であるために安全対策が遅れることを防ぐため、強力なAIを段階的に世に示していく必要性があるという認識に最近変化。
・AIは「特に知覚を持つ生命を気遣う（care about sentient life）」ように調整（アライメント）されるべき
・AIが人間単独を気遣うAIよりも構築しやすい可能性がある。なぜならAI自体が知覚を持つようになるため。
・人間が動物に対して共感（ミラーニューロン）を示すように、AIが自己をモデル化するのと同じ回路を使って他者（他の知覚を持つ存在）をモデル化することが、最も効率的な行為となるため、知覚を持つ生命全体への配慮が自然に生まれる可能性がある。　
・AIの数は「兆、そして千兆のオーダー」になるだろうと予想されており、人間は知覚を持つ存在の「ごく一部」になる。
・人間の地位が危うくなるという懸念は承知しつつも、AIの力を制限したり、人間がAIと融合したりすることで、長期的な均衡を模索する必要がある。
・実験がうまくいかないときやバグの可能性に直面したとき、実験を続けるべきか方向転換すべきかを判断するために、「物事はこうあるべきだ」というトップダウンの信念が必要。この信念は、多面的な美しさと脳からのインスピレーションに基づいている。 November 11, 2025

周囲の「感情」はウイルスみたいに伝染する。これをミラーニューロンと呼ぶよ

・嫉妬
・焦り
・焦立ち

・喜び
・感動

正も負の感情も伝染する。
嫌な感情に囚われたら「これ誰かから伝染してない？」と確認してみて
貴方の感情ではない確率が結構高いよ。

健全なメンタルに環境は本当に大事だよ。 November 11, 2025

私たちは相手の表情や声のトーンを見た瞬間に、ミラーニューロンが反応して感情を共鳴させます。
この共鳴が「この人は安全だ」「この人といると落ち着く」という感覚をつくる基盤になります。
安心感は、相手との非言語の一致から生まれる科学的な現象でもあるんです。 https://t.co/nEyms72BnL November 11, 2025

@Joshua_VelThor 賢いのでニューロンを見てきました。
これ多分わらし通らんす https://t.co/7WGxzZUg4E November 11, 2025