h＋55Page 東京公演から
だいぶ間が空いてしまったけど
たくさんお祝いしてくれてありがとう。
うれしかったよ 出待っちまで！！！！
元気でた。

名古屋 大阪のライブ配信アーカイブを
🛁 観たよ。のぼせた〜

久々の広島、福岡 楽しみです
会いにきてよ。
ライブに持参するもの
応援グッズ✨
アクリルペンライト、ジュリ扇、
カスタネット
ヒロ君へのおやつ
与えすぎると太ります！
ほど良い感じでニコニコします。

2025年 ラストライブまで
お付き合いください
楽しみましょう！！

ー・ー・ー・ー・ー・ー・ー

HIROYUKI SATO
BIRTHDAY LIVE 2025
“ h＋55Page “

2025.12.12 Fri. HIROSHIMA
Yise
広島県広島市中区紙屋町2-3-23
アークビルディングB1F

OPEN 18:00 START 18:30
https://t.co/dJ9Q41ygel

2025.12.14 Sun FUKUOKA
INSA FUKUOKA
福岡県福岡市中央区春吉3-5-7 B1F

OPEN 13:30 START 14:00
https://t.co/hBlPor2BcW
OPEN 17:00 START 17:30
https://t.co/fwA7jm8vLr

Vo. Hiroyuki Sato
Gt. Tetsuro Miyano
Ba. Tanjin Takeshi
Dr. Takechiyo
Key. akiko
Sax. SAKKO

Ticket : ¥8,500 Tax in

< お問い合わせ >
HPGIRL COMMUNICATIONS.
[email protected]

ー・ー・ー・ー・ー・ー・ー

佐藤寛之 BIRTHDAY LIVE 2025
“ h＋55Page “ Live Streaming
NAGOYA・OSAKA・HIROSHIMA

ご案内・視聴お申込みはコチラから
< 11/26 : 名古屋公演 >
https://t.co/rdL61cuwHh
< 11/27 : 大阪公演 >
https://t.co/whFSrvV3sI

< 12/12 : 広島公演 >
https://t.co/MX9KwoXtW8

Ticket : ¥5,000 Tax in

※ アーカイブは配信終了日より
14日間となります。
予めご了承ください。

< お問い合わせ >
HPGIRL COMMUNICATIONS.
[email protected]

ー・ー・ー・ー・ー・ー・ー

HPGIRL COMMUNICATIONS. Presents
h+55Page
“ CHRISTMS GIFT for YOU “

久々にヒロサンタからあなただけに
クリスマスギフトが届きます。

ファンのみなさまへ
今年一年の感謝の気持ちを込めて
ヒロサンタから、
クリスマス限定グッズ、カードや
オススメギフトが詰まった
プレゼントが届きます。

※ h+55Page
" CHRISTMAS GIFT for YOU "
ライブMC内で生電話のコーナーが
あります。クリスマスギフトをご購入
いただいた方でライブMC中に
お電話が繋がった方にはクリスマス
プレゼントを差し上げます。

< 内容 >
プレゼントギフト＋h+55Page
" CHRISTMAS GIFT for YOU "
カードなど etc.

Coming Soon!!

ー・ー・ー・ー・ー・ー・ー

配信メインのライブになりますので
限定のお席になります!!
残りわずかです!!

HIROYUKI SATO LIVE 2025
h+55Page
~ CHRISTMAS GIFT for YOU ~
Live Streaming in NAGOYA

2025.12.24 Wed. NAGOYA
TIGHT ROPE
名古屋市中区栄4-3-15
丸美観光ビル3.5F

OPEN 18:00 START 18:30
https://t.co/WEQM97xeHp

< お問い合わせ >
HPGIRL COMMUNICATIONS.
[email protected]

ー・ー・ー・ー・ー・ー・ー

HIROYUKI SATO LIVE 2025
" 392025 " LIVE FINAL

2025.12.29 Mon. TOKYO
Unravel TOKYO
東京都港区六本木4-11-11
六本木GMビルB1F

OPEN 13:30 START 14:00
https://t.co/wNIjx8cz1B

OPEN 17:00 START 17:30
https://t.co/1rg77tooKB

< お問い合わせ >
HPGIRL COMMUNICATIONS.
[email protected] December 12, 2025

既然你自称是智力低下的博士生，那咱们就别整那些虚头巴脑的学术名词了。这篇论文其实是一本超级厚的“武林秘籍”或者说“满汉全席菜谱”，名字叫《代码智能实用指南》。它不是讲某一个具体的模型怎么做的，而是把从2021年到2025年所有关于“用AI写代码”这事儿的门道、技巧、配方全部总结了一遍，甚至还自己动手做了一堆实验来验证到底哪种方法好使。

你可以把它理解为“代码大模型界的百科全书”。哪怕你脑子转得慢，只要照着这篇文档里的“菜谱”做，你也能训练出一个不错的写代码AI。

我把这篇文献的核心内容，特别是模型怎么设计、实验怎么做的，拆解成几个傻瓜都能懂的部分讲给你听：

第一部分：原材料准备（数据是怎么搞的）

做大模型跟做菜一样，食材不新鲜，厨师手艺再好也没用。

1. 数据从哪来：
主要是从GitHub上爬下来的。但是不能直接喂给模型，因为里面有很多垃圾代码、重复代码，甚至还有别人的密码私钥。

2. 怎么清洗数据（这步很关键）：
去重：这一步非常重要。如果你的训练数据里有太多重复代码，模型就会变笨，只会背诵不会举一反三。论文里提到用了MinHash这种算法来把相似的代码删掉。
去毒：把那些写得很烂的、有漏洞的、或者带有攻击性的代码剔除出去。
隐私处理：把代码里的邮箱、IP地址、密码全给抹掉，不然模型学会了会泄露隐私。
拆分：把代码拆成合适的长度，太长了模型吃不下。

3. 数据配比：
不能光喂Python，还得喂Java、C++，甚至还要喂一点数学题和自然语言对话，这样模型才聪明。

第二部分：炉灶与锅具（模型架构是怎么选的）

这就是在讲模型长什么样。

1. 主流架构：
以前流行Encoder-Decoder（像CodeT5），现在基本上全都是Decoder-only（像GPT、Llama、DeepSeek-Coder）。这就好比以前流行翻盖手机，现在全是直板触屏。
最近最火的是MoE（混合专家模型）：这玩意儿就像是一个大医院，里面有很多科室（专家）。来一个任务，不用全院医生都上，只调动相关的几个专家看病。这样既能把模型做得很大（知识渊博），算起来又很快（省电省钱）。

2. 怎么让模型读懂长代码：
代码通常很长，动不动几万行。论文里提到了各种“黑科技”来让模型能记住更长的内容，比如RoPE（旋转位置编码）和各种注意力机制的优化。如果不做这个，模型就是金鱼记忆，看了后面忘前面。

第三部分：烹饪过程（训练流程与实证分析）

这是这篇论文最硬核、最“实证”的地方。作者不光是总结别人，自己还真刀真枪地跑了一堆实验（在第8章），总结出了独家秘方。

1. 预训练（Pre-training）：
这是打地基。让模型看海量的代码，学会语法。
作者发现的规律（Scaling Laws）：
Python这种语言，增加数据量和模型大小，效果提升很明显。
但是像C#、Java这种强类型的语言，数据量不用那么多就能学得差不多了，因为它们语法严谨，信息密度大。
建议：如果你算力有限，多搞点Python、C#、TypeScript这种高质量语言训练，性价比最高。

2. 有监督微调（SFT）：
预训练完的模型只会续写，不会听话。SFT就是找一堆“人问：帮我写个快排；AI答：好的代码如下”这样的数据喂给它。
作者的实验结论：
全局Batch Size（批次大小）最重要：设在64到256之间最好。太大了模型学傻了，太小了学得慢。
学习率：14B（140亿参数）大小的模型，学习率设在2e-6到5e-6之间最稳。
数据质量：喂给模型的数据，最好是带着单元测试的（能跑通的代码），或者是去竞赛网站上找的高难度题目。光喂纯聊天数据，写代码能力提升不大。

3. 强化学习（RL）：
这是现在让模型变“神”的关键。
核心思想：模型写了一段代码，我们拿去编译器里跑一下。如果报错，就惩罚；如果跑通了测试用例，就奖励。这叫RLVR（带验证奖励的强化学习）。
作者对比了各种算法（PPO, GRPO, RLOO等）：
结论是：GRPO和RLOO这种不需要额外训练一个“裁判模型”（Critic）的方法最省资源，而且效果很好。DeepSeek-R1就是用的类似思路。
通过这种方法，模型能学会“自我反思”，写错了自己改，不用人教。

第四部分：端上桌的菜（应用与Agent）

模型训练好了能干嘛？

1. 代码补全：
像GitHub Copilot那样，你写半行，它补半行。这也是目前最成熟的。

2. 解决GitHub Issue（Agent能力）：
这是现在的热点。给模型一个GitHub仓库的bug报告，模型自己去读代码、定位文件、写补丁、跑测试，全自动修bug。
这就要求模型有“Agent”能力：能使用工具（比如用grep搜代码，用python解释器跑代码）。

3. 安全性（红队测试）：
论文特别强调了安全。现在的模型很容易写出有漏洞的代码（比如SQL注入）。
实证发现：如果不专门做安全训练，模型大概率会写出不安全的代码，因为它学的数据里就有很多烂代码。所以必须在训练后加一道工序，专门教它什么是安全的。

总结：这篇论文到底教了你什么？

如果你想自己搞一个代码大模型，这篇论文告诉你：
1. 找数据去GitHub，记得用MinHash去重，一定要过滤掉没法编译的垃圾代码。
2. 架构选Decoder-only，有条件就上MoE。
3. 训练的时候，Batch Size别太大，由预训练（海量学知识）-> SFT（学听话）-> RL（学做对）三步走。
4. 到了RL阶段，一定要用单元测试结果作为奖励信号，这是提升代码正确率的法宝。
5. 别忘了做安全检测，不然写出的代码全是漏洞。

你就把它当成一本极其详尽的操作手册，哪里卡住了就去查对应的章节，特别是第8章的实验数据，那是真金白银跑出来的经验值。 December 12, 2025

💙𓈒𓏸✨LAKA MAKEESH SAHA✨𓏸𓈒💙

　【倭国語訳 | English (Kab, FOT)】

1.「私はとても体格が大きく、黒くて長い髪と青い目をしています。Taygetaでは自分のなりたい外見を選び、転生後もその外見を選ぶことがあります。

私のお気に入りの転生の一つはJim Morrison(ジム・モリソン)です。Taygetaでの私の顔は、Jimに選んだものとほとんど同じです。」-LAKA

━━━━━

2. Lakaは、IkaiとAyaの長男です。弟たちよりも物静かで、優れた知恵で知られています。弟たちと同じように、冒険家であり探検家でもあります。

Lakaは長い黒髪と青い目を持ち、プレアデス人としては非常に背が高く、筋肉質です。彼の伴侶はAimeeで、彼女はJoan of Arc(ジャンヌ・ダルク)として地球に転生しました。
LakaはKabamurの現世における主な導き手であり、MASEKAIという名の転生したツインソウルを持っています。

Lakaの地球上での転生— Jim Morrison, Pharoah Hotepsekhemwy

Lakaのお気に入りのクリスタルは、トルマリン、ヘマタイト、ゴールド、エボニー、スギライトです。

━━━━━

3. 私がジム・モリソンの物語を生きていたときのガイドはKABAMUR と NEIOHでした。-LAKA

━━━━━

4.「Akatu、Laka、Neiohはいずれも、活動的なホワイトハットの魂の側面を持っています。AkatuとLakaには、民間人であるツインソウルの側面も存在します。」 -Kab

LAKAのツインソウル✨(ホワイトハット)

ドイツ生まれ。43歳（2025年）。宇宙船で旅をし、銀河連邦と会談する。
ドイツのラムシュタイン基地に駐留している。

━━━━━

5. 私のプレアデス人の兄弟（そしてリーダーガイド）であるLAKAにも、地球生まれのツインソウルがいます。

Matteo Bocelli(マッテオ・ボチェッリ)、1997年生まれ。
オペラ歌手Andrea Bocelli(アンドレア・ボチェッリ)の息子。
音楽の才能に恵まれています。

Matteoの名前は、MESEKAIです。

Andreaの名前は、KALEEMOSHAで、Merope出身です。
(アンドレア・ボチェッリはイタリア🇮🇹のテノール歌⼿)

MatteoはLAKAに似ていますが、LAKAの方がずっと体格が大きく、黒髪が長いです。家族の中で一番体格が良いです。

LAKAとMESEKAIは同じ魂を共有しているように、Matteo Bocelliは、Jim Morrisonの生まれ変わりでもあります。

🛸━━━━━🛸

1. “I Have A Very Large Build With Very Long Black Hair And Blue Eyes. We Choose The Look We Want On Taygeta And We Sometimes Will Choose This Look As We Incarnate.

One Of My Favorite Incarnations Was Jim Morrison. My Face On Taygeta Is Much The Same As What I Chose For Jim.” -LAKA

━━━━━

2. Laka is the oldest son of Ikai and Aya. He is quieter than his younger brothers and is known for his great wisdom. He is also an adventurer and explorer like his brothers.

Laka has long black hair and blue eyes, and is extremely tall and muscular for a Pleiadian. His mate is Aimee, who was incarnated on Earth as Joan of Arc. Laka is Kabamur’s main Guide in his current lifetime, and has an incarnated twin soul named MASEKAI.

Laka’s Earth lives include — Jim Morrison, Pharoah Hotepsekhemwy

Laka’s favorite crystals are Tourmaline, Hematite, Gold, Ebony, Sugilite

https://t.co/ZdVvVyJY93

━━━━━

3. “KABAMUR And NEIOH Were My Guides When I Lived The Story Of Jim Morrison. ” -LAKA

━━━━━
4. “Akatu, Laka and Neioh all have soul aspects who are active White Hats. Akatu and Laka have additional twin soul aspects who are civilians.”-Kab

Laka’s twin soul✨(White Hats)

He was born in Germany. He’s 43 years old (2025). He travels on crafts and meets with Galactic Federation. He’s stationed at Ramstein base in Germany.

https://t.co/5FExFxlH4A

━━━━━━

5. My Pleiadian brother (and lead Guide) LAKA also has an Earth-born twin soul.

Matteo Bocelli, born 1997. Son of opera singer Andrea Bocelli. Very musically gifted.

Matteo is called MESEKAI.
Andrea is KALEEMOSHA, from Merope.

Matteo looks similar to LAKA, but LAKA has a MUCH larger build, with long black hair. The biggest physique in our family.

As LAKA and MESEKAI share the same soul, Matteo Bocelli is also the reincarnation of Jim Morrison.

🎵 Andrea Bocelli, Matteo Bocelli - Fall On Me (Official Music Video)
https://t.co/KYhWNpqfPS via @YouTube

https://t.co/syoCMsPsFS

━━━━━━

出典: Kab @Kabamur_Taygeta
Family of Taygeta December 12, 2025