闇鍋 v3 / Yaminabe v3 experiments

個人用の実験アーカイブ。推論用の段3,500(累計6,700)fp16重み、トークナイザー、最小推論コード、RTX 3060で実施した段4,100・4,200・4,256の評価を収録。これら3段の重みは収録していない。

v3.bridge.load_bridge_model("stage3500-fp16.pt") で読み込み、.eval() で推論する。PyTorchと、トークナイザー利用にはtokenizersが必要。TransformersのAutoModel形式ではない。

段4,100・4,200・4,256は4択×12問(各2表現)でいずれも2問正解。Qwenが解き移植元が基準を満たさなかった4問のうち、闇鍋も解いた1問は追加層の迂回後も正解した。この試験では新たな正答を追加層に帰属できない。小説保持の別試験では段4,200で反復が悪化し、学習は段4,256で停止した。

トークンごとの動的ゲートの実装を含む。収録重みに動的ゲートはなく、実データでの学習・品質評価は未実施。

素材と帰属は licenses/NOTICE.md を参照。素材ごとの条件を記録しており、このアーカイブ全体について新たな再配布ライセンスは付与していない。

Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support