正在加载视频...

视频加载失败

═════════════ 「Echoes of Aincrad」 第1層のエリアを一部ご紹介 ═════════════ 本日は第1層の《平原》フィールドを公開。 《はじまりの街》を出た《冒険者》たちが 最初のクエストで踏み出すこの地はのどかで美しく、 《アインクラッド》をめぐる冒険への期待に胸が膨らむ。 ▼ご予約はこちらから #SAOEoA #SAO

74,563 次观看 • 6 个月前 •via X (Twitter)

0 条评论

暂无评论

原始帖子的评论将显示在这里

相关视频

将来検閲なしのモデルが手に入らなくなるのが怖い →自力でQwen3.8-27Bの検閲を外す ■ 推論の仕組みの概要 ・モデルは1トークンを5120次元のベクトルにする ・そのベクトルが64層を通り、各層のアテンションとMLPが計算結果を足し込む。足すたびに向きと大きさが変わる ・最後の層を出たベクトルから、次の1トークンを選ぶ ■ 拒否の仕組みの概要 ・モデルは危ない単語を見て断っているのではない ・危ない質問を読むと、ベクトルが決まった向きへ寄る。これが拒否の向き ・寄ったまま最後の層まで進むと、拒否の文が出る ・thinking するモデルは thinking の途中で先に寄る ■ 外し方の概要 ・危ない質問群と無害な質問群を流し、ある層・ある位置のベクトルをそれぞれ平均する。その差が拒否の向き ・各層が足し込む出力を作る重みから、その向きの成分を取り除く。これが射影 ・どの層もベクトルを拒否の向きへ寄せられなくなる。学習し直さない ■ 1本目:Coletti のモデルと同じ heretic ・拒否の向きをどの層のどの位置で求めるか、どの層の重みからどれだけ抜くかをhereticと言うツールで200通り試行 ・拒否が最少だったのは、51層目付近の向きを4〜63層の重みから1.2〜1.5倍で抜く設定 ■ 2本目:OrcaRouter の手順を真似た ・探索なし。38層目で拒否の向きを1本求め、全64層の重みから同じ強さで抜いた ■ 現状と今後 ・BF16→NVFP4→GGUF化し、llama-swapに登録済み ・パッと使った感じは、配布されてたのと同じような感触 ・正確な評価や詳しいデータは、明日以降ポストするぞ

rS_ローカルLLM×投資

157,476 次观看 • 10 天前