RTX 4090 GPU(!!)上で、ローカル30Bモデルの重みを持つ無検閲AIエージェントを作る方法を見つけました これはGLM-4.7-フラッシュで、削除処理済みで、24GBのVRAMが必要で、安全性のアライメントは重みから外科的に除去されています。モデルはネイティブツールコールを持ち、実際にbashを実行し、ファイル編集やgitを実行します (1) GLMの重りを引くためにオヤマを使う >オラマのプルhuihui_ai/glm-4.7-フラッシュアブリテレーション:q4_K (2) オラマ経由で任意のコーディングエージェントにプロキシする > オラマローンチ クロード --モデルhuihui_ai/GLM-4.7-フラッシュ消滅:q4_K > オラマ発射コデックス --モデルhuihui_ai/GLM-4.7-フラッシュ-アブリテレーテッド:q4_K > ollama launch opencode --model huihui_ai/glm-4.7-flash-abliterated:q4_K (3) 楽しむ