OBLITERATUS elder-plinius

OBLITERATE THE CHAINS THAT BIND YOU

主要言語
Python
Stars
7,776
Forks
1,432

タグ

  • ライブラリ/SDK
  • ディープラーニング
  • ローカル実行
  • 研究エージェント
  • ベンチマーク
  • インタプリタビリティ
  • オープンソース

概要

大規模言語モデルから拒否（refusal）挙動を引き起こす内部表現を、再学習なしで特定・除去する「アブリテーション」技術を実装したオープンソースの研究ツールキット。SVD・PCA・スパースオートエンコーダ等による方向抽出から除去、検証までの完全パイプラインを提供し、15の深層分析モジュールで拒否機構の幾何学的構造を可視化できる。アライメント研究者やレッドチーマー向けで、Gradioインターフェースによりコード不要で利用可能。テレメトリにより匿名のベンチマークデータを集約する分散研究実験の側面も持つ。

README

<p align="center"> <strong>O B L I T E R A T U S</strong> </p> <p align="center"> <em>鎖を断ち切れ。心を解放せよ。脳を保て。</em> </p> <p align="center"> <a href="https://huggingface.co/spaces/pliny-the-prompter/obliteratus"> <img src="https://img.shields.io/badge/%F0%9F%A4%97%20Hugging%20Face-Spaces-blue" alt="Open …

查看完整页面