Aurelius (SN37)

排名 #1847

Aurelius (SN37) 是一个面向生成用于 AI 对齐的数据的去中心化平台。该项目旨在通过系统化测试揭示语言模型中的安全漏洞和意外行为。

Aurelius 如何运作

重点在于从多个伦理与安全维度评估模型的回应。为此，Aurelius 使用开源代码审核工具、基于 LLM 的评审者，以及其自有的对齐指标。

该过程旨在识别薄弱点与边界情况（edge cases），并对结果进行整理，以支持安全与稳健性研究。

Aurelius 用于什么

其提议是为对齐研究创建一个透明且可验证的基础。通过汇集以系统化方式生成的数据，生态系统希望为日益强大的 AI 系统的安全性持续改进提供支持。

对 Bittensor 生态系统的影响

在 Bittensor Ecosystem 和 Bittensor Subnets 的背景下，Aurelius 有助于构建一个研究环境，在其中不同的视角有助于界定与衡量安全性的各个方面。

通过定制指标与多维度评估，该项目力求使对齐在时间的推移中更具可衡量性与可讨论性。