Taloton における主観的評価と合意形成
Taloton は、シナリオの結果を単一モデルの判定に委ねることはありません。上位評議会レイヤーが異なる推論スタイルを組み合わせることで、品質・一貫性・説明可能性のシグナルを一つのレポートで確認できます。
1. 評議会の構成
評議会は3つの独立した席で構成されます。3席とも同じ評価基準で採点し、2つの回答の順序は席ごとに個別にシャッフルされ、どの席がどの判断をしたかは表示されません:
- Gemini 2.5 Flash Lite
- GPT-4o Mini
- GPT-OSS 120B(Groq 上で動作。予備:Gemini 2.5 Flash)
2. 判定の仕組み
- 各席は2つの回答のどちらが優れているか(または引き分けか)を判断し、差を0〜30で採点します。
- 勝者は多数決で決まります。票が同数の場合、そのラウンドは引き分けです。
- ラウンドの差は、引き分けとしなかった席の採点の中央値です。極端な1票だけで結果が動くことはありません。
- いずれかの席が応答できなかった場合は差が縮められ、その不確かさはダメージにも反映されます。
- 差がごく小さい場合は勝者なしとなり、双方が小さなダメージを受けます。
3. 意見の割れ
各席が同じ勝者を選ばなかった場合や、採点した差が大きく離れている場合、システムはそのラウンドを「評議会が割れた」と記録し、そのラウンドのダメージを減らします。
「真の公正は絶対的な数値からではなく、多様な知性の合意から生まれる。」