Self-Play for LLMs, AI for Biology, Formal Verification, and More | YC Paper Club

タンパク質生物学においてもスケーリング則が成立し、ESM Cambrianモデルは5000万サンプルから28億サンプルへのデータ拡張により、構造予測性能が向上し続け、プラトーを回避した。

AlphaFold3は手作りのMSA特徴量を必要とするが、ESM-Fold2は単一配列のみで抗体設計タスクにおいて50対47でAlphaFold3を上回り、汎用的な事前学習表現の有効性を示した。

LLMの自己対戦学習において、従来の手法は難易度調整のみを報酬とするため、人工的に複雑な無意味な問題を生成してしまう課題がある。

Self-Guided Self-Play(SGS)は、conjurerが元問題に関連した問題を生成し、guideが関連性と複雑度を評価する二重報酬により、7Bパラメータモデルを670Bモデルと同等の性能まで8倍の計算量で向上させた。

音声AIエージェントにおいて、従来のRAGは高いレイテンシを生じるため、ユーザーの発話中にストリーミングでRAGを実行し、部分的な質問から適切なタイミングで検索を開始する手法が有効である。

Leanは定理証明器であると同時に関数型プログラミング言語であり、Mathlibライブラリは100万行以上の形式化された数学を含む最大規模のライブラリである。

TorchLeanはLean内でニューラルネットワークを記述する初の統合フレームワークであり、Flash Attentionと標準Attentionの等価性証明や、位置エンコーディングなしのAttentionの順列不変性証明が可能である。

エージェントプログラミングはRTSゲームに類似し、複数のエージェントを並列実行し、高い可視性を保ちながらマクロとミクロのバランスを取ることで生産性が最大化される。

Claudeなどのコーディングエージェントは、タスク完了時間の予測が極めて不正確であり、人間基準の訓練データに基づくため2週間と予測するタスクが20分で完了することがある。

エージェントによるコード生成では、コード自体よりも構造化されたwiki形式の知識ベースファイルを積極的にドキュメント化する方が、将来のエージェントにとってコンテキスト効率が高い。