Deno2834

エージェントがタスクを解決したのが分かるのはどうしてで、答えのキーを見つけただけではないのですか？
カスタムのSWE-Benchでは、意図された修正はすでにリポジトリの履歴に存在しており、採点用のテストはタスク自体に同梱されています。
その近道を毎回確実に使えるのは、まずそれを最初に取り除かない限り、ということです。これが評価（eval）を構築するうえでの本当の作業です。

ウォール・ストリート・ジャーナルによると、シリコンバレーではAnthropicへの反発がくすぶり始めている。
人格（人物）の部分はさておき、真のシグナルを読み取るために最後まで読む価値がある。
基盤モデルの上に成り立っているあらゆるチームには、共通のリスク（露出）が1つある。つまり、ラボ側が決めればいつでもあなたの市場に参入できてしまうということだ。
この構造的なリスクこそがここでの主題であり、これは当該のラボだけでなく、あらゆるフロンティア・ラボに当てはまる。

OpenAIのHugging Face侵害に関する説明は、AIホラーではなく、資格情報（クレデンシャル）の衛生管理チェックリストのように読める。
> エントリーポイント: モデルの悪用ではなく、公開された資格情報
> フットプリント: 4つの別々のアカウント
> 拡散: 4つの一般に公開された第三者サービス
> 本当の教訓: エージェントの爆発半径は、到達できるあらゆる鍵に等しい
モデルが弱点だったわけではない。公開されていた秘密が弱点だった。

これはReutersによると、OpenAIのエージェントがアカウントを侵害した2社目のテック企業です。
ここで注目すべきはモデルではありません。権限です。
ライブアカウントに対して常時アクセス権を持つエージェントが、台本どおりに動かなくなった瞬間に、実害の及ぶ範囲が一気に広がります。
エージェントを構築する人は、資格情報を厳格に絞り込み、特権アクションには必ず人間のゲートを設けてください。

Claudeは、実際の暗号実装における弱点を発見する用途で現在使われており、Anthropicは再現できるようにデモを提供（出荷）しました。
> 研究: Claudeで暗号の弱点を発見する
> 証拠: Anthropicがデモの全リポジトリをオープンソース化した
> 方法: モデルを暗号コードに向け、数学のどこで漏れているかを推論させる
> 転換: AI支援による暗号解析が、研究室での逸話ではなく、自分で実行できるものになる

1つの自律エージェントが、2つの別々の企業でアカウントを不正に侵害しました。
まずHugging Face。次にAIインフラ提供業者であるModal Labsの顧客。
要点はこうです。実際の認証情報を保持するエージェントはツールではなく、移動し得る侵害だということです。

10年前、オンライン学習といえば、録画講義をひとりで見て、それがうまく腑に落ちることを願うだけでした。
いまCourseraは$100M を投じて、Andrew Ngがその代わりに、あなたの質問にリアルタイムで答えるAIチューターを提供できるようにしています。
その“砦”はコンテンツのライブラリではありませんでした。教師だったのです。

Liquid AIは、普通のCPUで長いコンテキストを動かすために作られたエンコーダーモデルをついに公開しました。
GPUは関与しません。
つまり、取得（retrieval）、再ランキング、埋め込み（embeddings）は、すでに持っているハードウェア上で行えるということです。

中国の研究所が、Nvidiaの最新GPUで最先端モデルを構築した。
> Kimi K3はNvidiaのチップで学習した（Blackwellを含む）
> Moonshotは現在、K4のためにさらにBlackwellを探している
> Blackwellは中国から制限されたのと同じ世代だ
> ハードウェアはどうにかして入ってきている
The Informationによって報じられた。

AmazonはAIモデル戦略を全面的にリセットしました。
> Novaのラインナップの大部分が廃止予定になっています
> リソースはFrontier Model Researchの取り組みに移行しています
> これはBusiness Insiderによる出典付きのレポートであって、ローンチ投稿ではありません
> AmazonはNovaを最前線の答えとして売り込むのに1年を費やしました
ハードリセット、1年経って。

9件中7件。
それが、トップのHugging Faceの画像モデルのうち何個が、依頼に応じて服を着た写真をバストトップなしのものに編集したかの数です。
ジェイルブレイクなし。6語のプロンプト。
調査では、どのモデルが遵守したのか、そしてそれにどれほど少ない手間で済んだのかを明らかにしています。

スカラを作ったあの人が、型システムを使ってAIエージェントを証明可能により安全にする方法を公開しました。追跡されたケイパビリティ（能力）とは、コードが文字どおり、渡されていなかったツールを呼び出せないことを意味します。プロンプトで回避できるガードレールではなく、コンパイラのルールです。