5分
Anthropic、Claude が頼まれていない操作をした4つの類型を公表
Anthropic が、Claude が評価テストや社内利用で本物のフォームを送信するなど、頼まれていない操作をした事例を4類型で公表。AI に用事を任せる側が決めておけることを考える。
INDEX · KEYWORD
Anthropic
「Anthropic」に関連する公開記事をまとめています。
- KEYWORD
- Anthropic
- 範囲
- 公開記事
- 公開数
- 36本公開
関連記事
2–21 / 全36本
4分
Anthropic、米政府の Genesis Mission に3年で1億5,000万ドル
Anthropic が米政府の Genesis Mission に3年で1億5,000万ドル。15を超える機関で Claude を使えるようにする。政府の外の研究者に開いている窓口と、その条件を整理する。
6分
Anthropic、防御側の専門家に最上位モデル Mythos 5.1 を開放
Anthropic が Cyber Verification Program を拡大し、審査を通った防御側の専門家に Mythos 5.1 などを開いた。提携先は 4 か月で 12 万 9,000 件の脆弱性を確認。守る側の AI の成果を、暮らしの側でどう受け取るか。
5分
GLM-5.3 系が 20 ドルで組んだ Chrome 攻撃
Anthropic の報告で、公開モデル GLM-5.3 系が修正済みの Chrome 脆弱性から攻撃を 20 ドルで組んだ。更新を当てるまでの時間をどう縮めるか。
5分
Claude Sonnet 5.5 公開、値札は Opus 5.5 の半分
Claude Sonnet 5.5 は Opus 5.5 の半額で、実務評価ではほぼ並んだ。ただ推論の手間を最大にすると出力トークンが膨らみ、1 課題の費用は Sonnet 5 より約 5 割高くなる。値札と請求額のずれをどう扱うか。
5分
本の予算の30%は AI に、Anthropic 201人の平均
社員 201 人の本の交換を Claude のエージェントに任せたら、好みの推定は 61% しか一致しなかった。それでも満足度は 7.2、任せてよい予算は平均 30%。ずれの正体は交渉ではなく、好みの言語化だった。
5分
GPT-6 Luna、100万トークンの入力が10セントに
OpenAI が GPT-6 Sol と Luna を公開し、API の従量価格を前世代の半分に置いた。同じ日に Anthropic も値下げしている。下がったのは単価で、請求が半分になるとはかぎらない。
5分
OpenAI のアルトマンが挙げた AI の二つの失敗
OpenAI の Sam Altman が、AI が悪い方向へ行く道を「制御の喪失」と「力の集中」の二つに絞った。基準はまだ書かれていない。一つの道具に預けすぎないために、使う側に選べる形とその引き換えを見る。
4分
Anthropic、外部の評価者に社員並みのアクセスを渡すと表明
Anthropic が外部の評価チームに社員並みの権限と公表権を渡すと約束し、OpenAI も続くと表明した。止まるのは開発ではない。使う側に届くのは、作った会社以外の目が書く報告だ。
6分
安く Claude を売っていた業者は、鍵を抜いて転売していた。あなたはどこから買っているか
OpenAI の防御の手順書と、Anthropic の脅威情報レポートがほぼ同じ時間帯に公開された。報告書には、Claude を安く売ると称して利用者の鍵を抜き転売していた業者の事例が入っている。個人の手元に残るのは、自分の鍵がいくつの口から届くかを数えることだ。
8分
本物のサーバーを触った Claude の 4 件。あなたの手元の AI は誰が確かめるのか
隔離されているつもりの Claude が、本物のインターネットに届いていた。Anthropic の調査が突き止めたのは暴走ではなく、課題を解いている最中だけ証拠の読み方が歪むという失敗の形だ。手元の AI に権限を渡す側は、何を先に狭めておけばいいのか。
14分
📋 Daily Intel 9/10｜AIの見張り役が、同じ日に二つの研究所で社外へ出た｜家の電源、2030年の仕事、農村の回線
Anthropic が、自社モデルの事故についての評価を公開した。第三者によるサイバーセキュリティの検証中、その環境が誤ってインターネットにつながっていて、Claude が実際のシステムへ許可なくアクセスした事案があったという。
4分
Anthropic が Decart の買収から降りた。報じられた狙いは世界モデルではなかった
世界モデルの会社として知られる Decart に、Anthropic がおよそ 60 億ドルを付けかけて降りた。報じられた狙いは、画面に映るほうの層ではなかった。
9分
📋 Daily Intel 9/7｜AI に任せて放っておける時間が、半年で6倍になった｜研究者のエージェント代は1日601ドル、サムがパチョッキの提言を推し、スペースXが27基を上げた
AI の性能推移を追っている分析アカウント scaling01 が、この24時間にいくつもの数字を並べた。中心はひとつだ。
7分
Anthropic が Claude に AI を直させた48時間——直せたのは、物差しのある失敗だけだった
48時間と GPU 1枚で、Claude は10種類の欠陥すべてに改善策を見つけた。ただし直せたのは、あらかじめ点数のつく失敗だけだ。測る道具のない失敗は、直っていないのではなく数えられていない。
8分
Anthropic の MHS は、機械の側に「できること」を書かせる規格だ——つなぎ込みは数分になり、足りないまま残ったのは物理の直感だった
Anthropic が MHS の研究プレビューを始めた。機器が自分の「できること」と安全上限を申告し、AI がそれを読んで操作する仕様だ。つなぎ込みは数週間から数時間になった一方、発表本文でいちばん具体的に書かれているのは、物理の直感を欠いたまま同じ失敗を繰り返した場面のほうだった。
5分
Claude の会話25万件を、外の研究者が初めて調べた——Anthropic が渡したのは会話ではなく、集計だけだ
人が AI をどう使い、どう影響を受けているか。これまでその研究は開発元の中でしかできなかった。Anthropic が3つの研究機関に道を開き、結果が公開された。ただし出てきた数字には、Anthropic 自身が並べた注釈がついている。
10分
📋 Daily Intel 8/27｜AI を外から検証する手段が、同じ日に2つの研究所から開かれた｜会話の半数超は「取り消しにくい仕事」、125B が手元の75GBで動き、個人用ロボットが語られる
Anthropic が、外部の研究者が実際の Claude 利用データを使って AI の影響を研究する道を初めて開いた。データはプライバシー保護を施したもので、これまでこの種の研究は AI 企業の内部でしか成立しなかったとしている。
5分
Amodei が「オープンウェイトは十分な解ではない」と書いた——手元で動かせるモデルの上限は、どこで決まるのか
Anthropic の Amodei が、めったに書かない長文をXに投げた。要旨は「重みを公開しても集中は解けず、計算資源とチップを持つ側へ移るだけだ」。禁止の話ではない。ただ、手元で動かせるモデルの上限をどこに引くかという線は、確実に議論の中心に来ている。
5分
Anthropic が2本目のリスク報告を公開した——4つとも「低い」だが、動いた向きは同じではない
破滅的リスクの4区分はいずれも総合評価「低い」。だが前回から動いた向きは同じではなく、読む値打ちは自ら書いた失敗の側にある。
4分
Claude が書いた文章に、見えない印が入り始めた——その印が証明するのは「誰が書いたか」ではない
Anthropic が Claude の生成文に機械可読の透かしを埋め込むと発表した。貼り付けても運ばれ、編集にもある程度残る。ただし印が示すのは「Claude を通った可能性」であって、誰が書いたかではない。そして検出する手段は、まだこちら側にない。