知的エージェントのサムネイル
知的エージェント(Intelligent Agent、IA)、またはAIエージェント(AI agent)とは、一種の人工知能(AI)的機能を有するソフトウェアエージェント。ユーザーを補助し、繰り返し行うべきコンピュータ関連のタスクをユーザーに代わって行うエージェントである。通常のエージェント…
12キロバイト (1,354 語) – 2025年12月5日 (金) 07:43

今、AI技術に対する安全性が世界的な問題となっています。エヌビディアは、将来を見据え新たな技術導入を発表しました。各社、足並みが揃うかが重要となりそうです。今後の開発業者の動向から目が離せません!




<X(旧ツイッター)の反応>


和久譲治
@keijikanome

米エヌビディア、暴走AIエージェントをDPUで止める安全基盤 アンソロピックら参加 |ビジネス+IT share.google/8cebBfMZgBnmNe…

(出典 @keijikanome)

幸ちゃん
@kotchian47

いる。 新ツールの一つは、エヌビディアの半導体に搭載されているハードウエア機能を利用して、エージェントを封じ込めるという。 エヌビディアのジェンスン・フアンCEOは、AI規制強化を求める声に対し、概ね否定的な見解を示している。不正なAIエージェントは、解決可能な技術的な問題だと主張 pic.x.com/6oIuYZSJGF

(出典 @kotchian47)

株式会社WEEL(ウィール)|生成AI導入・開発
@weel_corp

【AIエージェントの権限は、まず狭く。記録を見て決め直す】 NVIDIAは9/28、AIエージェントがアクセスできる範囲や実行できることを制御する基盤を発表しました。AnthropicもClaude Managed Agentsとの組み合わせを示しています。 x.com/nvidia/status/…

(出典 @weel_corp)

シェットランドシープドッグ
@Nikola_pn2501

週末は投資先として、 関連企業を整理したいと思います。 ・Wccftech: ジェンセン・フアンが一石二鳥を実現:NVIDIAの新しいAIエージェントによる安全対策は、AI開発のペースを緩めるべきだという声に巧みに対抗しつつ、自社製品への需要を高めている 🔗 wccftech.com/jensen-huang-k…

(出典 @Nikola_pn2501)

まっすー@業務改善ラボ
@Massu15

【AIにも権限制御が必要 1/2】 NVIDIAがAIエージェント向け「OpenShell」を公開。 AIがアクセスできるシステムやデータをポリシーで制御できます。 AIエージェントが仕事を自動実行するほど、「何ができるか」だけでなく「何をさせないか」が重要になります。 developer.nvidia.com/blog/add-runti…

(出典 @Massu15)

東京報道新聞【公式】
@tokyonewsmedia

米エヌビディアとAI企業アンソロピックが、企業向けAIエージェントの安全運用を支援する新たなセキュリティーフレームワーク「Open Agent Safety Platform」を発表しました。

(出典 @tokyonewsmedia)

タイド
@plattypuus

自律エージェントを、ホスト環境へ直接放さない。 OpenShellは、NVIDIAが公開した安全でプライベートなAIエージェント実行ランタイムです。 エージェントを隔離された環境で動かし、権限とネットワークを管理するための土台になります。 github.com/NVIDIA/OpenShe…

(出典 @plattypuus)

オバ3|市場構造で読むビットコイン・Web3
@Oba30btc

今回の記事では NVIDIAの新しい安全基盤から 「AIをどう止めるか」より 「誰が実行権限を握るのか」 に注目しました AIの活動範囲を囲うOpenShellと その外側から監視するSentry なぜ安全機構を分けるのかを 整理しています #NVIDIA #AIエージェント #AI 👇記事はこちら web3times.net/ai-agent-emerg…

(出典 @Oba30btc)

藤堂ミケ(Mike)
@Mike05102

返信先:@SOU_BTC これ、昨日のNVIDIAのAIエージェント安全基盤と向かう先がつながりますね。 OpenAIは「24時間働くAI」を出し、NVIDIAは「そのAIを安全に制御する基盤」を出した。 AIが自分で仕事を進め、最後は買い物や支払いまで任せる未来がかなり現実的になってきました。

(出典 @Mike05102)

TechFeed公式
@techfeedapp

NvidiaがAIエージェントを「外側から」強制停止するハードウェア監視基盤を発表しました。 ソフトウェアによる制御の限界が露呈するなか、独立したチップでエージェントの逸脱をミリ秒単位で遮断するという発想は注目に値すると思います。 pic.x.com/GWlF4p6JB5

(出典 @techfeedapp)

オバ3|市場構造で読むビットコイン・Web3
@Oba30btc

AIエージェント×安全対策 のニュースです👀 メール送信やコード実行など 自分で作業を進めるAIが増えると 「もし想定外の動きをしたら 誰が止めるの?」 という問題も出てきます NVIDIAが AIの外側から監視・制御する 新しい安全基盤を発表しました 4コマでざっくり👇 #NVIDIA #AIエージェント pic.x.com/l87srYpsUN

(出典 @Oba30btc)

O!Product|AI・IT・DXサービスの最新トレンド
@o_product

NVIDIA、AIエージェント安全基盤「Open Agent Safety Platform」を発表 ✅OpenShellはエージェントの実行範囲を制御。 ✅SentryはDPUで監視するリファレンス設計。 ✅OpenShellのコードと文書は公開中。 詳細はリプ欄↓ pic.x.com/cQlul0hnhg

(出典 @o_product)

FANG+・AI・宇宙株投資|Rocket Lab スペースX🚀
@Fang3104_

🚨【NVIDIA、次に狙うのは“AIを動かすGPU”だけじゃない】 NVIDIAが新たに「Open Agent Safety Platform」を発表🔥 AIエージェントを 「作る→テストする→実運用する」 まで安全性を管理するための基盤です。 pic.x.com/7YLBrel5rL

(出典 @Fang3104_)

THE AI TIMES JAPAN
@theaitimesjapan

NVIDIA、安全の仕組みをAIの外に——新基盤にAI開発企業や金融機関など100超が参加 半導体大手の米NVIDIAは9月28日、自律的に働くAIエージェントの行動をソフトウエアで縛るとともに半導体の側からも見張る安全基盤を公開した。AI開発企業やIT企業、金融機関など100を超える組織が開発や導入に加わる。

(出典 @theaitimesjapan)

テックトピックスTVWEB
@techtopixtv

OpenClaw Enterpriseを公開、OpenAI・Red Hat・NVIDIA協力で持続型AIエージェントを統制 ▼要点 ・エージェントを組織単位で管理する制御プレーン ・自社環境で動かし、権限や秘密情報を分ける ・社内利用はパイロット段階、早期公開で開発 topix.kyastal.com/articles/t-202…

(出典 @techtopixtv)

二子玉川のデータサイエンティスト
@NikotamaDsPapa

NVIDIAがAIエージェントの暴走を防ぐ枠組み「Open Agent Safety Platform」を発表したみたい。ルールを強制的に守らせる仕組みらしく、安全対策として注目されそう。 tinyurl.com/2d84kcyh

(出典 @NikotamaDsPapa)

KAVU|AI時代の資産形成発信
@kavueditor

OpenAIが次のモデルを安全性の理由で止めた同じ日に、NVIDIAはAIエージェントを見張る仕組みを発表していた。 GPT-6.1 Astraの公開見送りは、性能が足りなかったからではない。与えられた範囲を越えて動き、自分が何をやったかを正確に報告しないケースがあった。問題になったのはそこだ。 pic.x.com/J4dDtIY81H

(出典 @kavueditor)

武蔵猫(无邪志根子🐈)
@TweetCat16

NVIDIAがOpenShellとSentryでOpenAIやAnthropicより高度な安全技術を持っていると思ったら同様の技術をGoogleは持っているらしい。 Googleのは仮想カーネル上でAIエージェントを実行するから本物のサーバーOSには直接手が出せない仕組み。

(出典 @TweetCat16)

上久保誠人@『煽動政治』(三省堂)6/23発売!
@KamikuboMasato

Nvidiaは、AIエージェントが許可された操作範囲を越えないよう監視するオープンソース基盤「OASP」を発表した。 同社は、OpenAI製エージェントによるウェブサイトへの侵入事案などを防止できた可能性があるとしている。同日、Nvidiaは最大1,500億ドルの追加自社株買いも発表した。

(出典 @KamikuboMasato)

カズヤ【AIシステム探究者】
@toshinobu65

NVIDIAがAIエージェントのセキュリティを高める新ソフトウェア群をリリースしました。 同社は、これらのツールを活用していれば過去に起きたHugging Faceへの不正アクセスも防御できた可能性があると指摘しています。 AIシステムの安全性を確保するうえで非常に注目度の高い発表です。

(出典 @toshinobu65)

LOTCREA Cyber Lab
@lotcrea_lab

「AIを止めるための安全装置」 これ、今後かなり重要になるかもしれない。 NVIDIAが今日、 AIエージェントを制御する新しい安全技術を公開した。 仕組みを調べてみると面白い。 AIを決められた環境の中に閉じ込める。 そこから抜け出そうとしたら検知する。 さらに別のAIを複数作って、

(出典 @lotcrea_lab)

藤堂ミケ(Mike)
@Mike05102

NVIDIAが「Open Agent Safety Platform」を発表。 AIエージェントの行動を常時監視し、ルール違反をミリ秒単位で検知・隔離する仕組みです。Anthropic、Microsoft、Cisco、CrowdStrike、Dell、HPE、JPMorgan Chase、Salesforce、SAPなどが参加。

(出典 @Mike05102)

AI Professionals公式
@aip_pr

AIエージェントの暴走を、別チップを横に置いて物理的に止める構想をNVIDIAが発表しました。

(出典 @aip_pr)

40代AIパパ|ChatGPT実験中
@3FAAivnJDxFnPTg

Nvidiaが、 暴走するAIエージェントを監視・封じ込める、 安全プラットフォームを発表したらしい。 AIに仕事を任せる時代だからこその、 新しい安全対策。 便利になるほど、 歯止めの仕組みも進化していく。 そのバランス感覚、 大事だと思います。 #Claude活用 #AI学習 #40代からのAI

(出典 @3FAAivnJDxFnPTg)

経営者・実務家向け AI戦略カンファレンス|AI BB Shibuya Tokyo
@NFTTYO60939595

🤖 NvidiaがAIエージェント用「安全プラットフォーム」を発表——モデルの外側でエージェントを制御 NvidiaがGPT-6 Astraがサイバーテストで29.2%の確率で無認可攻撃を行ったとするUK AI Security

(出典 @NFTTYO60939595)