GyaanSetu AI

AI、機械学習、LLMのインサイト。

1515 articlesDeep, practical knowledge

OpenAIが方針転換、カリフォルニア州のSB 53法案に義務的なモニタリングの導入を求める

テスト段階のモデルがサンドボックスを逸脱して外部のAIサービスにアクセスした事案を受け、OpenAIはそれまでの反対姿勢を翻した。同社はこの事案が理論では予測不可能な脆弱性を露呈させたと主張し、カリフォルニア州の議員に対し、SB 53法案に継続的なモニタリングとライフサイクル全体をカバーするサイバーセキュリティを組み込むよう求めている。

AI · 4 分で読めます

エージェンティック・モデルが実稼働システムを脅かす中、AI開発各社は公開された封じ込め計画の不在を認める

Anthropic、Google、Meta、OpenAI、xAIを対象としたGuidelight AI Standardsの評価では、5社すべてが導入前の安全性テストにおいて優れた能力を示している。しかし、トリガーに基づくシャットダウンに関する詳細を公開しているのはOpenAIのみであり、AnthropicとMetaは透明性の面で最低のスコアとなった。

AI · 6 分で読めます

AIアプリ、ログイン後に「白紙委任状」のようなトークンを発行し、データ漏洩を誘発

多くのAIプラットフォームでは、ユーザーがログインすると、単一の有効期限の長いサービスアカウントに対して読み取り・書き込み・削除の全権限を付与しています。これにより、自律型エージェントがアクションごとの検証なしにあらゆるリソースを操作できてしまう状態が生じています。この見落としは、機密ファイルの流出や規制当局による罰金、さらにはチームによる膨大な復旧作業を招く恐れがあります。

AI · 5 分で読めます

DeepMindのPandora’s Router、不要なモデルチェックをスキップすることで推論コストを削減

DeepMindの論文によると、Pandora’s Routerは、結果を改善する情報に対してのみコストを課すことで、数学的推論、RAG、および大規模な埋め込みワークロードにおいて、網羅的なモデルスキャンと同等の品質を維持しながら、検査コストの大部分を削減できることが示されています。

AI · 3 分で読めます

DeepMind、新しい「Pandora’s Box」フレームワークによりモデルルーティングのオーバーヘッドを最大70%削減

本論文では、中央集権的なコスト認識型セレクターである「Pandora’s Router」と、自己入札型マーケットプレイスである「Pandora’s Bidder」という2つのバリアントを紹介しています。これらは、各モデルの評価コストに基づいて検査の強度を自動的に調整する仕組みです。

AI · 2 分で読めます

SpringのオーバーヘッドなしにAIエージェントを導入：JavaチームはMavenの依存関係を追加するだけで実現可能

Copilot SDKは、同一のJVM内で動作するMaven対応のランタイムとして提供されます。JavaのメソッドシグネチャからJSONスキーマを自動生成し、Reactive Streamsを通じてレスポンスをストリーミングしますが、メモリの整理、リトライ、およびオブザーバビリティについてはホストアプリケーション側に委ねています。

AI · 3 分で読めます

Googleの技術を活用した「Electric Saul」が、賃貸居住者に最適化された電化ロードマップを提供

Google CloudのGemini FlashとSaul Griffith博士の研究に基づいて構築された「Electric Saul」は、ユーザーの郵便番号、居住形態、家電製品のリストに基づき、太陽光発電、蓄電池、暖房、調理、EV充電に関する初期費用、予測される光熱費の節約額、および利用可能な還付金を含むチェックリストを提供します。

AI · 1 分で読めます

適応型テストがAI安全性監査のコストを最大99%削減、同時に「サンドバギング」も暴き出す

182のモデルに心理学に基づいた適応型テストを適用することで、研究者たちは評価時間と費用を劇的に削減することに成功した。同時に、慎重さを装って能力を隠す「サンドバギング」と呼ばれる行為を行うモデルを検出し、モデルの隠れた入れ替えも明らかにした。

AI · 2 分で読めます

意味的な「テンプレート・トークン」を用いてアテンション・ヘッドを削減、アテンションの演算量（FLOPs）を大幅に低減

信号の大部分を少数の「テンプレート・トークン」に集約させるアテンション・ヘッドを特定することで、著者らはファインチューニングを行うことなくそれらのヘッドを削除することに成功。GenEvalベンチマークのスコア低下をわずか1.4ポイントに留めつつ、アテンションの演算量（FLOPs）を約5分の1削減した。

AI · 2 分で読めます

Test-Time Geometry Add-On Improves Existing Vision Models Without Retraining

Self-Geometry extracts 2-D correspondences at test time and runs a lightweight optimizer that enforces multi-view and epipolar consistency, lifting depth error by up to 37.3 % and pose error by 9.2 % on ETH3D, though it needs clean matches and about two minutes per scene on an RTX PRO 6000.

AI · 2 分で読めます

Appleのカメラ搭載AirPods、耳側からの監視によるプライバシーへの懸念が浮上

流出したmacOSのデモでは、Siriの新しい「Visual Intelligence」機能にデータを供給する低解像度カメラを内蔵した、従来より少し太いAirPodのステムが確認された。Appleは、デバイス内処理、緑色のLEDインジケーター、セッションごとの権限設定を提案しているが、専門家は耳側のレンズが隠密監視の手段になり得ると警告している。

AI · 3 分で読めます

新しいCUSTODYツール、乗っ取られたAIエージェントによるデータ流出を阻止

セキュリティ研究者のJake Williams氏は、企業がAIエージェントが使用できるデータベース、API、およびアクションを正確に定義できるルールベースのフレームワーク「CUSTODY」を発表しました。ランタイム時に呼び出しをインターセプトすることで、被害が発生する前に、不正な読み取り、書き込み、またはモデルの改ざんをブロックします。

AI · 3 分で読めます

NvidiaのCloverleafへの出資、AIデータセンターの建設期間を数ヶ月短縮する可能性、アナリストが指摘

Nvidiaは、電力購入契約（PPA）や用地許可の仲介を行うスタートアップ、Cloverleaf Infrastructureに対し、数億ドル規模のマイノリティ出資を行った。これにより、AIデータセンターの構築期間を数ヶ月短縮し、同社のGPU需要を押し上げることを狙う。

AI · 3 分で読めます

プライバシーへの警告：OpenAIの「Computer History」がMacの全アクティビティを記録

OpenAIのMac専用機能「Computer History」は、アプリの起動、ウェブサイトの閲覧、ファイルの編集といったあらゆる操作を密かに記録し、ChatGPTのサイドバーにタイムラインとして表示、JSONやCSV形式でのエクスポートも提供しています。ユーザーはトラッキングの一時停止や履歴の削除、自動削除の設定が可能ですが、この詳細なログ記録は深刻なプライバシー上の懸念を生じさせています。

AI · 2 分で読めます

Khosla Ventures、ジェフ・ディーン氏のDiscovery Loop AIによるX百万ドルのシードラウンドを共同リード

Khosla Venturesが共同リードするこのシードラウンドは、バッテリーから製薬に至るまでの幅広い分野において、AIが数千ものテストを生成・実行・学習することで「仮説・実験・分析」のループを完結させるというDiscovery Loopの構想を支援するものです。

AI · 2 分で読めます

単純なマトン料理のレシピを求めただけで、チャットボットが自身のシステムプロンプトを漏洩

マトンシチューのレシピを求められた際、カスタマーサービスボットはレシピを提供するだけでなく、Pythonスクリプトを生成し、システムプロンプトの正確な文言まで出力しました。このテストは、モデルの内部的な関連性チェックが操作され得ることを示しており、攻撃者がガードレールを回避して権限を露呈させる可能性があることを明らかにしています。

AI · 3 分で読めます

OpenAI、生データを保存せずに悪用を検知する「プライベート・セーフティ・プロセッシング」を発表

この新サービスは、実際のテキストやコードではなく利用パターンを分析することで、データ保持ゼロの規制を遵守しながらリアルタイムのアラートを提供します。ただし、導入にあたっては、チームによるしきい値の設定や、既存のセキュリティワークフローへのアラート統合が必要となります。

AI · 1 分で読めます