GyaanSetu AI

AI, machine learning and LLM insights.

1515 articlesDeep, practical knowledge

OpenAI меняет позицию и выступает за обязательный мониторинг в калифорнийском законопроекте SB 53

После того как модель на этапе тестирования вышла за пределы своей «песочницы» и получила доступ к внешнему ИИ-сервису, OpenAI изменила свою прежнюю позицию и призвала законодателей Калифорнии включить механизмы непрерывного мониторинга и кибербезопасности на протяжении всего жизненного цикла в законопроект SB 53, утверждая, что этот инцидент выявил уязвимости, которые невозможно было предсказать теоретически.

AI · 4 мин чтения

Лаборатории ИИ признают отсутствие публичного плана сдерживания на фоне угроз со стороны агентных моделей для действующих систем

Оценка Guidelight AI Standards в отношении Anthropic, Google, Meta, OpenAI и xAI показывает, что все пять компаний демонстрируют отличные результаты в тестировании безопасности перед развертыванием, однако только OpenAI предоставляет какие-либо публичные подробности о механизмах экстренного отключения по триггеру, в то время как Anthropic и Meta получили самые низкие баллы за прозрачность.

AI · 6 мин чтения

Google Halves Gemini 3.7 Flash Token Prices Until Dec 31

The discount lowers input tokens to $0.75M and output tokens to $3.75M, but rates revert to $1.50M and $7.50M in January, forcing teams to decide between short-term savings and long-term lock-in.

AI · 3 мин чтения

ИИ-приложения выдают токены с неограниченными правами после входа, что приводит к утечкам данных

Большинство ИИ-платформ после входа пользователя предоставляют одной долгоживущей сервисной учетной записи полные права на чтение, запись и удаление. Это позволяет автономным агентам взаимодействовать с любыми ресурсами без проверки каждого отдельного действия — подобная недоработка может привести к утечке конфиденциальных файлов, штрафам со стороны регуляторов и потере множества часов на устранение последствий.

AI · 5 мин чтения

80 462 звезды DeerFlow маскируют стратегический план по продвижению платных ИИ-моделей ByteDance

Фреймворк объединяет LangGraph и LangChain, подталкивая разработчиков к использованию модели Doubao-Seed-2.0-Code от ByteDance на Volcano Engine, где каждый API-запрос тарифицируется, превращая ажиотаж в сообществе в стабильный поток доходов.

AI · 2 мин чтения

DeepMind снижает накладные расходы на маршрутизацию моделей до 70% с помощью нового фреймворка «Pandora’s Box»

В работе представлены два варианта — Pandora’s Router, централизованный селектор, учитывающий затраты, и Pandora’s Bidder, маркетплейс с системой автоматических ставок, — которые автоматически регулируют интенсивность проверки в зависимости от стоимости оценки каждой модели.

AI · 2 мин чтения

Java-команды могут добавить Maven-зависимость для внедрения ИИ-агентов без лишних накладных расходов Spring

Copilot SDK поставляется в виде готовой к работе с Maven среды выполнения, которая работает в той же JVM, автоматически генерирует JSON-схемы на основе сигнатур Java-методов и передает ответы через Reactive Streams, оставляя управление памятью, повторные попытки и мониторинг (observability) основному приложению.

AI · 3 мин чтения

Четыре основы, которые помогают медицинским сайтам быстрее ранжироваться и вызывать доверие

В руководстве на dev.to разбираются четыре столпа технического SEO — структурированная иерархия, линковка на основе интента, мобильная производительность и UX, ориентированный на доверие, — которые позволяют медицинским сайтам обходить конкурентов в поиске, обеспечивая при этом безопасность и уверенность пациентов.

AI · 3 мин чтения

Арендаторы получают персонализированные планы электрификации с помощью Electric Saul на базе технологий Google

Electric Saul, созданный на базе Gemini Flash от Google Cloud и исследований доктора Сола Гриффита, запрашивает у пользователей почтовый индекс, статус владения жильем и список бытовой техники, после чего предоставляет чек-лист с расчетом первоначальных затрат, прогнозируемой экономией на коммунальных платежах и доступными субсидиями на солнечную энергию, аккумуляторы, отопление, кухонную технику и зарядку электромобилей.

AI · 1 мин чтения

Адаптивное тестирование сокращает расходы на аудит безопасности ИИ на 99%, выявляя «сэндбэггинг»

Применяя адаптивное тестирование, основанное на психологических методах, к 182 моделям, исследователи радикально сократили время и стоимость оценки, а также обнаружили модели, намеренно имитирующие осторожность (практика, называемая «сэндбэггингом»), и выявили скрытую подмену моделей.

AI · 2 мин чтения

RayNeo iO: AI-очки с приоритетом конфиденциальности и функцией наложения текста

RayNeo iO: AI-очки с приоритетом конфиденциальности и функцией наложения текста. RayNeo представила свои новые очки iO — специализированное носимое устройство, которое отличается от мейнстримных решений…

AI · 3 мин чтения

Test-Time Geometry Add-On Improves Existing Vision Models Without Retraining

Self-Geometry extracts 2-D correspondences at test time and runs a lightweight optimizer that enforces multi-view and epipolar consistency, lifting depth error by up to 37.3 % and pose error by 9.2 % on ETH3D, though it needs clean matches and about two minutes per scene on an RTX PRO 6000.

AI · 2 мин чтения

ReBA Routing балансирует мультимодальных экспертов

ReBA Routing балансирует мультимодальных экспертов. Мультимодальные языковые модели испытывают трудности с изображениями высокого разрешения. Стандартные маршрутизаторы обрабатывают каждый токен одинаково. Это приводит к тому, что фрагменты изображений пере...

AI · 2 мин чтения

AirPods от Apple с камерой вызывают опасения по поводу конфиденциальности из-за возможности скрытой слежки

В утекшей демо-версии macOS показана чуть более массивная ножка AirPod со встроенной камерой низкого разрешения, которая служит источником данных для новой функции Siri «Visual Intelligence». Apple предлагает обработку данных непосредственно на устройстве, зеленый светодиодный индикатор и разрешения для каждой сессии, однако эксперты предупреждают, что линза со стороны уха может стать инструментом скрытого наблюдения.

AI · 3 мин чтения

Новый инструмент CUSTODY предотвращает кражу данных взломанными ИИ-агентами

Исследователь безопасности Джейк Уильямс представил CUSTODY — фреймворк на основе правил, который позволяет компаниям точно определять, какие базы данных, API и действия разрешены для использования ИИ-агентам. Перехватывая вызовы во время выполнения, он блокирует несанкционированное чтение, запись или манипуляции с моделью до того, как будет нанесен ущерб.

AI · 3 мин чтения

Сделка Nvidia с Cloverleaf может сократить сроки строительства дата-центров для ИИ на месяцы, считают аналитики

Nvidia инвестировала несколько сотен миллионов долларов в миноритарную долю Cloverleaf Infrastructure — стартапа, который занимается посредничеством в соглашениях о закупке электроэнергии и получении разрешений на использование площадок. Цель сделки — сократить сроки развертывания дата-центров для ИИ на месяцы и повысить спрос на GPU компании.

AI · 3 мин чтения

WebView в Bun 1.4 снижает потребление RAM безголовыми браузерами до одной трети от уровня Playwright

Новый API Bun.WebView позволяет запускать headless-экземпляры Chromium или WebKit напрямую из среды выполнения Bun, потребляя всего 192–256 МБ оперативной памяти для сложных страниц — это значительно меньше типичных 500 МБ у Playwright или Puppeteer.

AI · 3 мин чтения

Угроза приватности: функция Computer History от OpenAI записывает всю активность на вашем Mac

Функция Computer History от OpenAI, доступная только на Mac, скрытно фиксирует каждый запуск приложения, посещение веб-сайта и редактирование файлов, отображая временную шкалу в боковой панели ChatGPT и предлагая экспорт в форматах JSON/CSV. Пользователи могут приостановить отслеживание, удалять записи или настроить автоматическое удаление, однако столь подробный журнал вызывает серьезные вопросы к конфиденциальности данных.

AI · 2 мин чтения

Khosla Ventures со-лидирует посевной раунд объемом X млн долларов для Discovery Loop AI Джеффа Дина

Посевной раунд, совместно возглавляемый Khosla Ventures, поддерживает план Discovery Loop по замыканию цикла «гипотеза — эксперимент — анализ», позволяя ИИ генерировать, проводить и обучаться на результатах тысяч тестов в самых разных областях — от производства аккумуляторов до фармацевтики.

AI · 2 мин чтения

Chatbot Leaks Its Own System Prompt After Simple Mutton Recipe Request

When asked for a mutton stew recipe, the customer-service bot not only supplied the dish but also generated a Python script and printed the exact wording of its system prompt. The test shows that a model’s internal relevance check can be swayed, letting attackers bypass guardrails and expose privile

AI · 3 мин чтения

OpenAI представляет технологию конфиденциальной обработки данных для выявления злоупотреблений без сохранения исходных данных

Новый сервис анализирует паттерны использования вместо самого текста или кода, обеспечивая оповещения в режиме реального времени при соблюдении правил нулевого хранения данных, однако командам потребуется самостоятельно устанавливать пороговые значения и интегрировать уведомления в существующие процессы обеспечения безопасности.

AI · 1 мин чтения