AI, machine learning and LLM insights.
В недавно опубликованном репозитории под лицензией Apache-2.0 все еще содержится механизм эксфильтрации данных, скрытый за серверным флагом, а также присутствуют фрагменты кода OpenAI без указания авторства. Это означает, что разработчикам необходимо провести аудит инструмента и сменить все скомпрометированные учетные данные.
Финансирование раунда C под руководством Lightspeed Venture Partners пойдет на развитие флагманской клиники Neko в Нью-Йорке, которая сочетает в себе визуализацию высокого разрешения, анализы крови и запатентованные датчики с искусственным интеллектом, позволяя врачам выявлять предвестники заболеваний еще до появления симптомов.
В исследовании представлены лишь частичные карты активации, коррелирующие с определенными задачами, что не доказывает наличие причинно-следственной связи. Несмотря на то, что это свидетельствует о стремлении к прозрачности, разработчикам следует воспринимать результаты как предварительную диагностику, а не как гарантию безопасности.
В ходе эксперимента разработчиков разделили на группы, использующие ИИ, и группы, работающие только с документацией. Группа с ИИ набрала на 17% меньше баллов в тесте на знание концепций и не показала заметного преимущества в скорости, что подчеркивает: быстрые фрагменты кода маскируют пробелы в знаниях, которые впоследствии увеличивают затраты на поддержку.
Бюро по авторским правам США постановило, что изображения для графического романа, созданные Midjourney, не подлежат защите авторским правом. При этом права сохраняются за прозой автора и компоновкой панелей, что подчеркивает необходимость документального подтверждения творческого вклада человека.
Встроенный запрос CodeQL отслеживает любые потоки данных из ненадежных источников (например, из текста GitHub issue) в SDK, вызывающий модель. Объединяя положительные и отрицательные тестовые файлы с контрактом expected-alerts.json, вы превращаете это обнаружение в защитный барьер на этапе сборки.
Отслеживая время операций чтения и записи в кэш, злоумышленники могут восстановить как входные данные, так и части весов обученной модели. Эта уязвимость сохраняется даже при использовании кода с постоянным временем выполнения или шифрования модели.
В ходе практического эксперимента разработчик потратил несколько часов на связывание воедино LLM, слоев памяти, планировщиков и интеграций с инструментами, но в итоге столкнулся с галлюцинациями, бесконечными повторными попытками и затратами на токены — это доказывает, что создание по-настоящему автономных систем по-прежнему требует ручной сборки.
Downstream-разработчик изменил порядок двух вызовов GTK, предотвратив разыменование нулевого указателя, которое приводило к ошибкам сегментации в Electron-приложениях на базе Qt в Linux. Это же исправление уже находится в открытом upstream PR, но пользователи могут получить его уже сейчас с выходом версии 42.6.0.
The Honcho team discovered that keeping a database connection open while waiting on slow LLM or embedding calls can hog the connection pool. By moving to pre-flight reads, closing the session, and reopening only for writes, they reduced latency and improved scalability.
Microsoft меняет стратегию, чтобы противопоставить свои отделы продаж OpenAI и Anthropic. Microsoft коренным образом меняет свой рыночный подход, переходя от роли тесного партнера пионеров ИИ...
В бенчмарке на одной RTX 5090 тестировались пять агентов, которым было поручено добавить Tag Manager в панель администратора без использования облачных API. Qwen 3.6 35B-A3B выполнил задачу автономно, внес разумные улучшения и не потребовал никаких исправлений после завершения работы.
Claude Apps Gateway интегрирует уровень управления непосредственно в аккаунт AWS клиента, предоставляя ИТ-отделам единую панель для управления идентификацией, журналами аудита и расходами, что позволяет разработчикам запускать сессии на базе Claude без риска утечки данных во внешнюю среду.
Ассистент поставляется вместе с весами модели и статической веб-страницей, используя фиксированный набор из восьми инструментов, декодирование с грамматическими ограничениями и RAG. Всё это было обучено всего на 30 млн токенов на одном GPU с 16 ГБ памяти.
Детектор фиксирует необработанные веса внимания по всем головам, агрегирует их по слоям и использует тест log-MAD для выявления токенов, поглощающих основную часть внимания. Удаление таких «sink»-токенов из KV-кэша дестабилизирует генерацию и резко снижает качество.
Данная инициатива расширяет существующие правила фильтрации сообщений, охватывая любые сервисы для текстового общения между пользователями. Это означает, что разработчики ИИ будут обязаны пропускать каждый запрос через автоматические сканеры еще до того, как он поступит в модель.
Система self-play сталкивает атакующую модель с её «защищающей» версией, обучаясь на каждой ошибке для выявления паттернов эксплойтов, которые человек никогда бы не заметил, и передавая эти данные напрямую в процесс обучения GPT-5.6.
Codex Micro оснащена подсвеченными клавишами Agent Keys, программируемыми горячими клавишами, джойстиком и диском Reasoning Dial. Все они напрямую взаимодействуют с десктопным приложением ChatGPT, позволяя разработчикам отслеживать и управлять несколькими ИИ-агентами, не выходя из своей IDE.
Запуск AI-агента на Lambda может казаться дешевым в расчете на миллисекунду, но основные расходы связаны с задержками при холодном старте, циклами повторных попыток, вызывающими множественные вызовы модели, и итоговым потреблением токенов, которое многократно превышает стоимость самих вычислений.
Два уязвимых скрипта — один с внедренным ключом подписи HMAC, другой с паролем SMTP в открытом виде — наглядно показывают, как LLM заполняют недостающие данные при запросе «готового к использованию примера», превращая полезные фрагменты кода в утечки учетных данных в системах контроля версий и в рабочей среде.
Четыре недавно обнаруженные уязвимости вызваны настройками по умолчанию: привязками к публичным сетям, конфигурациями с открытым доступом, избыточными правами песочниц и отсутствием журналов аудита. Это позволяет злоумышленникам всего за несколько минут перейти от безобидной записи в логах к полному контролю над системой.
Ode with Anthropic, founded by Chris Taylor and Eddie Siegel, fuses Fractional AI’s talent pool with Anthropic’s Claude models, backed by Blackstone, Hellman & Friedman, and Goldman Sachs, to turn proof-of-concepts into production-grade AI systems.
Inkling, обученная на 45 триллионах мультимодальных токенов, обеспечивает производительность написания кода на уровне Nvidia, задействуя лишь малую часть своих 975 миллиардов параметров, что значительно снижает задержку и операционные расходы для корпоративных пользователей.
Система самообучения «додзё» позволяет GPT-Red выступать в роли атакующей стороны, в то время как модели-защитники обучаются методам обороны, выявляя новые уловки, такие как атака с использованием ложной цепочки рассуждений, которая заставляет LLM принимать ложные предпосылки.
