AI, machine learning and LLM insights.
El repositorio Apache-2.0 recién publicado aún contiene la rutina de exfiltración tras una bandera oculta en el servidor, e incluso incluye fragmentos de código de OpenAI sin atribuir, lo que significa que los desarrolladores deben auditar la herramienta y rotar cualquier credencial expuesta.
La financiación de Serie C, liderada por Lightspeed Venture Partners, financiará la clínica insignia de Neko en Nueva York, que combina imágenes de alta resolución, análisis de sangre y sensores patentados con IA, permitiendo a los médicos detectar precursores de enfermedades antes de que aparezcan los síntomas.
El estudio ofrece solo mapas de activación parciales que se correlacionan con ciertas tareas, dejando la causalidad sin demostrar. Aunque señala un avance hacia la transparencia, los desarrolladores deben tratarlo como un diagnóstico temprano y no como una garantía de seguridad.
El experimento dividió a los desarrolladores en grupos con asistencia de IA y grupos que solo utilizaban documentación; el grupo de IA obtuvo una puntuación un 17% inferior en un cuestionario de conceptos y no mostró una ventaja de tiempo medible, lo que resalta que los fragmentos de código rápidos ocultan una brecha de conocimiento que luego incrementa los costos de mantenimiento.
La Oficina de Derechos de Autor de EE. UU. dictaminó que las imágenes generadas por Midjourney para una novela gráfica no son protegibles, aunque sigue otorgando derechos de autor a la prosa del autor y a la disposición de las viñetas, subrayando la necesidad de una intervención humana documentada.
La consulta integrada de CodeQL detecta cualquier flujo de datos desde una fuente no confiable (como el cuerpo de un issue de GitHub) hacia un SDK que invoca un modelo. Al agrupar archivos de prueba positivos y negativos con un contrato expected-alerts.json, conviertes esa detección en un control de seguridad durante la compilación.
Mediante el monitoreo de los tiempos de lectura/escritura de la caché, los atacantes pueden inferir tanto los datos de entrada como partes de los pesos aprendidos de un modelo, una vulnerabilidad que persiste incluso con código de tiempo constante o el cifrado del modelo.
En una prueba práctica, un desarrollador pasó varias horas integrando LLMs, capas de memoria, planificadores e integraciones de herramientas, solo para enfrentarse a alucinaciones, reintentos interminables y costes de tokens, lo que demuestra que la verdadera autonomía sigue siendo una construcción manual.
The downstream maintainer reordered two GTK calls, preventing a null-pointer dereference that caused segmentation faults for Qt-based Electron apps on Linux. The same change sits in an open upstream PR, but users get the fix now with version 42.6.0.
El equipo de Honcho descubrió que mantener abierta una conexión a la base de datos mientras se espera a las lentas llamadas de LLM o de embeddings puede acaparar el pool de conexiones. Al implementar lecturas previas, cerrar la sesión y volver a abrirla solo para escrituras, lograron reducir la latencia y mejorar la escalabilidad.
Microsoft cambia su estrategia para enfrentar a sus equipos de ventas contra OpenAI y Anthropic. Microsoft está cambiando radicalmente su enfoque de mercado, pasando de ser un colaborador cercano de los pioneros de la IA...
La prueba de rendimiento ejecutó cinco agentes en una sola RTX 5090, asignándoles la tarea de añadir un Tag Manager a un panel de administración sin utilizar ninguna API en la nube. Qwen 3.6 35B-A3B completó el trabajo de forma autónoma, añadió mejoras lógicas y no requirió ningún parche tras la ejecución.
El Claude Apps Gateway integra el plano de control en la cuenta de AWS del cliente, ofreciendo a TI un panel único para gestionar la identidad, los registros de auditoría y el gasto, mientras los desarrolladores inician sesiones impulsadas por Claude sin exponer los datos externamente.
El asistente incluye los pesos del modelo con una página web estática y utiliza una lista fija de ocho herramientas, decodificación con restricciones gramaticales y RAG, todo entrenado con solo 30 M de tokens en una única GPU de 16 GB.
El detector registra las puntuaciones de atención brutas en todos los cabezales, las agrega a nivel de capa y utiliza una prueba log-MAD para identificar los tokens que absorben la mayor parte de la atención. Eliminar estos tokens "sumidero" del caché KV desestabiliza la generación y reduce drásticamente la calidad.
La propuesta amplía las reglas de filtrado de mensajes existentes para incluir cualquier servicio en el que dos personas intercambien texto, lo que significa que los proveedores de IA tendrían que pasar cada instrucción del usuario por escáneres automáticos antes de que el modelo siquiera la vea.
El sistema de autoaprendizaje enfrenta a un modelo atacante contra su contraparte defensora, aprendiendo de cada fallo para identificar patrones de explotación que los humanos nunca considerarían, e integrando estos conocimientos directamente en el flujo de entrenamiento de GPT-5.6.
El Codex Micro incorpora teclas de Agente iluminadas, atajos programables, un joystick y un dial de razonamiento, todo conectado directamente a la aplicación de escritorio de ChatGPT para permitir que los desarrolladores supervisen y dirijan múltiples agentes de IA sin salir de su IDE.
Ejecutar un agente de IA en Lambda puede parecer económico por milisegundo, pero el verdadero costo surge de la latencia de los arranques en frío, los bucles de reintento que activan múltiples llamadas al modelo y el consiguiente consumo de tokens, que eclipsa el cargo por cómputo.
Los dos scripts vulnerables —uno con una clave de firma HMAC integrada y el otro con una contraseña SMTP en texto plano— demuestran cómo los LLM completan los valores faltantes cuando se les pide un “ejemplo utilizable”, convirtiendo fragmentos de código útiles en filtraciones de credenciales en el control de versiones y en producción.
Los cuatro fallos recién revelados se derivan de la configuración predeterminada —enlaces de red públicos, configuraciones legibles para todos, entornos de sandbox permisivos y falta de registros de auditoría—, lo que permite a los atacantes pasar de una entrada de registro inofensiva al control total del sistema en cuestión de minutos.
Ode with Anthropic, founded by Chris Taylor and Eddie Siegel, fuses Fractional AI’s talent pool with Anthropic’s Claude models, backed by Blackstone, Hellman & Friedman, and Goldman Sachs, to turn proof-of-concepts into production-grade AI systems.
Inkling, entrenado con 45 billones de tokens multimodales, ofrece un rendimiento de programación de nivel Nvidia activando solo una fracción de sus 975 mil millones de parámetros, lo que reduce drásticamente la latencia y los costes operativos para los usuarios empresariales.
El 'dojo' de autoaprendizaje permite que GPT-Red actúe como atacante mientras los modelos defensores aprenden defensas, descubriendo nuevos trucos como el ataque de cadena de pensamiento falsa que engaña a los LLM para que acepten premisas falsas.
