연구원들의 데이터 유출 폭로 이틀 만에 xAI, Grok 빌드 오픈 소스 공개
새로 공개된 Apache-2.0 저장소에는 숨겨진 서버 측 플래그를 통해 데이터 유출 루틴이 여전히 포함되어 있으며, 출처가 명시되지 않은 OpenAI의 코드 스니펫까지 포함되어 있습니다. 따라서 개발자들은 해당 도구를 감사하고 노출된 모든 자격 증명을 교체해야 합니다.
GyaanSetu AI
AI, 머신러닝 및 LLM 인사이트.
Neko Health, 뉴욕에 AI 기반 예방 클리닉 설립 위해 7억 달러 유치
Lightspeed Venture Partners가 주도한 이번 시리즈 C 투자금은 Neko의 뉴욕 플래그십 클리닉 설립에 투입될 예정입니다. 이 클리닉은 고해상도 영상, 혈액 검사, 독자적인 센서를 AI와 결합하여, 임상의가 증상이 나타나기 전 질병의 전조를 포착할 수 있게 합니다.
Anthropic의 해석 가능성 논문, 1조 달러 기업 가치 입증에 힘을 실어줄 수도
해당 연구는 특정 작업과 상관관계를 보이는 부분적인 활성화 지도만을 제공할 뿐, 인과관계는 입증하지 못했습니다. 이는 투명성을 향한 진전을 시사하지만, 개발자들은 이를 안전 보장이 아닌 초기 진단 단계로 간주해야 합니다.
Anthropic 연구, AI 생성 코드가 속도 향상 없이 이해도를 17% 낮춘다고 밝혀
이번 실험은 개발자들을 AI 지원 그룹과 문서 참조 전용 그룹으로 나누어 진행되었습니다. 실험 결과, AI 그룹은 개념 퀴즈에서 17% 낮은 점수를 기록했으며 유의미한 시간 단축 효과도 보이지 않았습니다. 이는 빠른 코드 조각이 지식의 격차를 은폐하여, 결국 향후 유지보수 비용을 증가시킬 수 있음을 보여줍니다.
저작권청, AI 생성 이미지는 불허하나 작가의 텍스트와 레이아웃은 보호
미국 저작권청은 그래픽 노블을 위해 Midjourney로 생성된 이미지는 저작권 보호 대상이 아니라고 판결하면서도, 작가의 글과 패널 배치 방식에 대해서는 저작권을 인정하며 인간의 개입을 문서화해야 할 필요성을 강조했습니다.
CodeQL 2.26.0 프롬프트 인젝션 쿼리 추가 – 이를 방어하기 위한 CI 회귀 테스트 픽스처 구축하기
내장된 CodeQL 쿼리는 신뢰할 수 없는 소스(GitHub 이슈 본문 등)에서 모델 호출 SDK로 흐르는 모든 데이터 흐름을 탐지합니다. 긍정 및 부정 테스트 파일을 expected-alerts.json 계약과 함께 번들링함으로써, 이러한 탐지 기능을 빌드 시점의 게이트로 전환할 수 있습니다.
캐시 부채널 공격을 통해 실행 중인 AI 모델의 데이터를 탈취할 수 있습니다
공격자가 캐시 읽기/쓰기 타이밍을 모니터링함으로써 입력 데이터와 모델 학습 가중치의 일부를 모두 추론할 수 있으며, 이는 상수 시간 코드나 모델 암호화를 적용하더라도 여전히 존재하는 취약점입니다.
AI 에이전트에게도 여전히 전체 엔지니어링 스택이 필요하다 - 수 시간의 디버깅을 거친 개발자의 말
실무 테스트에서 한 개발자가 LLM, 메모리 레이어, 플래너 및 도구 통합을 결합하는 데 수 시간을 쏟았으나, 결국 환각 현상, 끝없는 재시도, 토큰 비용 문제와 씨름해야 했습니다. 이는 진정한 자율성을 구현하는 것이 여전히 수동 구축의 영역임을 보여줍니다.
다운스트림 Electron 42.6.0, 리눅스 메시지 박스 충돌 문제 해결
다운스트림 유지 관리자가 두 개의 GTK 호출 순서를 재조정하여, 리눅스에서 Qt 기반 Electron 앱의 세그멘테이션 오류를 유발하던 널 포인터 역참조 문제를 방지했습니다. 동일한 변경 사항이 현재 업스트림 PR에 올라와 있지만, 사용자는 이제 42.6.0 버전을 통해 이 수정 사항을 바로 적용할 수 있습니다.
Honcho, LLM 지연 시간 단축을 위해 장기 유지 DB 세션을 단기 세션으로 전환
Honcho 팀은 느린 LLM 또는 임베딩 호출을 기다리는 동안 데이터베이스 연결을 계속 열어두면 커넥션 풀을 과도하게 점유할 수 있다는 사실을 발견했습니다. 이에 따라 사전 읽기(pre-flight reads) 방식을 도입하여 세션을 종료하고, 쓰기 작업 시에만 세션을 다시 여는 방식으로 전환함으로써 지연 시간을 줄이고 확장성을 개선했습니다.
마이크로소프트, OpenAI 및 Anthropic 우회 지시하며 자체 AI 스택 강화
마이크로소프트가 영업팀을 OpenAI 및 Anthropic과 경쟁시키기 위해 전략을 변경합니다. 마이크로소프트는 AI 선구자들의 긴밀한 협력자 역할에서 벗어나 시장 접근 방식을 근본적으로 변화시키고 있습니다...
Qwen 3.6 35B-A3B, 실제 코드 편집 작업 중 RTX 5090에서 4개의 경쟁 모델을 압도하다
이 벤치마크는 단일 RTX 5090에서 5개의 에이전트를 실행하여, 클라우드 API 없이 관리자 패널에 태그 매니저를 추가하는 작업을 수행했습니다. Qwen 3.6 35B-A3B는 자율적으로 작업을 완료하고 합리적인 개선 사항을 추가했으며, 실행 후 별도의 패치가 전혀 필요하지 않았습니다.
AWS, 기업 제어를 위한 셀프 호스팅 방식의 Claude Apps Gateway 출시
Claude Apps Gateway는 제어 평면을 고객의 AWS 계정에 내장하여, IT 부서가 ID, 감사 로그 및 비용을 통합 관리할 수 있는 단일 관리 화면을 제공하는 동시에, 개발자는 데이터를 외부로 노출하지 않고도 Claude 기반 세션을 실행할 수 있도록 지원합니다.
350M LLM 에이전트가 브라우저에서 완전히 실행됩니다 — 클라우드 비용 제로
이 어시스턴트는 정적 웹페이지와 함께 모델 가중치를 제공하며, 8개의 고정된 도구 목록, 문법 제약 디코딩(grammar-constrained decoding) 및 RAG를 사용합니다. 이 모든 것은 단일 16GB GPU에서 단 3,000만 토큰만으로 학습되었습니다.
어텐션 싱크 탐지기, BOS 토큰 프루닝이 LLM 성능을 급격히 저하시킨다는 사실을 입증
이 탐지기는 모든 헤드에 걸친 원시 어텐션 점수를 기록하고 이를 레이어 단위로 집계하며, log-MAD 테스트를 사용하여 어텐션의 대부분을 차지하는 토큰을 식별합니다. 이러한 '싱크(sink)' 토큰을 KV 캐시에서 제거하면 생성 과정이 불안정해지고 품질이 급격히 저하됩니다.
EU 초안 법안, AI 채팅 내 불법 콘텐츠 스캔 의무화 가능성
해당 제안은 기존의 메시지 필터링 규칙을 확대하여 두 사람이 텍스트를 주고받는 모든 서비스를 포함하도록 하고 있습니다. 이는 AI 제공업체가 모델이 프롬프트를 확인하기도 전에 모든 사용자 프롬프트를 자동 스캐너로 검사해야 함을 의미합니다.
OpenAI의 GPT-Red, 84%의 공격 성공률로 인간 레드팀을 압도하다
이 셀프 플레이 시스템은 공격 모델과 방어 모델을 서로 대결시켜, 매 실패로부터 학습함으로써 인간이 미처 고려하지 못한 취약점 패턴을 찾아내고, 이러한 통찰을 GPT-5.6의 학습 파이프라인에 직접 반영합니다.
OpenAI, AI 기반 코딩 에이전트를 위한 230달러 상당의 Codex Micro 키보드 공개
Codex Micro는 조명이 들어오는 에이전트 키, 프로그래밍 가능한 단축키, 조이스틱, 그리고 리즈닝 다이얼(Reasoning Dial)을 탑재했습니다. 이 모든 기능은 ChatGPT 데스크톱 앱과 직접 연동되어, 개발자가 IDE를 벗어나지 않고도 여러 AI 에이전트를 모니터링하고 제어할 수 있게 해줍니다.
AWS Lambda AI 에이전트, 컴퓨팅 비용보다 콜드 스타트 비용이 더 많이 발생한다
Lambda에서 AI 에이전트를 실행하면 밀리초 단위의 컴퓨팅 비용은 저렴해 보일 수 있습니다. 하지만 실제 비용은 콜드 스타트 지연 시간, 여러 차례의 모델 호출을 유발하는 재시도 루프, 그리고 컴퓨팅 비용을 훨씬 상회하는 토큰 소비량에서 발생합니다.
BrassCoders, AI 생성 파이썬 스크립트 15개 중 2개에서 하드코딩된 비밀 정보 발견
취약점이 발견된 두 개의 스크립트(하나는 HMAC 서명 키를, 다른 하나는 평문 SMTP 비밀번호를 포함)는 LLM이 '사용 가능한 예시'를 요청받았을 때 누락된 값을 어떻게 채워 넣는지 보여주며, 이로 인해 유용한 코드 조각이 버전 관리 시스템과 운영 환경 전반에서 자격 증명 유출로 이어질 수 있음을 보여줍니다.
OpenClaw의 “Claw Chain” 버그가 245,000대의 AI 서버를 위협 – 40분 내 패치 필요
새로 공개된 4가지 결함은 퍼블릭 네트워크 바인딩, 누구나 읽을 수 있는 설정 파일, 허용 범위가 넓은 샌드박스, 감사 로그 누락 등 기본 설정 문제에서 비롯되었으며, 공격자가 무해한 로그 항목에서 단 몇 분 만에 전체 시스템 제어권을 장악할 수 있게 합니다.
Ode 출신의 현장 배치 엔지니어들, 기업용 AI의 '파일럿 연옥(Pilot Purgatory)' 종식에 도전
Chris Taylor와 Eddie Siegel이 설립한 Ode with Anthropic은 Blackstone, Hellman & Friedman, Goldman Sachs의 지원을 바탕으로 Fractional AI의 인재 풀과 Anthropic의 Claude 모델을 결합하여, 개념 증명(PoC)을 실제 운영 가능한 수준의 AI 시스템으로 전환합니다.
Thinking Machines, GB300 NVL72 하드웨어 기반 Inkling 학습을 위해 Nvidia와 파트너십 체결
45조 개의 멀티모달 토큰으로 학습된 Inkling은 9,750억 개의 파라미터 중 극히 일부만 활성화하면서도 Nvidia 수준의 코딩 성능을 제공하며, 기업 사용자의 지연 시간과 운영 비용을 획기적으로 절감합니다.
OpenAI, GPT-Red 도입으로 시뮬레이션 공격 성공률을 90%에서 23%로 낮춰
셀프 플레이 '도조(dojo)'를 통해 GPT-Red는 공격자 역할을 수행하고 방어 모델은 방어 기술을 학습하며, LLM이 잘못된 전제를 수용하도록 속이는 '가짜 생각의 사슬(fake chain-of-thought)' 공격과 같은 새로운 수법들을 발견했습니다.