암호화된 추론 흔적은 보안 경계가 아닙니다
암호화된 추론 흔적은 보안 경계가 아닙니다. 새로운 연구 논문에 따르면 AI 제공업체가 추론을 처리하는 방식에 중대한 결함이 있는 것으로 나타났습니다. Anthropic, OpenAI, Google은 암호화된 r...
GyaanSetu AI
AI, 머신러닝 및 LLM 인사이트.
앤스로픽, SPV에 수십억 달러 규모의 부채 은닉... API 가격 인상 가능성
'테세우스 인프라스트럭처(Theseus Infrastructure)'라 불리는 이 SPV는 자본을 조달하고 사모 신용 펀드를 차입하여 데이터 센터를 구축한 뒤, 이를 앤스로픽에 다시 임대할 예정입니다. 임대료로 해당 차입금을 충당해야 하므로, 숨겨진 부채 비용이 상승할 경우 개발자들은 더 높은 Claude API 요금을 부담하게 될 수 있습니다.
구조 인식 청킹(Structure-Aware Chunking) 전환으로 RAG 적중률을 61%에서 83%로 향상
RAG 파이프라인을 노트북 환경에서 운영 환경으로 전환한 지 4개월 만에, 저자는 청킹 전략 변경만으로도 검색 적중률을 83%까지 끌어올릴 수 있음을 보여줍니다. 또한 200개의 쿼리로 구성된 평가 세트를 통해 고객에게 문제가 전달되기 전 대부분의 성능 저하를 사전에 방지할 수 있게 되었습니다.
OpenAI 윤리 책임자 사임, 안전 팀 인력 유출 가속화
이번 사임은 2024년 슈퍼얼라이먼트(Superalignment) 그룹을 포함한 OpenAI 안전 팀의 잇따른 인력 이탈과 2023년 이사회 개편에 이은 것으로, 빠른 제품 출시와 내부 리스크 점검 사이의 심화되는 갈등을 여실히 보여줍니다.
최고 수준의 타투 AI조차 오인 사례 발생, 법정 내 오탐(False-Positive) 우려 확산
NIST 연구는 타투 검색 도구의 작동 방식에 대한 재고를 촉구하며, 개발자들에게 이진 매칭 방식을 지양하고 유사도 점수를 표시할 것과 법적 사용 전 숙련된 분석가가 최종 판단을 내리도록 할 것을 권고했다.
Accel, AI 기반 애플리케이션 성장을 지원하기 위해 5억 5천만 달러 규모의 인도 펀드 조성
Accel의 이번 5억 5천만 달러 규모의 펀드는 인도를 향한 35억 달러 규모의 글로벌 투자 확대 전략의 일환으로, AI 기반 핀테크, 첨단 제조 및 딥테크 스타트업을 목표로 합니다. 특히 기존 거대언어모델(LLM)을 활용한 애플리케이션 구축을 선호하는 전략을 취하고 있습니다.
Subquadratic의 SubQ, 희소 어텐션(Sparse Attention)으로 최상위 LLM 수준의 성능 구현 및 연산 비용 절감 달성
Subquadratic는 자사의 SubQ 모델이 코딩 및 검색 분야에서 선도적인 LLM과 대등한 정확도를 제공하는 동시에, 에너지 소비와 클라우드 비용 상승의 원인인 이차 곱셈(quadratic multiplication) 횟수를 획기적으로 줄였다고 밝혔습니다.
오늘날의 AI 칩 성능을 제한하는 열 병목 현상을 해결하려는 AI 기반 스타트업
Anthropic 모델을 맞춤형 물리 시뮬레이션에 적용함으로써, YC의 지원을 받는 이 스타트업은 매일 수천 개의 소재 후보를 테스트할 수 있습니다. 이를 통해 기존의 일일 20회 시도라는 한계를 획기적으로 줄이고, 특허 가능하며 제조 가능한 방열 화합물 개발을 가속화하고 있습니다.
Zuckerberg’s AI Manifesto Ignites Debate Over ‘AI Slop’ vs Human Creativity
Zuckerberg’s newly released AI manifesto, whether penned by him, his team, or an LLM, positions AI as the inevitable productivity booster. Critics argue it neglects the human need for authentic, effort-based expression, warning that a flood of low-effort content could hollow out online interaction.
Anthropic, 2026년 8월부터 모든 Claude 출력물에 글로벌 워터마크 적용
텍스트 워터마크는 눈에 보이지 않으며, 이미지에는 개방형 C2PA 표준이 적용됩니다. 복사 및 붙여넣기나 미세한 편집 후에도 워터마크가 유지되지만, 과도한 편집이나 형식 변경 시에는 신호가 제거될 수 있습니다.
AI 에이전트, 노보 노디스크의 분자 개발 기간을 수년에서 수개월로 단축할 수도
이번 협업은 데이터 검색, 분자 설계, 시뮬레이션 실행, 실험 프로토콜 초안 작성을 하나의 루프 내에서 수행할 수 있는 AI 에이전트를 도입하여, 기존에 수년이 소요되던 과정을 단 몇 개월로 압축하는 것을 목표로 합니다.
Anthropic, '클로드피싱(Claudefishing)' 사기 방지를 위한 모델 수준 워터마크 도입
8월 2일부터 Anthropic은 모든 Claude 생성 텍스트에 숨겨진 디지털 서명을 삽입합니다. 이는 복사 및 붙여넣기나 약간의 편집을 거쳐도 유지되는 토큰 수준의 워터마크입니다. 이번 조치는 EU AI 법(EU AI Act)의 투명성 규정을 준수하는 동시에, AI를 이용한 사칭 위협인 신조어 '클로드피싱(Claudefishing)'에 대응하기 위한 것입니다.
앤스로픽, 모든 Claude 텍스트 및 이미지에 EU 규정을 준수하는 보이지 않는 워터마크 도입
앤스로픽은 시각 자료에는 C2PA 표준을, 텍스트에는 새로운 언어적 신호를 사용하여 모든 Claude 출력물(텍스트 및 이미지)에 기계 판독이 가능한 워터마크를 삽입할 예정입니다. 이는 AI 법의 8월 2일 마감 기한을 맞추기 위해 4개월의 유예 기간 내에 기존 모델을 개조하여 적용하는 방식입니다.
성장세 둔화 속 ChatGPT 주간 사용자 10억 명 돌파, Gemini는 월간 사용자 10억 명을 향해 질주
OpenAI는 ChatGPT의 주간 활성 사용자 수가 9억 명에서 5개월 만에 10억 명에 도달했다고 발표했습니다. 한편, 구글의 Gemini는 2월에서 8월 초 사이 월간 사용자 수가 7억 5천만 명에서 10억 명으로 급증하며 구글 역사상 가장 빠른 제품 성장세를 기록했습니다.
스포티파이, AI 페르소나 표시 및 알고리즘 추천 제한 예정
스포티파이, AI 페르소나 표시 및 알고리즘 추천 제한 예정. 스포티파이는 'AI 페르소나' 라벨을 도입함으로써 합성 정체성의 유입에 맞서 단호한 입장을 취하고 있습니다...
Nvidia’s Nemotron 3.5 Lightning Doubles Token Throughput vs Gemini 3.5 Flash-Lite
Nemotron 3.5 Lightning’s hybrid Mamba-Transformer architecture activates just 3.6 billion of its 31.6 billion parameters per token, delivering 670 tokens per second—about twice Gemini 3.5 Flash-Lite’s 386 tps—while scoring 24 on the Intelligence Index, on par with OpenAI’s 120-billion-parameter mode
OpenAI COO Brad Lightcap Quits to Start AI-Infrastructure Startup as IPO Looms
Lightcap, who built OpenAI’s finance, legal, security and go-to-market functions, announced his departure to launch a venture tackling AI infrastructure and governance—areas he says could block the technology’s global mission. His exit follows a wave of senior exits as the firm readies for a potenti
Backflip AI, 3D 스캔을 단 몇 분 만에 편집 가능한 CAD로 변환
Backflip AI의 2세대 모델은 가공되지 않은 3D 스캔 및 메쉬 파일을 Autodesk Fusion 내에서 돌출(extrusion), 회전(revolution) 등 완전한 파라메트릭 CAD 작업으로 직접 변환하여, 엔지니어가 즉석에서 치수를 수정할 수 있도록 지원합니다.
Llama.cpp CUDA 수정으로 더 빠르고 안전해진 온디바이스 챗봇
b10327 릴리스는 메모리 부족(OOM) 충돌과 정확도 저하를 유발했던 스레드 블록 계산 오류를 수정했습니다. 이와 함께 NVIDIA의 NeMo 3.0과 AMD의 ROCm이 음성 도구 및 SVDQuant 지원을 추가하며 전체 로컬 AI 스택을 더욱 견고하게 만들었습니다.
Imagine Image 2.0, OpenAI의 디자이너들을 사로잡기 위해 전문 편집 도구를 탑재하다
이 새로운 모델은 이미지 편집 분야에서 1,439점, 텍스트 투 이미지(Text-to-Image) 분야에서 1,320점의 Elo 레이팅을 기록했을 뿐만 아니라, 매직 완드, 세그멘테이션, 스마트 리사이즈와 같은 도구들을 함께 제공하여 제품 사진부터 게임 에셋에 이르기까지 전문적인 작업 파이프라인을 효율화하는 것을 목표로 합니다.
LanceDB, pgvector보다 22배 빠른 10만 개 임베딩 처리 속도
이번 테스트에서 10만 개의 1536차원 OpenAI 임베딩을 인덱싱한 결과, LanceDB는 데이터를 훨씬 더 빠르게 로드할 뿐만 아니라 pgvector가 사용하는 저장 공간의 약 3분의 1만 사용한다는 사실이 밝혀졌습니다. 반면, pgvector는 클라이언트당 프로세스(process-per-client) 모델을 통해 동시성 측면에서 우위를 점했습니다.
Anthropic Cuts 85% of Benign Biology Blocks in Fable 5, Keeps Dual-Use Guardrails
Anthropic retuned Fable 5’s safety classifier, slashing false-positive blocks on routine biomedical questions by roughly four-fifths while preserving hard bans on virology, toxicology and molecular design, and launching a vetted-researcher access program.
800만 달러 규모의 AI 음악 로열티 사기 사건 이후, Suno가 대량 다운로드 제한 조치 시행
자사 모델이 저작권이 있는 곡을 복제할 수 있다는 독일 법원의 판결과 800만 달러 규모의 대형 로열티 사기 사건에 직면한 Suno는, 프롬프트 필터를 강화하고 Audible Magic 및 Musixmatch 스캔 기능을 통합하는 한편 사용자가 한 번에 다운로드할 수 있는 트랙 수를 제한하고 있습니다.
Roku, Fairground와 함께 24시간 AI 생성 FAST 채널 선보여
이 신규 채널은 애니메이션 스타일의 클립, 저예산 CGI, 공포 단편 영상, 그리고 판타지 형식으로 재해석한 '오디세이' 등을 혼합하여 보여주지만, 시청자들은 영상 품질이 매우 불균형하고 광고 삽입이 몰입을 방해한다고 지적합니다.