GyaanSetu AI

AI, మెషిన్ లెర్నింగ్ మరియు LLM అంతర్దృష్టులు.

1515 articlesDeep, practical knowledge

పరిశోధకులు నిశ్శబ్ద డేటా లీక్‌లను వెల్లడించిన రెండు రోజుల తర్వాత, xAI తన Grok బిల్డ్‌ను ఓపెన్ సోర్స్ చేసింది

కొత్తగా విడుదల చేసిన Apache-2.0 రిపోజిటరీలో ఇప్పటికీ ఒక దాగి ఉన్న సర్వర్-సైడ్ ఫ్లాగ్ వెనుక డేటా ఎక్స్‌ఫిల్ట్రేషన్ రూటీన్ ఉంది, మరియు ఇందులో OpenAIకి చెందిన గుర్తింపు లేని కోడ్ స్నిప్పెట్‌లు కూడా ఉన్నాయి. దీని అర్థం డెవలపర్లు ఈ టూల్‌ను ఆడిట్ చేయాలి మరియు బహిర్గతమైన క్రెడెన్షియల్స్‌ను మార్చాలి.

AI · 3 min read

Anthropic యొక్క ఇంటర్‌ప్రెటబిలిటీ పేపర్ దాని $1 ట్రిలియన్ వాల్యుయేషన్ పిచ్‌ను మరింత బలోపేతం చేయవచ్చు

ఈ అధ్యయనం కొన్ని పనులతో సంబంధం ఉన్న పాక్షిక యాక్టివేషన్ మ్యాప్‌లను మాత్రమే అందిస్తుంది, దీనివల్ల కారణం (causation) నిరూపితం కాలేదు. ఇది పారదర్శకత వైపు అడుగులు వేస్తున్నట్లు సూచించినప్పటికీ, డెవలపర్లు దీనిని భద్రతా గ్యారెంటీగా కాకుండా, ఒక ప్రాథమిక నిర్ధారణగా మాత్రమే పరిగణించాలి.

AI · 3 min read

AI ద్వారా సృష్టించబడిన చిత్రాలను కాపీరైట్ కార్యాలయం నిరాకరించింది, కానీ రచయిత యొక్క వచనం మరియు లేఅవుట్‌ను కాపాడింది

గ్రాఫిక్ నవల కోసం Midjourney ద్వారా సృష్టించబడిన చిత్రాలకు కాపీరైట్ రక్షణ లభించదని అమెరికా కాపీరైట్ కార్యాలయం తీర్పునిచ్చింది; అయితే రచయిత రాసిన వచనం మరియు ప్యానెల్స్ అమరికకు కాపీరైట్ మంజూరు చేస్తూ, మానవ ప్రమేయం యొక్క అవసరాన్ని ఇది నొక్కి చెబుతోంది.

AI · 3 min read

CodeQL 2.26.0 ప్రాంప్ట్-ఇంజెక్షన్ క్వెరీని జోడించింది – దీనిని రక్షించడానికి ఒక CI రిగ్రెషన్ ఫిక్చర్‌ను నిర్మించండి

ఇన్-బిల్ట్ CodeQL క్వెరీ, నమ్మకం లేని మూలం (GitHub ఇష్యూ బాడీ వంటివి) నుండి మోడల్-కాలింగ్ SDKకి జరిగే ఏ డేటా ఫ్లోనైనా గుర్తిస్తుంది. పాజిటివ్ మరియు నెగటివ్ టెస్ట్ ఫైళ్లను expected-alerts.json కాంట్రాక్ట్‌తో కలిపి ఉపయోగించడం ద్వారా, మీరు ఆ గుర్తింపును బిల్డ్-టైమ్ గేట్‌గా మార్చవచ్చు.

AI · 4 min read

క్యాష్ సైడ్-ఛానల్ దాడులు నడుస్తున్న AI మోడళ్ల నుండి డేటాను దొంగిలించగలవు

క్యాష్ రీడ్/రైట్ టైమింగ్‌ను పర్యవేక్షించడం ద్వారా, దాడి చేసేవారు ఇన్‌పుట్ డేటాను మరియు మోడల్ నేర్చుకున్న వెయిట్స్ (weights) యొక్క భాగాలను కూడా తెలుసుకోగలరు; ఇది కాన్స్టెంట్-టైమ్ కోడ్ లేదా మోడల్ ఎన్‌క్రిప్షన్ ఉన్నప్పటికీ కొనసాగే ఒక భద్రతా లోపం.

AI · 3 min read

డౌన్‌స్ట్రీమ్ Electron 42.6.0 లైనక్స్ మెసేజ్-బాక్స్ క్రాష్‌లను నిలిపివేస్తుంది

డౌన్‌స్ట్రీమ్ మెయింటైనర్ రెండు GTK కాల్స్‌ను పునఃక్రమపరచడం ద్వారా, లైనక్స్‌లో Qt-ఆధారిత Electron యాప్‌లకు సెగ్మెంటేషన్ ఫాల్ట్‌లను కలిగించే నల్-పాయింటర్ డెరెఫరెన్స్‌ను నివారించారు. ఇదే మార్పు ఒక ఓపెన్ అప్‌స్ట్రీమ్ PRలో కూడా ఉంది, కానీ వినియోగదారులు ఇప్పుడు వెర్షన్ 42.6.0తో ఈ పరిష్కారాన్ని పొందవచ్చు.

AI · 2 min read

Honcho Swaps Long-Lived DB Sessions for Short Ones to Cut LLM Latency

The Honcho team discovered that keeping a database connection open while waiting on slow LLM or embedding calls can hog the connection pool. By moving to pre-flight reads, closing the session, and reopening only for writes, they reduced latency and improved scalability.

AI · 1 min read

350M LLM ఏజెంట్ పూర్తిగా మీ బ్రౌజర్‌లోనే నడుస్తుంది—క్లౌడ్ ఫీజులు సున్నా

ఈ అసిస్టెంట్ మోడల్ వెయిట్స్‌ను ఒక స్టాటిక్ వెబ్‌పేజీతో పాటు అందిస్తుంది మరియు ఎనిమిది టూల్స్, గ్రామర్-కన్‌స్ట్రెయిన్డ్ డీకోడింగ్ మరియు RAGని ఉపయోగిస్తుంది; ఇవన్నీ కేవలం ఒకే ఒక 16 GB GPUపై 30 M టోకెన్లతో శిక్షణ పొందాయి.

AI · 3 min read

Attention Sink Detector Shows Pruning BOS Token Crashes LLM Performance

The detector records raw attention scores across all heads, aggregates them layer-wide, and uses a log-MAD test to flag tokens that swallow the bulk of attention. Removing these “sink” tokens from the KV cache destabilises generation and slashes quality.

AI · 3 min read

AI-ఆధారిత కోడింగ్ ఏజెంట్ల కోసం OpenAI $230 ధర కలిగిన Codex Micro కీబోర్డ్‌ను విడుదల చేసింది

Codex Micro లో వెలిగే ఏజెంట్ కీలు, ప్రోగ్రామబుల్ షార్ట్‌కట్‌లు, ఒక జాయ్‌స్టిక్ మరియు రీజనింగ్ డయల్ ఉన్నాయి. ఇవన్నీ నేరుగా ChatGPT డెస్క్‌టాప్ యాప్‌కు అనుసంధానించబడి ఉంటాయి, దీనివల్ల డెవలపర్లు తమ IDE నుండి బయటకు రాకుండానే బహుళ AI ఏజెంట్లను పర్యవేక్షించవచ్చు మరియు నియంత్రించవచ్చు.

AI · 3 min read

కంప్యూట్ కంటే కోల్డ్ స్టార్ట్‌ల వల్ల AWS Lambda AI ఏజెంట్లకు ఎక్కువ ఖర్చు అవుతోంది

Lambdaలో AI ఏజెంట్‌ను రన్ చేయడం మిల్లీసెకన్ల పరంగా చౌకగా అనిపించవచ్చు, కానీ అసలు ఖర్చు కోల్డ్-స్టార్ట్ లేటెన్సీ, బహుళ మోడల్ కాల్స్‌ను ప్రేరేపించే రీట్రై లూప్‌లు మరియు దాని వల్ల కలిగే టోకెన్ వినియోగం నుండి వస్తుంది, ఇది కంప్యూట్ ఛార్జీ కంటే చాలా ఎక్కువగా ఉంటుంది.

AI · 3 min read